미국 백악관이 인공지능(AI)의 부작용을 방지하기 위한 권고안 지침을 제시했다

4일(현지시간) 미국 지디넷에 따르면 백악관 과학기술 정책실은 자동화 시스템의 설계, 사용 및 배포에 대한 5가지 원칙을 발표했다.

이번 권리장전의 원칙은 AI로 인한 잠재적 피해를 방지하기 위한 것으로 ▲안전하고 효과적인 시스템 ▲알고리즘의 편견 방지 ▲데이터 보호 ▲충분한 주의사항 및 설명 ▲대안 서비스 및 대체 마련 등으로 이뤄졌다.

백악관 측은 “발표한 권리 장전은 AI를 다루는 기업과 정부 기관을 대상으로 하며, 대중의 권리, 기회 또는 중요한 자원이나 서비스에 대한 액세스에 의미 있는 영향을 미칠 가능성이 있는 자동화 시스템에 적용된다”고 설명했다.

더불어 반드시 필요한 정보만 개인의 허락을 받아 수집하고, 의료, 교육, 금융 등 민감한 정보가 유출되지 않도록 안전장치를 마련할 것을 요구했다.

최근 IT 및 클라우드 기술의 급격한 발전으로 AI가 산업 전반에 걸쳐 활용되고 있다. 반면 딥페이크 등 AI를 악용한 사이버범죄도 증가하고 있어 이를 막기 위한 방안 마련도 시급해지는 상황이다.

일부 비평가들은 AI 권리장전은 단순권고안으로 구속력이 약하다는 점을 지적하며, 보다 실질적으로 AI를 제한할 수 있는 규제안이 필요하다고 지적했다.

(지디넷코리아=남혁우 기자)