"AI 부정적 영향 우려" 인권위, 인권영향평가 활용 권고

[이데일리 손의연 기자] 국가인권위원회(인권위)는 지난 5월 23일 과학기술정보통신부장관에게 인공지능(AI)의 개발과 활용으로 인한 인권침해 및 차별이 발생하지 않도록 관련 정책에 인권영향평가 도구를 활용할 것을 권고했다고 8일 밝혔다. 이와 함께 인권영향평가가 법제화되기 전까지 공공기관·민간이 개발하거나 활용하는 모든 AI에 대한 자율적 인권영향평가가 수행될 수 있도록 평가 도구를 보급할 필요가 있다는 의견을 표명했다.

인권위 (사진=이데일리DB)

AI 기술이 발전하고 있는 반면 AI로 인한 인권침해와 차별 등 부정적 영향에 대한 우려도 점점 커지고 있다.

유엔과 세계 각국은 공공부문 AI와 민간부문 고위험 AI이 사람들에게 미치는 부정적 영향에 주목하고 이를 예방하고자 하고 있다. 단순한 윤리기준을 넘어서는 다양한 영향평가를 제안하고 도입하는 추세다.

인권위는 ‘AI 인권 가이드라인 권고’, ‘AI 법률안에 대한 의견표명’ 등을 통해 정부와 국회에 ‘인공지능 인권영향평가’의 도입을 촉구한 바 있다. 기존의 개별법령에 따른 각종 영향평가 제도나 부처별 AI 윤리기준 자율점검표 등이 있지만 고위험 AI의 인권침해 위험성을 효과적으로 통제하는 데 한계가 있다는 지적이 있는 상황이다.

인권위는 인권적 관점에서 AI 시스템의 부정적 영향을 식별, 방지, 완화하고 피해를 구제하기 위한 구체적 기준으로서 AI 인권영향평가 도구를 마련했다.

인권위 관계자는 “72개의 문항으로 구성된 평가 도구를 통해 AI의 개발 및 활용 주체가 기술적 위험성뿐만 아니라 인권에 미치는 영향 및 심각도를 총체적으로 점검할 수 있도록 하는 한편, 별도의 해설을 제공하는 등 가급적 평가 부담이 완화될 수 있도록 노력했다”며 “AI 인권영향평가가 법제화되는 계기가 마련되기를 기대한다”고 밝혔다.