인공지능 개발과 활용에 있어서 인권 보호를 위해 인권영향평가 실시 필요

인권위 「인공지능 인권영향평가 도구」 마련, 「인공지능 인권 가이드라인」(’22)에 이은 구체적인 인권 보호 기준 제시

 

국가인권위원회는 2024년 5월 23일 과학기술정보통신부장관에게, 인공지능의 개발과 활용으로 인한 인권침해 및 차별이 발생하지 않도록 관련 정책·사업계획의 수립·이행 시에 「인공지능 인권영향평가 도구」를 활용하고, 인권영향평가가 법제화되기 전까지 공공기관이 직접 개발하거나 활용하는 모든 인공지능과 민간 부문의 고위험 인공지능에 대한 자율적 인권영향평가가 수행될 수 있도록 위 평가 도구를 보급할 필요가 있다는 의견을 표명하였다.

 

인공지능 기술의 발전과 확산이 우리 사회와 인간의 삶에 끼칠 긍정적 변화와 영향에 대한 기대가 높아지는 반면, 인공지능으로 인한 인권침해와 차별 등 부정적 영향에 대한 우려도 점점 커지고 있다.

 

인공지능 시스템은 특유의 불투명성과 파급효과 등으로 인하여 사후적인 피해구제나 제재가 어렵기 때문에 인공지능의 개발 및 활용에 있어 사전예방적 인권영향평가의 도입 및 실시가 필요하다.

 

특히 유엔과 세계 각국은 공공부문 인공지능과 민간부문 고위험 인공지능이 사람들에게 미치는 부정적 영향에 주목하고, 이를 사전에 예방하고 관리하기 위한 방안으로 단순한 윤리기준을 넘어서는 다양한 영향평가를 제안하고 도입하는 추세에 있다.

 

인권위는 ‘인공지능 인권 가이드라인 권고’(2022년), ‘인공지능 법률안에 대한 의견표명’(2023년) 등을 통해 정부와 국회에 ?「인공지능 인권영향평가」?의 도입을 촉구한 바가 있다.

 

이에 인권위는 인권적 관점에서 인공지능 시스템의 부정적 영향을 식별, 방지, 완화하고, 피해를 구제하기 위하여 개발 및 활용 주체가 적용할 수 있는 구체적인 기준으로서 「인공지능 인권영향평가 도구」를 마련하였다.

 

총 4단계 72개의 문항으로 구성된 평가 도구를 통해 인공지능의 개발 및 활용 주체가 기술적 위험성뿐만 아니라 인권에 미치는 영향 및 심각도를 총체적으로 점검할 수 있도록 하는 한편, 별도의 해설을 제공하는 등 가급적 평가 부담이 완화될 수 있도록 노력하였다.

 

인권위는 「인공지능 인권영향평가 도구」의 보급을 통해 인공지능 기술이 인권친화적으로 개발·활용되는 한편, 인공지능 인권영향평가가 법제화되는 계기가 마련되기를 기대한다.

 

작성 2024.07.09 09:42 수정 2024.07.09 09:53
Copyrights ⓒ 코스미안뉴스. 무단 전재 및 재배포금지 최우주기자 뉴스보기
댓글 0개 (/ 페이지)
댓글등록- 개인정보를 유출하는 글의 게시를 삼가주세요.
등록된 댓글이 없습니다.
2023-01-30 10:21:54 / 김종현기자