인권위 “정부, AI로 인한 인권침해 막고 피해 구제해야”

(인간의 존엄성 및 개인의 자율성과 다양성 보장) AI는 인간으로서의 존엄과 가치 및 행복을 추구할 권리에 부합하는 방향으로 개발‧활용돼야 하며, 개인의 선택과 판단 및 결정을 강요하거나 자율성을 침해해서는 안 된다.

(투명성과 설명 의무) AI 기술을 활용한 판단 과정과 그 결과에 대해 적절하고 합리적인 설명이 보장돼야 한다. 특히 AI가 개인의 생명이나 안전 등 기본적 인권에 중대한 영향을 미치는 경우 사용한 데이터와 알고리즘의 주요 요소를 일반에 공개하고 설명할 수 있어야 한다.

(자기결정권의 보장) AI의 개발‧활용 시 개인정보는 목적달성에 필요한 최소한의 범위 내에서 처리해야 하며, 그에 필요한 최소한의 기간 동안만 보관해야 한다. 또한 이러한 개인정보 처리 방침은 정보 주체가 확인할 수 있도록 공개해야 한다.

(차별금지) AI의 결정이 특정 집단이나 일부 계층에 차별적이거나 부당한 영향을 초래하지 않고 개인의 안전이나 권리에 차별적 영향을 미치지 않도록 필요한 조치를 해야 한다.

(AI 인권영향평가 시행) 국가는 AI 개발 및 활용과 관련해 인권침해나 차별이 발생할 가능성을 고려한 인권영향 평가제도를 마련하고, 평가 결과 부정적 영향이나 위험성이 드러난 경우 이를 방지할 수 있는 조치사항을 적용하며 그 내용을 공개해야 한다.

(위험도 등급 및 관련 법·제도 마련 등) AI가 개인의 인권과 안전에 미치는 위험성을 단계별로 구분하고, 그에 걸맞은 수준의 규제와 인적 개입이 이루어지도록 법과 제도를 마련해야 한다.

또한 국가는 AI를 독립적이고 효과적으로 감독할 수 있는 체계를 수립해 개인의 인권과 안전을 보장하고, AI 때문에 피해를 입은 사람이 진정을 제기하는 등의 방법으로 권리구제를 받을 수 있는 기회를 제공해야 한다.