4일 ‘인공지능과 인권’ 심포지엄 열려
이숙연 특허법원 고법판사
“AI 개발·활용 막는 규제는 제거하되
공정 경쟁 보장할 법률적 장치 필요”
사단법인 올(이사장 전효숙), 법무법인 원(대표 강금실·윤기원) 인공지능팀, 여성신문(대표 김효선)이 4일 오후 2시 서울시 강남구 모두의연구소 강남캠퍼스에서 ‘인공지능과 인권’ 심포지엄을 공동 개최했다. 과학기술·법조계 전문가들이 모여 인공지능의 편향성부터 개인정보 침해, 살상무기 개발 규제, 기술소외 문제 등 다양한 논의를 펼쳤다.
AI, 편향성과 ‘가짜뉴스’만이 문제가 아니다. 인간 개입 없이 독립적으로 목표물을 택해 공격할 수 있는 자율살상무기, 생화학무기 등 위험한 기술 개발에도 쓰일 수 있다. 지난 11월 미국·영국·캐나다·프랑스·한국·일본 등 28개국과 유럽연합(EU), 마이크로소프트, 메타 등 기업이 AI 위험성을 평가하고 관리하기로 한 ‘블레츨리 선언’을 발표한 배경이다.
이숙연 특허법원 고법판사는 이를 포함해 AI 기술에 대한 국제적 규범에 관한 각국의 논의와 동향, 제언을 발표했다.
최근 러시아군이 우크라이나 침공에 ‘킬러 드론’을 동원하면서 AI 무기는 이미 현실의 문제가 됐다. UN 등은 국제법 적용과 준수를 강조하는 한편, 자율살상무기 사용의 책임을 기계에 전가할 수 없으며 무기 체계 개발 시 최소한의 인간 통제가 필요하다는 입장을 채택하고 있다. 이 판사는 “핵확산방지조약(NPT), 화학무기·생물무기 금지협약 등 AI를 활용한 살상무기 등을 제한할 국제규범이 필요하다”고 봤다.
AI가 감시·검열에 활용되지 않게 막아야 한다는 공감대도 형성되고 있다. 유네스코, 유럽연합(EU) 등은 시민 신용도 평가 과정에서 AI, CCTV 등을 활용해 개인정보를 수집·분석·평가·분류하는 행위와 이러한 용도의 AI 서비스를 금지하고 있다.
또 AI가 학습하는 데이터는 대부분 우리의 개인정보다. 방대한 사용자 데이터를 보유·활용할 수 있는 소위 ‘빅테크’ 기업들을 두고 ‘데이터 독과점’ 비판이 나오는 이유다.
이 판사는 “데이터의 공유·활용에 관한 규범을 만들어야 한다”며 “지나치게 과거의 데이터나 편향된 데이터를 쓰지는 않았는지 파악하기 위해 어떤 데이터를 사용하는지 명시할 필요도 있다”고 했다. 소수자의 데이터를 중복으로 반영하거나 데이터 결합·교차로 데이터 양 자체를 늘리는 방안도 제시했다.
AI 알고리즘은 대부분 기업 비밀로 외부에 공개되지 않는다는 점도 문제로 지적돼 왔다. 알고리즘 편향성 논의가 도돌이표를 그리는 이유 중 하나다. 이 판사는 “데이터에 편향이 없어도 알고리즘에서 차별적이거나 의도치 않은 결과가 나타날 수 있어 배치 전 결과물의 편향성을 테스트하고 주기적으로 추적·개선할 필요가 있다”고 했다.
이 판사는 “국가와 사회가 추구해야 할 AI 관련 가치와 원칙을 가이드라인으로 정해 공유할 필요가 있고, 공공 영역에서 이뤄질 수 있는 인권침해에 대해서는 사전적 규제가 필요하다”고 제언했다. 또 “AI 개발·활용의 걸림돌이 되는 규제는 제거하고, AI 개발 원료인 학습 데이터를 풍부하게 공급하고, 거대 기업의 데이터 독점이 아닌 데이터 공유·재활용 등을 통한 공정한 경쟁을 보장할 법률적 장치가 필요하다”고 했다.
토론자로 나선 정석윤 법무법인 원 변호사는 “AI 기술 개발을 위한 국가 간 경쟁이 치열한 상황에서, AI 발전 촉진을 위한 규제 정비와 AI 기술의 적절한 이용을 위한 규제는 모순돼 보일 수 있으나 어느 것도 포기할 수 없는 목표”라며 “국가별 규제만으론 어렵다. 국제 공조를 넘어서는 국제적 단위에서의 국제규범 정립이 필요하다. 이를 위해 OECD나 UN 또는 별도의 국제기구를 설립해 더 적극적인 역할을 하도록 할 필요가 있다”고 했다.