구글코리아 ‘책임감있는AI포럼’
전문가들 “고영향 AI 범주 모호...
산업 생태계 관점 반영해 법안 개정해야”
구글코리아 디지털책임위원회가 운영하는 ‘책임감있는AI포럼’에서 전문가들의 AI 기본법 개정 의견이 잇따라 제기됐다.
책임감있는AI포럼은 구글코리아가 책임감 있는 디지털 생태계 조성을 위해 지난해 초 발족한 디지털책임위원회 산하 포럼 중 하나다. 올해는 법조계, 정책, IT·기술, 스타트업 등 각계 전문가 14인이 참여, 연간 4회에 걸쳐 AI 발전 관련 국내외 법제화 동향과 사회윤리적 문제 등을 살펴보고 보다 책임감 있는 AI 개발과 활용 방안을 모색한다.
지난 21일 열린 2회차 포럼에서는 AI 기본법상 안전성·투명성 확보 의무에 대한 비판적 의견이 제기됐다. 참석 전문가들은 다양한 층위의 AI 산업에 안전성·투명성 확보 조치를 일괄적으로 강제하는 규정이 과잉 규제에 해당할 수 있다고 주장했다.
지난 12월 국회를 통과해 지난 1월부터 시행된 AI 기본법은 급격하게 발전하는 AI 기술로 인한 여러 위험을 예방하고 국민 기본권을 보호하고자 AI 안전성·투명성 확보 조치와 AI 영향 평가를 의무화하고 있다.
참석 전문가들은 “스타트업을 비롯한 다양한 주체의 책임 부담과 AI 기술의 발전 속도, 국제 규범과의 정합성 등이 AI 영향 평가 시 두루 고려돼야 한다”며 “AI 활용의 책임성과 규제의 정당성을 확보하는 데 보다 유연하고 단계적인 접근 방식이 필요하다”고 입을 모았다.
이상용 건국대 법학전문대학원 교수는 “AI 산업 변화에 대응하기 위해 유연하고 자율적인 규제와 국가적 전략 및 방향성이 필요하다”고 강조했다.
권은정 가천대 법과대학 교수는 “다변화되는 리스크 유형을 고려한 AI 규제 법제화와 정부와 민간이 협력하는 AI 평가 통합 플랫폼 구축이 필요하다”고 제안했다.
책임감있는AI포럼 의장을 맡고 있는 최재식 카이스트 김재철AI대학원 교수는 “기존 AI 서비스들이 갖는 한계와 취약성에 얼마나 잘 대응하는지가 앞으로 AI의 책임성과 안전성, 나아가 AI 리더십의 향배를 결정짓는 요인이 될 것”이라고 밝혔다.
앞서 지난 3월 1회차 포럼에 참석한 전문가들은 AI 기본법이 규정한 ‘고영향 AI’의 구체적 범주가 모호해 법률 적용 시 해석의 차이가 발생할 수 있다고 지적했다. AI 기본법은 인간의 생명과 안전, 기본권에 중대한 영향을 미칠 수 있는 AI 시스템을 11개 분야에 걸쳐 ‘고영향 AI’로 규정하는데, 그 기준이 불분명하다는 주장이다.
참석 전문가들은 “AI 산업 생태계의 관점과 현황이 충분히 반영되도록 법안을 개정해야 한다”며 “모호하거나 중복되는 조항은 재정비하고 후속되는 책무 및 절차를 보완해 갈 필요가 있다”고 의견을 모았다.
하반기 책임감있는AI포럼에선 AI 에이전트, AI 로봇기술 등 산업 전반에 혁신적인 변화를 가져올 AI 기술의 영향과 전망을 살펴볼 예정이다.