TRAIN 글로벌, 22~23일 그래비티 서울 판교서 첫 국제 심포지엄
인공지능(AI) 신뢰성 강화를 위해 한국과 동남아시아의 민간 전문가들이 한자리에 모였다. ‘신뢰할 수 있는 인공지능 국제 연대(TRAIN 글로벌)’가 22일과 23일 경기도 성남시 그래비티 서울 판교 오토그래프 컬렉션에서 첫 국제 심포지엄을 열었다.
김완진 TRAIN 글로벌 준비위원장은 22일 기조연설에서 “AI 신뢰성을 확보하기 위해 뭉친 아시아 각국 민간 전문가가 모여 국경 없는 지식 공유 플랫폼을 제공하는 첫 행사를 열었다는 건 의미가 크다”고 평했다. 정호원 고려대 경영학과 명예교수는 “3년 전 EU의 AI Act 발표 이후 AI 신뢰성에 대한 규제가 새로운 국면에 접어들었고, 이어진 미국 행정명령으로 글로벌 AI 산업계가 크게 동요하게 됐다”며 “글로벌 규제 뒤에 숨어 있는 의미를 파악하고, 변화하는 규제 환경 속에서 우리의 위치를 확고히 해야 할 시점”이라고 했다.
이어 기술, 교육, 법‧제도‧정책 3개 세션별 주제 발표가 이어졌다. 기술 세션에선 AI 신뢰성을 위한 기술적 진단 모델과 전략적 실행 방안(오스만 아티프 씽크포비엘 연구원), 씽크포비엘이 그간 수행해 얻은 AI 신뢰성 진단 모델 적용 사례(천선일 씽크포비엘 책임연구원) 등을 소개했다. 안선호 KTL AI팀장은 AI 적합성 평가를 위해 국제표준화기구가 개발 중인 국제표준에 대해 조명하고, AI 산업의 성장과 혁신을 위해 설립된 산업AI국제인증포럼에서 제공하는 적합성 평가에 관해 설명했다. 박주식 포티투마루 이사는 대규모 언어 모델(LLM) 도입 시 고려해야 할 환각‧보안‧비용 문제를 지적했다. 환각 현상을 방지하고 ‘신뢰할 수 있는 앤서링 AI(Answering AI)를 구현한 실제 사례도 공개했다.
텝차이 숩니티(Thepchai Supnithi) 태국 국립전자컴퓨터기술원(NECTEC) AI연구그룹 이사와 흥 팜(Hung Pham) 베트남 ‘VTC’ AI 연구원은 각각 태국 현지 의료‧농업 등 AI 연구개발 과정과 베트남 VTC 사례를 통한 AI 응용 과정 등을 소개했다.
박현희 국민대 행정학과 교수가 좌장을 맡은 교육 세션에선 김명락 초록소프트 대표가 AI 개발 인력에 필요한 지식 영역을 분류해 제시했다. 김 대표는 “신뢰할 수 있는 AI를 개발하기 위해서는 전문적이면서 세분된 지식이 필요한데, 이는 AI 라이프사이클과 유사한 7개 영역으로 구분할 수 있다”며 “AI 기술을 더욱 안전하게 관리하려면 올바른 AI를 만들 수 있는 전문가를 양성해야 하고, 이를 위해 지금이라도 실천적인 준비가 이뤄져야 한다”고 했다.
전창배 국제인공지능윤리협회(IAAE) 이사장은 “AI 기술과 산업이 발달할수록 AI 신뢰성과 윤리 영역에서 전문가 수요는 계속 증가할 것”이라며 “AI 신뢰성 검증‧인증을 위해서는 관련 전문가가 필요한 만큼, 각국 민간 조직이 구성한 TRAIN에서 전문가를 양성하고 공인된 자격증을 개설하는데 역량을 기울일 계획”이라고 말했다. 제랄드 아리프(Gerald Arif) 인도네시아 아시아사이버대 총장 고문과 찌에우 응우옌(Trieu Nguyen) 베트남 ‘VTC’ R&D센터장은 각국 교육계의 AI 신뢰성 교육 로드맵과 학습 경험, 방법 등을 소개했다.
법무법인 원 고인선‧오정익 변호사가 각각 좌장을 맡은 법‧제도‧정책 세션에서는 이유정 법무법인 원 변호사(AI 대응팀장)가 ‘AI와 인간의 공존을 위한 법과 윤리’를 주제로 강연했다. 이 변호사는 “AI 기술은 인간에게 더는 선택이 아닌 삶의 일부가 됐고, AI 기술로 인해 기존 법률과 윤리로 해결할 수 없는 문제가 늘었다”며 “죽음 이후 인격권의 침해 문제, 딥페이크 범죄, 로봇의 인격권 등 새로운 법적 문제가 등장하는 상황에서, 새로운 법과 윤리의 문제를 면밀하게 살피고 AI와 인간이 공존할 방안을 모색해야 한다”고 했다.
김윤명 경희대 법학과 교수는 “데이터사이언스 분야에서도 데이터 자체 신뢰성을 위해 처리 과정 및 결과의 투명성을 확보해야 한다”며 “이를 교육 정책적으로 어떻게 뒷받침하는 게 바람직할지 모두가 고민할 시기”라고 강조했다.
김영찬 전주정보문화산업진흥원 ICT융합산업팀 선임은 AI 시대 지역 격차 해소 방안에 주목했다. “AI 신뢰성 역량을 갖춘 인력을 지역 사회가 육성할 수 있도록 진흥원이 장기적인 안목을 갖고 접근할 필요가 있다”며 “전국의 진흥원이 서로 연계해 범 지역 추진체로서 역할을 맡는 게 하나의 방법”이라고 봤다.
전영준 부산IT융합부품연구소 실장은 AI 신뢰성 분야 관련 지역 특화 산업 육성을 주장했다. “AI 신뢰성처럼 새로운 기술이 도입되면 수도권과 지역의 출발선이 같아지는 효과가 생기고, 산업 생태계가 완전히 달라져 모두가 제로에서 출발하면 지역 격차가 무의미해질 수 있다”며 “특히 지역거점 특화 산업으로 육성하면 역으로 수도권 기업을 지방으로 유치할 수 있는데, 증강 데이터와 같은 일종의 가짜 데이터로 AI를 학습시키는 ‘시뮬레이션’을 지역거점 특화 산업으로 육성하자”고 했다.
안소영 LG AI연구원 정책수석은 ‘LG AI연구원 사례를 통한 기업의 AI 윤리 실천 전략’을 소개했다. 연구원은 지난 1년간 AI 윤리 실행 성과를 담은 ‘2023년 LG AI 윤리 책무성 보고서’도 발간했다. 안 수석은 “최근 AI 윤리원칙 실행을 위한 거버넌스를 구축해 구성원 참여 증진과 기술적 해결 등의 성과를 거뒀다”며 “AI 윤리 ‘책무성’은 기업이 당연히 이행해야 하는 법적 책임을 넘어, 자신의 행동과 결정에 책임감을 느끼고 그 과정을 설명할 수 있어야 한다는 의미를 담고 있다”고 덧붙였다.
아피바디 피야툼롱(Apivadee Piyatumrong) 태국 ‘NECTEC’ 선임연구원은 태국의 AI 표준에 관한 연구와 태국 국가 AI 전략의 주요 요소를 설명하고, AI 신뢰성 관련 정책과 법안 등을 소개했다.
이번 심포지엄은 ‘TRAIN 글로벌’이 주최, 산하 ‘TRAIN 코리아’가 주관했고, 부산IT융합부품연구소(CIDI), 전주정보문화산업진흥원(JICA), 한국산업기술시험원(KTL), 한국소프트웨어산업협회(KOSA)가 후원했다. 국내외 정부‧공공기관과 AI 관련 기업‧협회‧단체, 법조계와 학계 관계자가 참석했다.
TRAIN은 글로벌 AI 기술과 산업‧시장이 급변하는 상황에서 이질적인 문화와 제도‧정책으로 야기되는 다양한 문제를 민간이 공동 대응함으로써 AI 신뢰성을 확보‧강화하고자 출범했다. ‘TRAIN 글로벌’을 중심에 두고 한국‧베트남‧태국‧중국 등 개별 국가가 연결된 국제 조직이다. 일본‧싱가포르‧말레이시아‧인도네시아 등도 합류 준비 중이다. 앞으로 각국의 AI 기술 동향과 제도‧정책 관련 정보를 공유하고, 인증을 비롯한 각종 규제에 기업 등이 대응할 수 있도록 국제 연대를 강화해 나갈 방침이다.
김완진 준비위원장은 “TRAIN은 앞으로 ‘공유’와 ‘교류’, ‘협력’이라는 실행 원칙에 따라 각자가 가진 지식‧경험‧정보 등을 공개하고 협력으로 이끄는 노력을 기울일 것”이라며 “이를 통해 단기적으로는 강화하는 글로벌 규제에 대응할 수 있는 기업 ‘컨설팅’에 나서고, 장기적으로는 실무에 즉시 투입할 수 있는 전문가 양성 및 이들을 위한 자격증 과정을 마련해 나갈 계획”이라고 말했다.