세계 첫 ‘AI법’ 제정한 EU...스타트업은 어떻게 해야 할까

[AI랑 산다]
유럽 최대 스타트업 축제
2023 비바테크놀로지 탐방기
전문가들, AI 윤리 강조...규제 논의 활발

지난 14일(현지시간) 프랑스 파리에서 열린 비바테크놀로지(VivaTechnology) 행사 중 AI 규제에 대한 패널 토크 현장. ⓒ유재연 옐로우독 AI펠로우 제공

프랑스 파리에서 열리는 유럽 최대 스타트업 축제, 비바테크놀로지(Viva Technology) 전시회에 1년 만에 왔다. 올해는 규모를 더욱 키워서 기존의 두 배에 달하는 공간에서 진행됐고, 주최 측에 따르면 총 약 15만명이 이곳을 다녀갔다. 올해 주빈국은 한국이었고, 전시회 전체에서 중요하게 다룬 이슈는 스포츠, 기후테크, 그리고 AI였다. 참고로 스포츠가 주요한 주제로 꼽힌 것은 2024 파리올림픽 때문이다.

AI 분야에서 특히 눈길을 끌었던 것은, 14일(현지시간) 유럽의회를 통과한 AI법(AI Act) 초안 이슈였다. AI 생태계에 얽힌 거버넌스를 결국 EU가 가져갈 것인지에 대한 토론이 이어졌다. 이미 EU는 2018년 GDPR(일반 데이터 보호 규정, 개인 데이터 수집 관련 원칙을 담고 있다)발효를 통해 웹/앱 기반 서비스를 비롯한 IT 산업 전반 강력한 규제를 진행한 바 있다. 가장 와닿는 변화는 웹사이트마다 뜨는 쿠키 설정 팝업창일 것이다. 우리가 국내에서 해외 사이트에 접속하거나, 해외에서 한국 사이트에 접속하면 무조건 데이터 수집에 대한 설정 및 동의 창이 뜬다. 이것이 GDPR 발효 이후 모든 웹사이트에 공통적으로 적용되는 원칙 중 하나다.

GDPR 때와 마찬가지로, 현행 AI 법안이 이대로 통과돼 EU 가입국 전반에 적용되면, AI 알고리즘을 활용하는 회사들은 어떤 데이터가 수집되고 예상되는 활용 결과는 무엇인지를 EU에 낱낱이 알려야 한다. 이렇게 되면 알고리즘 학습 데이터의 출처를 밝힌다는 지점에서, 개인 또는 단체들이 해당 알고리즘에 대한 일종의 지분을 주장할 수 있게 된다. 뿐만 아니라, 사용성을 강조하며 최소한의 상호작용만 허용해 오던 수많은 앱 디자인들이, 이제 유럽에 진출하려면 다소 까다로운 디자인을 제공해야 할 것으로 보인다. 사용자가 해당 앱을 쓰기 위해 읽고 지나가야 하는 고지사항도 그만큼 늘기 때문이다. 나아가 높은 과징금을 물지 않기 위해서는 꼼꼼한 법률적 검토도 필수적이다.

‘규제 강국’에서 열린 스타트업 행사인 만큼, 전 세계에서 몰려든 생태계 이해관계자들도 AI 규제와 관련해 다양한 의견을 냈다. 행사 마지막 날 키노트에 등장한 일론 머스크 테슬라 CEO도 “초고도화된 AI(Digital Super Intelligence)가 만들어 낼 결과물에 대해 우리 모두 완벽하게 알지 못하기 때문에 이에 대한 규제는 분명히 있어야 할 것”이라며 AI 기술 전반에 대해 규제를 둘러싼 인사이트를 강조했다. 그러나 일부에선 ‘새로운 진입장벽’이라는 관점에서 실질적인 고민도 드러냈다. 대기업뿐 아니라 스타트업 또한, EU 시장에 진출하기 위해선 그에 대한 비용을 새로 산정해야 하기 때문이다. 새로 생긴 규제와 그에 얽힌 자사 프로덕트의 리스크를 검토하기 위해 변호사를 선임하고 전문가를 고용하는 것을 넘어, 어쩌면 인증 마크 같은 라이센스가 필요해질 수도 있다.

AI 윤리 이슈를 권력의 문제로 다루는 의견도 있었다. 연사로 나선 퍼스-버터필드 세계경제포럼(WEF) ‘신뢰할 수 있는 기술 센터’의 대표 디렉터는 AI 규제가 일종의 지정학적 문제로도 작동할 수 있다며, 국가적으로 규제를 지킬 수 있도록 하는 예산 편성과 전략을 고민해야 한다고도 말했다. 대표적으로 싱가폴 정부 조직은 매우 애자일(Agile)하게, 즉 유동적으로 피드백을 빠르게 주고받으며 AI 관련 문제에 대응하고 있다는 지점에서 매우 흥미로운 사례라고 언급했다.

그렇다면 스타트업들은 어떻게 대처해야 할까? 무엇보다도 AI의 설계 및 활용에 있어 규제에 얽힌 이슈를 수요자 및 공급자 양측에서 모두 선제적으로 대처할 수 있어야 장기적으로 비용을 절감할 수 있다는 의견이 지배적이다. 술리에-포겔만 프랑스 AI 허브의 어드바이저는 “이미 시장 전체에서 AI를 협력자, 즉 코파일럿(co-pilot)으로 바라보는 것에 대한 큰 동의는 이뤄진 것으로 보인다”며 “중요한 것은 데이터에 대한 전략”이라고 강조했다. 사용자든 서비스 제공자든, 데이터를 민감하게 바라보는 눈이 중요하다는 것이다. 그러려면 AI에 대해 잘 알고, 스스로 훈련도 받고, 그로써 개인 본인의 데이터는 물론 회사의 데이터도 잘 지킬 수 있는 안목을 길러야 한다고 그는 말했다.

그러나 모두가 혼자만의 힘으로는 하기 힘든 법이다. 이에 대해 퍼스-버터필드 디렉터는 “스타트업들은 밑바닥에서부터 책임감 있는 AI에 대해 신경 쓸 수 있는 VC(벤처캐피털)를 만나야 한다”고 했다. 토론에 참여한 알라노카 미국 하버드대 AI 거버넌스 연구원은 이후 별도로 만난 자리에서 “특히 스타트업 생태계에 AI 윤리에 대해 강력한 힘이 작동하기가 어려운데, VC를 비롯한 이해관계자들의 적극적인 대처가 더욱 절실하다”고 했다.

AI에 얽힌 규제를 잘 지킨다는 것은, 다른 관점에서 보면 결국 장기적으로 나타날 수 있는 리스크를 줄이는 것이다. 베세가 익스트림네트웍스 CTO는 “업체들은 데이터 과학자나 AI 리서처 고용에만 얽매이지 말고, 오히려 공정함이란 무엇인지, 편향이란 어떤 것인지를 아는 것이 훨씬 중요하다”고 말했다. 도덕적으로 옳고 그른 것에 대해 깊이 있게 생각하고, 자사 제품·서비스의 기반을 이 기회에 재검토할 필요가 있다는 것이다.

소셜임팩트 벤처캐피털 옐로우독에서 AI펠로우로 일하고 있다. 인간-컴퓨터 상호작용 분야에서 박사과정을 수료했고, 주로 인공지능 기술과 인간이 함께 협력해가는 모델에 대해 연구하고 있다. <AI랑 산다>는 장밋빛으로 가득한 AI 세상에서, 잠시 ‘돌려보기’ 버튼을 눌러보는 코너다. AI 기술의 잘못된 설계를 꼬집기 보다는, 어떻게 하면 AI 기술과, 그 기술을 가진 이들과, 그리고 그 기술을 가지지 못한 자들이 함께 잘 살아갈 수 있을지 짚어 본다.

유재연 옐로우독 AI펠로우 jane@yellowdog.kr

다른기사 보기

세계 첫 ‘AI법’ 제정한 EU...스타트업은 어떻게 해야 할까

[AI랑 산다]
유럽 최대 스타트업 축제
2023 비바테크놀로지 탐방기
전문가들, AI 윤리 강조...규제 논의 활발

기사가 마음에 드셨나요?

여성신문 좋은 기사 후원하기

[AI랑 산다] 유럽 최대 스타트업 축제 2023 비바테크놀로지 탐방기 전문가들, AI 윤리 강조...규제 논의 활발

기사가 마음에 드셨나요?

여성신문 좋은 기사 후원하기

[AI랑 산다]
유럽 최대 스타트업 축제
2023 비바테크놀로지 탐방기
전문가들, AI 윤리 강조...규제 논의 활발