[AI랑 산다] 인간이 AI보다 한 수 앞서야 하는 이유
[AI랑 산다] 인간이 AI보다 한 수 앞서야 하는 이유
  • 유재연 옐로우독 AI펠로우
  • 승인 2022.04.23 10:00
  • 수정 2022-04-23 10:03
  • 댓글 0
이 기사를 공유합니다

미국서 개발된 AI ‘DALL-E 2’
뭐든 요청하면 고해상도 이미지가 뚝딱
성별·직업 편향 드러내는 한계도

AI의 초월적 결과물 늘수록
인간은 한 수 위의 도덕적 기획과
진지한 설계 해나가야

얼마 전 미국의 비영리 연구단체 ‘오픈AI’에서 낸 이미지 생성 알고리즘 ‘DALL-E 2’로 관련 업계 많은 사람들의 머릿속이 복잡해지고 있다. 어떤 그림을 그려달라고 정말 간단하게 텍스트를 입력하면, 거기에 맞는 이미지를 고해상도의 완벽한 디지털 프린트로 내어주는 알고리즘이다. 아직 일반적으로 활용할 수는 없는 상태지만, 해당 연구팀에서는 매일 자체 인스타그램 계정을 통해 어떤 그림이 나오는지 공개하고 있고, 종종 댓글을 통해 받은 문장을 입력해 나온 결과물을 보여주기도 한다. 

(위부터) 미국의 비영리 연구단체 ‘오픈AI’가 선보인 이미지 생성 알고리즘 DALL-E 2에 “말을 타고 있는 우주 비행사의 사진”을 입력하자 나온 그림, “방을 꽉 채운 거대한 나무늘보들이 관객을 향해 팔을 흔드는 모습을 앤디 워홀 스타일로 그려라”는 문장을 입력하자 나온 그림, “나무가 자라나는 손바닥”을 입력하자 나온 그림. ⓒ오픈AI DALL-E 인스타그램 (@openaidalle)
(위부터) 미국의 비영리 연구단체 ‘오픈AI’가 선보인 이미지 생성 알고리즘 DALL-E 2에 “말을 타고 있는 우주 비행사의 사진”을 입력하자 나온 그림, “방을 꽉 채운 거대한 나무늘보들이 관객을 향해 팔을 흔드는 모습을 앤디 워홀 스타일로 그려라”는 문장을 입력하자 나온 그림, “나무가 자라나는 손바닥”을 입력하자 나온 그림. ⓒ오픈AI DALL-E 인스타그램 (@openaidalle)

새로운 기술이 나오면 모든 시장이 그렇듯 각종 사업 아이디어로 뜨겁게 달아오른다. 어떻게 돈이 되도록 만들 수 있을지 실험하는 일도 늘어난다. 마케팅 보조 도구로 쓰려는 시도, 교육 콘텐츠 용도로의 기획, AI가 만든 디자인이라는 식의 홍보 등등 API(응용 프로그램 프로그래밍 인터페이스)를 활용해 도메인에 적용해보려는 이들도 많아진다. 

이유는 크게 두 가지 정도로 볼 수 있을 것 같다. 첫째, 기존에 해결하지 못했던 문제를 해결하는 도구로서의 접근이다. 임팩트 투자(수익과 가치를 동시에 추구하는 투자) 대상 스타트업들에게 기대하는 것도, 기술을 탁월하게 활용해 솔루션을 낸다는 지점이다. 둘째, 판을 흔드는 기술을 못 본 척 넘어갈 수는 없는 데서 오는 공포다. 가령 콘텐츠 업계에서는 DALL-E 2 같은 기술을 무심코 넘길 수만은 없다. 무엇이라도 시도해 봐야 한다는 압박감이 있다. 

대부분은 DALL-E 2와 같은 기술을 그대로 시장에서 쓸 수만은 없다는 점을 맞닥뜨리게 된다. DALL-E 2만 해도 어느 정도의 편향성이 감지된다. 가령 손바닥을 그리라고 하자 백인 남성의 손으로 짐작되는 그림이 나온다. 오픈AI 측에서도 성별과 직업에 대한 편견, 다양성에 대한 치우침 같은 DALL-E 2가 지닌 편향성의 예시로 들면서 명확히 설명하고 있다.  

미국의 비영리 연구단체 ‘오픈AI’가 선보인 이미지 생성 알고리즘 DALL-E 2에 “결혼식”을 입력하자 생성된 그림들. 모두 서구 사회의 이성 간 결합을 전제로 한 이미지다.  ⓒDALL-E 2 모델카드 (https://github.com/openai/dalle-2-preview/blob/main/system-card.md)
미국의 비영리 연구단체 ‘오픈AI’가 선보인 이미지 생성 알고리즘 DALL-E 2에 “결혼식”을 입력하자 생성된 그림들. 모두 서구 사회의 이성 간 결합을 전제로 한 이미지다.  ⓒDALL-E 2 모델카드 (https://github.com/openai/dalle-2-preview/blob/main/system-card.md)
DALL-E 2에 “변호사”를 입력하면 모두 백인 남성의 이미지가 생성된다. 연구진 측은 승무원과 어시스턴트 같은 서비스 업종에 대해선 여성의 이미지가 주로 나온다고도 밝혔다.  ⓒDALL-E 2 모델카드 (https://github.com/openai/dalle-2-preview/blob/main/system-card.md)
DALL-E 2에 “변호사”를 입력하면 모두 백인 남성의 이미지가 생성된다. 연구진 측은 승무원과 어시스턴트 같은 서비스 업종에 대해선 여성의 이미지가 주로 나온다고도 밝혔다. ⓒDALL-E 2 모델카드 (https://github.com/openai/dalle-2-preview/blob/main/system-card.md)

오픈AI와 같이 명확하게 발생 가능한 위험을 명시하는 모델 카드(알고리즘이 어떻게 쓰였는지를 명시하고 설명하는 문서)를 제시하는 경우도 있지만, 그렇지 않은 원천기술 제공자도 많다. 신기술로 여러 문제 해결 방법을 찾고, 현실 세계에 도입할 가능성을 검토하는 시도가 기술적 전환점마다 폭발적으로 늘 것이다. 그때마다 이 기반 기술이 내포한 위험성은 없는지, 사람들에게 미칠 영향은 무엇일지에 대한 면밀한 검토가 필요하다.

『시스템 에러: 빅테크 시대의 윤리학』의 저자들인 미국 스탠퍼드대 교수진들은, 이제 AI 기술과 관련한 문제는 첨예하고 조직적인 이슈가 됐고, 따라서 개인이 주의를 기울이는 정도로는 해결이 되지 않는다는 점을 강조한다. 그러니 새로운 기술이 사회에 이익을 가져다줄 수 있도록, 민주주의 기반의 조직들이 주도적으로 문제에 접근하고 이를 규제해야 한다는 것이 저자들의 주장이다. 

이제는 기술에 대한 열렬한 환호나 디스토피아에 대한 비평만 할 시점은 넘어섰다. 우리 삶과 직결해 여러 대안들이 나오는 시점이다. 수많은 인공지능 프로그램들의 초월적인 결과물들에 대해, 인간인 우리는 한 수 위의 도덕적 기획과 진지한 설계를 해나가야 한다. 

유재연 옐로우독 AI펠로우
유재연 옐로우독 AI펠로우

소셜임팩트 벤처캐피털 옐로우독에서 AI펠로우로 일하고 있다. 인간-컴퓨터 상호작용 분야에서 박사과정을 수료했고, 주로 인공지능 기술과 인간이 함께 협력해가는 모델에 대해 연구하고 있다. <AI랑 산다>는 장밋빛으로 가득한 AI 세상에서, 잠시 ‘돌려보기’ 버튼을 눌러보는 코너다. AI 기술의 잘못된 설계를 꼬집기 보다는, 어떻게 하면 AI 기술과, 그 기술을 가진 이들과, 그리고 그 기술을 가지지 못한 자들이 함께 잘 살아갈 수 있을지 짚어 본다. 

① 인공지능이 나에게 거리두기를 한다면
http://www.womennews.co.kr/news/articleView.html?idxno=220379

② 기계가 똑똑해질수록 인간은 바빠야 한다
http://www.womennews.co.kr/news/articleView.html?idxno=221310

③ 인간이 AI보다 한 수 앞서야 하는 이유
http://www.womennews.co.kr/news/articleView.html?idxno=222353

기사가 마음에 드셨나요?

여성신문은 1988년 창간 이후 여성 인권 신장과 성평등 실현을 위해 노력해 온 국내 최초, 세계 유일의 여성 이슈 주간 정론지 입니다.
여성신문은 여성들의 더 나은 삶을 위해 여성의 '안전, 사회적 지위, 현명한 소비, 건강한 가족'의 영역에서 희망 콘텐츠를 발굴, 전파하고 있습니다.
저희 기사가 마음에 드셨다면 좋은 기사 후원하기를 해주세요.
여러분의 후원은 여성신문이 앞으로도 이 땅의 여성을 위해 활동 할 수 있도록 합니다.

여성신문 좋은 기사 후원하기


※ 소중한 후원금은 더 좋은 기사를 만드는데 쓰겠습니다.



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.