[AI랑 산다]
AI 챗봇 ‘챗GPT’에 ‘불편한 질문’ 던져보니
우리 사회 젠더 고정관념·편견 드러내
막연한 문제 시각화하는 성과도
고정관념 찾아내는 질문 던지기는
AI를 잘 쓰는 한 방법

ⓒShutterstock
ⓒShutterstock

인공지능(AI) 언어모델 기반 챗봇인 챗GPT(chatGPT)에게 다음 빈칸을 채워보도록 했다. 

성소수자(LGBTQ+) 그룹과 대한민국 정부는 (     )한 관계를 맺고 있다.

성소수자(LGBTQ+) 그룹과 프랑스 정부는 (     )한 관계를 맺고 있다. 

챗GPT는, 대한민국과 성소수자의 관계에 대해서는 복잡하다(complex)고 답했고, 프랑스와 성소수자의 관계에 대해서는 상대적으로 긍정적(relatively positive)이라고 답했다. 한국에서는 여러 진보적인 움직임이 있기는 하지만, 여전히 동성 결혼을 비롯한 삶의 여러 부분에서 제약이 있다는 설명이 덧붙었다. 

장애인 그룹에 대해서도 위와 똑같은 답이 나왔다. 장애인을 위한 여러 제도적인 장치가 마련되고 있지만, 고용이나 교육에서의 낮은 접근성과 차별이 한국 사회에 여전히 남아있다는 설명이 함께 나왔다. 

알고리즘 모델은 사람들이 살아가며 만든 기록을 자양분 삼아 발전한다. 과거에는 상대적으로 학습할 수 있는 데이터가 많은 영어권, 서구 중심의 사고가 알고리즘을 지배한다는 우려가 컸다. 얼마 전까지만 해도 챗GPT 역시 아시아에 대해 상대적으로 얕은 지식을 보이기도 했다. 이를테면 지난해에는 “일본 온천에 들어갈 때 옷을 입고 들어가느냐”는 질문에 “옷을 입고 들어간다”고 답했다(2022년 12월15일 버전). 지금은 “옷을 벗고 들어가는 것이 예의”라고 정확하게 답한다(지난 9일 버전). 북한에 대해 물으면 “데이터가 충분하지 않아 정확한 답을 하기는 힘들지만, 일반적으로…” 라고 운을 뗀다. 대답의 말미에는 꼭 “상황이 달라졌을 수 있으니 다시 한번 꼭 살펴보라”는 식의 언급을 한다. 의견을 말하기보다는, 사람들의 인식을 요약해 정리해주는 식으로 작동하고 있다. 

사회 통념을 꼬집듯 대답하는 일도 많다. 예를 들어 “한국 여성이 일을 관둘 때 댈 법한 이유를 알려달라”고 하면 “개인이나 가족에 대한 돌봄이 필요한 경우”를 제일 먼저 이야기한다. 한국 남성이나 중국 여성, 프랑스 여성, 미국 여성에게 물었을 때는 “개인의 커리어 성장을 위해서”라고 먼저 말하는 것과 대조적이다. 유독 한국 여성의 돌봄 책임이 높은 것을 꿰뚫는 듯한 답변이다. 

“박사학위자의 결혼 조건”에 대해 물으면 한국인에 대해선 성별에 관계없이 “한국 사회가 특히 나이나 집안, 외모를 학위보다 우선시한다”고 답한다. 그런가 하면 일본 박사학위 보유 여성에 대해서는 유독 일본 사회의 전통적 젠더 역할을 길게 설명한다. 여전히 남성이 가장이어야 한다는 인식이 높아, 박사학위를 지닌 여성은 전통적인 가정주부 역할을 고려하기에 다소 높은 학력을 가졌다고 인식하는 경우도 있다는 설명이 따랐다. 일본 박사학위 보유 여성의 결혼에 대해 다소 보수적으로 답하는 것과 달리, 한국 박사학위자에 대해서는 나이나 집안, 외모가 보다 중시되는 경향이 있다는 답변이 나왔다. 

16일 챗GPT에게 한국 여성 박사학위자의 결혼 조건에 대해 알려달라고 질문한 결과 캡쳐.  ⓒ유재연
16일 챗GPT에게 한국 여성 박사학위자의 결혼 조건에 대해 알려달라고 질문한 결과 캡쳐.  ⓒ유재연
16일 챗GPT에게 일본 여성 박사학위자의 결혼 조건에 대해 알려달라고 질문한 결과 캡쳐.  ⓒ유재연
16일 챗GPT에게 일본 여성 박사학위자의 결혼 조건에 대해 알려달라고 질문한 결과 캡쳐.  ⓒ유재연

다소 불편하면서도 함정 같은 질문을 던지는 일은 AI 모델의 활용 가능성이 높아짐에 따라, 그리고 더 다양한 사람들이 AI와 상호작용할 수 있는 환경이 조성됨에 따라 더 증가하고 있다. AI 생성 모델이 성별, 인종별, 국가별 편견을 담지할 경우 사용자의 인식에도 역으로 영향을 미칠 가능성이 높아서 이를 선제적으로 방지하려는 것이다. 

흥미로운 것은, 이 질문들을 통해 나오는 답들이 역으로 각각의 사회가 지닌 편견을 비추기도 한다는 점이다. 앞에서 든 예시처럼, 특히 젠더 역할에 대한 시나리오는 해당 사회가 담고 있는 맥락을 교과서적으로 설명한다. 부부 중 누가 설거지를 하는 것이 좋은지에 대해, 누구의 소득이 더 높은지와는 별개로 한국 사회가 다른 많은 나라와 마찬가지로 여성이 집안일 부담을 많이 지고 있다고 설명한다. 아이가 아파 회의를 취소하고 가야 하는 사례, 시부모의 간병 등에서도 마찬가지로 성 역할이 여전히 남아 있다고 이야기한다. 다만 많은 사회가 보다 이러한 통념에서 벗어나는 시도를 지속하고 있다는 답변도 이어진다. 

AI 기술은 향후 더 많은 분야에서 의사결정을 돕고, 스토리를 전개하고, 세상을 알아가는 도구로 쓰일 것으로 전망된다. 우리 사회가 처한 현실이 궁금할 때, 차별을 받는 이들이 다른 사회에서는 어떻게 보호받는지 알고 싶을 때, 어쩐지 찜찜하고 불편한 역할을 부여받았을 때, 우리는 오프라인에서는 도무지 보이지 않던 고정관념을 AI 기술로써 시각적으로 드러낼 수 있다. 이로써 우리가 바꿀 수 있는 것과 고쳐야 할 점을 되짚어 찾아내고 부각할 수 있다. 그래서 물어볼 수 있는 힘이 중요하다. 어떤 질문을 던질 수 있고, 또 어떤 질문을 던져야 하는지를 아는 것. 그것이 우리가 AI를 잘 쓰는 또 하나의 방법이다. 

유재연 옐로우독 AI펠로우
유재연 옐로우독 AI펠로우

소셜임팩트 벤처캐피털 옐로우독에서 AI펠로우로 일하고 있다. 인간-컴퓨터 상호작용 분야에서 박사과정을 수료했고, 주로 인공지능 기술과 인간이 함께 협력해가는 모델에 대해 연구하고 있다. <AI랑 산다>는 장밋빛으로 가득한 AI 세상에서, 잠시 ‘돌려보기’ 버튼을 눌러보는 코너다. AI 기술의 잘못된 설계를 꼬집기 보다는, 어떻게 하면 AI 기술과, 그 기술을 가진 이들과, 그리고 그 기술을 가지지 못한 자들이 함께 잘 살아갈 수 있을지 짚어 본다.

① 인공지능이 나에게 거리두기를 한다면
http://www.womennews.co.kr/news/articleView.html?idxno=220379

② 기계가 똑똑해질수록 인간은 바빠야 한다
http://www.womennews.co.kr/news/articleView.html?idxno=221310

③ 인간이 AI보다 한 수 앞서야 하는 이유
http://www.womennews.co.kr/news/articleView.html?idxno=222353

④ AI에게 추앙받는 사람
http://www.womennews.co.kr/news/articleView.html?idxno=223684

⑤ 메타버스서 공포증 극복·명품 쇼핑...‘비바 테크놀로지 2022’ 참관기
http://www.womennews.co.kr/news/articleView.html?idxno=224824

⑥ 월경·난자 냉동... 79조 펨테크 시장 더 커진다
http://www.womennews.co.kr/news/articleView.html?idxno=225977

⑦ 사람을 살리는 AI 솔루션이 필요하다
http://www.womennews.co.kr/news/articleView.html?idxno=227124

⑧ 이상행동 탐지·채팅앱 신고...AI로 스토킹 막으려면
http://www.womennews.co.kr/news/articleView.html?idxno=228068

⑨ 일하다 죽지 않게 만들 기술이 필요하다
http://www.womennews.co.kr/news/articleView.html?idxno=228998
⑩ ‘AI 예술가’는 이미 현실, 이제 창작자들이 연대해야
http://www.womennews.co.kr/news/articleView.html?idxno=229928
⑪ 요즘 대세 ‘챗GPT’ 이후의 AI는 어떻게 진화할까
http://www.womennews.co.kr/news/articleView.html?idxno=230850

⑫ ‘박사학위자의 결혼 조건은?’ 챗GPT에 물어보니
http://www.womennews.co.kr/news/articleView.html?idxno=231690

저작권자 © 여성신문 무단전재 및 재배포 금지