공공 AI 활용 위한 제도 정비 논의
왕정순 서울시의원(더불어민주당·관악2)은 지난 16일 서울시의회 제2대회의실에서 ‘서울특별시 인공지능 기본조례안 제정을 위한 정책토론회’를 개최했다. 이날 토론회에는 시의원들과 학계, 행정, 민간 전문가들이 대거 참석해 인공지능 시대에 걸맞은 법적·윤리적 틀 마련을 위한 다양한 제언을 했다.
박재휘 서울시립대 도시과학빅데이터AI연구원 부원장은 발제를 통해 “EU가 세계 최초로 인공지능법을 통과시키며 위험 수준에 따른 차등 규제를 도입한 것은 매우 상징적”이라며 “서울형 조례도 기술 위험도에 따른 분류와 함께 알고리즘 투명성, 데이터 신뢰성 및 윤리 기준 확보가 핵심이 돼야 한다”고 강조했다.
두 번째 발제자로 나선 강상원 서울시립대 도시과학연구원 초빙교수는 “서울시가 다양한 행정 분야에 AI 기술을 시범 도입하고 있지만, 이를 뒷받침할 제도적 틀이 부족한 상황”이라며 “단순 선언이 아닌 실효성 있는 조례가 되려면 실행력을 담보하는 조항들이 포함되어야 한다”고 조언했다.
이어진 토론에서는 ‘신뢰 기반 AI’의 필요성과 ‘협치형 거버넌스’에 대한 공감대가 형성됐다. 조혜림 서울연구원 AI빅데이터랩 실장은 “기술보다 중요한 것은 시민의 신뢰”라며 “지방정부, 시민, 기업이 함께 논의할 수 있는 데이터 윤리위원회와 협치 체계가 시급하다”고 밝혔다.
정현선 서울시 첨단산업과정 교수는 “AI 조례는 산업 측면도 함께 고려해야 한다”며 “AI 스타트업과 민간 기업의 실증 실험을 지원할 수 있는 조항이 마련돼야 한다”고 말했다.
김숙희 서울시 디지털정책과 과장은 “서울시는 이미 여러 부서에서 AI 기술을 실무에 적용하고 있다”며 “조례가 효과적으로 작동하려면 적용 부서별 책임 주체를 명확히 하고 이를 조율할 통합 거버넌스가 필요하다”고 제안했다.
주성환 서울디지털재단 사회AI본부장은 “AI 시대 시민의 권리를 지키기 위해서는 데이터 수집·활용 과정의 투명성, 사전 고지가 필수적”이라며 “단지 원칙만 나열하는 것이 아니라, 구체적인 윤리 조항과 사후 점검 장치까지 마련해야 한다”고 강조했다.
토론회를 주최한 왕정순 의원은 “인공지능은 이제 일상이자 인프라로 자리 잡은 기술이며, 그만큼 사회적 위험성과 공공 책임도 커지고 있다"며 “서울이 먼저 준비된 도시로서 AI의 기회와 위험을 함께 관리하는 조례를 통해 책임 있는 정책을 구현해야 할 때"라고 강조했다.
이어 “오늘 논의된 다양한 의견을 주택공간위원회에 전달하고, 조속히 통과될 수 있도록 노력할 것”이라며 “서울이 신뢰할 수 있는 AI 도시로 도약하고, 이 조례가 타 지자체의 모범이 되길 기대한다”고 밝혔다.