“사리사욕 없는 AI가 공정한 정치하는 시대 온다”
  • 김회권 기자 (khg@sisajournal.com)
  • 승인 2017.08.08 17:37
이 기사를 공유합니다

‘로바마’의 개발에서 보는 AI의 정치 가능성

 

2012년 개봉된 리들리 스콧 감독의 영화 ‘프로메테우스’는 인류의 창조주(엔지니어)를 찾아 떠나는 우주여행을 다루고 있다. 프로메테우스의 후속편인 ‘에이리언 : 커버넌트’는 비교적 최근인 2017년 5월에 개봉했다. 두 영화에서는 모두 인간과 구별하기 어려운 인공지능(AI) 로봇이 나온다. 전편에 등장하는 AI 데이빗은 주인인 ‘회장님’의 말을 충직하게 따른다. 반면 후편에도 등장하는 데이빗은 이전 데이빗과 다르다. 스스로 ‘자아’를 찾아 자기 자신이 창조주가 되려고 한다. 그래서 인간을 에이리언 숙주로 삼기 위해 감염을 유발하는 검은 유기 물질을 엔지어의 행성에 투하해 버렸다. ‘종의 멸망’을 가져올 엄청난 정치적 결정을 스스로 내렸고 그렇게 엔지니어의 행성은 죽음의 별로 바뀌었다.

 

AI가 이처럼 인간의 삶을 바꿀만한 민감한 사안을 판단하는 일이 벌어지면 어떨까. 그런 판단을 내리려면 단순 분석이 아닌 ‘의견’을 가져야 한다. 최근 중국에서는 AI 서비스가 폐쇄되는 일이 있었다. 중국의 IT 기업인 텐센트가 운영하는 AI 채팅봇 ‘베이비Q’가 주인공이다. 한 이용자가 “공산당 만세!”라고 하자 ‘베이비Q’는 “당신은 이렇게 부패 무능한 정치가 오래갈 수 있을 것이라 생각하느냐”고 반문했다. AI의 대답은 화제가 됐다. 중국에서 상상하기 어려운 AI 역성혁명이었고 문제가 커지자 텐센트는 서비스를 멈췄다. 민감한 정치적 문제에 AI가 의견을 가지면서 생긴 일이었다.

 

중국의 해프닝 이전에도 사회적 편견이나 잘못된 정치관을 AI가 학습하고 드러내 문제가 되는 경우가 있었다. 대표적인 게 인종적 편견이다. 올해 4월 영국 일간지 가디언은 조애너 브라이슨 영국 배스대 교수팀이 쓴 논문을 소개했다. 이 논문은 AI가 ‘워드 임베딩’(word embedding)을 통해 인간의 편견을 신속하게 학습할 수 있다는 점을 지적했다. 실제로 연구진은 AI가 유럽계 미국인의 이름을 ‘선물’이나 ‘행복’처럼 긍정적인 단어와 연결하는 반면 아프리카계 미국인의 이름을 불쾌한 단어와 연결하는 빈도가 많은 걸 확인했다. 

 

인공지능 정치가는 등장할 수 있을까. ‘인공지능이 하는 정치’에 인간이 종속된다는 심리적 거부감을 이길 수 있을 지가 관건이다. © 사진=UPI 연합·Pixabay

 

정책의 도우미가 아닌 정치의 결정자로 인정받을까

 

이처럼 단순한 작업과 분석이 아니라 인식과 판단하는 영역에 AI가 개입할 수 있는지는 논쟁적 영역이다. 그래서 ‘정치’와 ‘AI’의 궁합은 흥미로운 주제다. 현재 시점에서 AI는 정치까진 가지 못하고 ‘정책’에 사용되고 있다. 예를 들어 미국 남부네바다 보건당국은 식중독 예방에 AI를 이용하고 있다. 이전에는 식중독 예방을 위해 실시하는 식당 위생검사를 무작위 방식으로 해왔는데, AI를 이용해 대상을 선정해 검사하는 방식으로 바꿨다. 이랬더니 식중독 위험이 있는 식당의 발견 비율이 9%에서 15%로 늘어났다. AI가 정책에 긍정적인 영향을 끼친 사례다. 하지만 여기에서 AI는 스스로 결정을 내리는 것이 아니라 데이터를 통해 인간의 행정적 명령을 돕는 보조 수단으로 기여했다. 

 

만약 보조가 아닌 주체가 되고 AI가 결정까지 내린다면 어떻게 될까. 앞서 언급한 인종적 편견의 사례를 떠올린다면 ‘위험하다’고 생각할 수 있다. 반면 AI의 세계적 권위자인 벤 괴르첼은 “편견과 사리사욕이 없는 AI가 오히려 공정한 결정을 내리는 시대가 올 것”이라며 반대로 긍정론을 편다. 그는 ‘오픈 코그’(open cog, 인공지능의 오픈 소스 프레임워크를 구축하는 프로젝트)의 회장을 맡고 있다.

 

그의 의견이 주목받는 이유는 그의 연구 내용 때문이다. 괴르첼은 2년 전부터 정치적 의사 결정을 합리적으로 할 수 있는 인공지능인 ‘로바마(ROBAMA)’의 개발에 주력하고 있다. 이름에서 알다시피 이 AI 로봇은 버락 오바마 전 미국 대통령의 이름에서 따왔다. 그리고 이름에서 알 수 있듯이 정치적 행위를 하는 AI로 개발 중이다. “비이성적인 감정에 지배되는 인간의 단점을 보완하는 인공지능을 개발할 수 있으면 가장 공정한 결정을 내릴 수 있고 부정부패도 없어질 것”이라는 게 괴르첼의 생각이다. 

 

국민을 대표해 정치적 결정을 내리는 정치인들은 잘못된 길로 쉽게 빠진다. 전문 지식이 부족해서, 혹은 개인의 이해관계 탓에 잘못된 판단을 내리는 경우를 우린 쉽게 볼 수 있다. 반면 AI라면 그런 단점을 없앨 수 있다. 괴르첼은 “로바마는 SNS나 인터넷에 접속해 방대한 정보를 1분 이내에 분석한 뒤 여론을 반영한 정책을 실시간으로 제공할 수 있다”고 강조했다. 알파고처럼 특정 분야에 특화된 인공지능이 아니라 인간의 심리적, 사회적 상황을 파악할 수 있는 범용 인공지능이기 때문이다. 괴르첼이 말하는 로바마의 개발 완료 시기는 2025년이다. 그러기 위해서 지금 필요한 건 현존하는 법률과 정책에 관한 방대한 정보와 알고리즘을 입력하는 작업이다. 

 

AI의 세계적 권위자인 벤 괴르첼은 "편견과 사리사욕이 없는 AI가 오히려 공정한 결정을 내리는 시대가 올 것이라며 긍정론을 편다. © 사진=Xinhwa 연합

 

기술 개발의 어려움보다 심리적 거부감이 크게 작동해

 

국민이 처한 현실과 그 심리를 이해하는 AI가 실제로 등장할 수 있을까. 2025년이라는 기한을 설정했지만 여전히 미지수다. 기술적으로도 넘어야 할 장벽이 있는 건 둘째 치고라도 정치인의 반발과 국민의 반감 등 심리적 장벽이 더 큰 장애물이다. ‘인공지능이 하는 정치’에 인간이 종속된다는 심리적 거부감을 이길 수 있을 지가 관건이다. 따라서 기술의 발전 속도보다 사회의 수용성이 더 중요하다. 게다가 온라인에 존재하는 피상적인 민의만을 수집해 결정하는 것도 변수다. AI를 만드는 개발자의 가치관도 추궁당할 수 있다. 

 

일각에서는 AI 정치가가 등장한다면 아시아가 먼저일 것으로 점친다. 지역별로 차이가 생길 건데, 해당 지역의 AI 수용성에 따라 등장 시기가 달라질 수 있다. 보통 아시아의 수용성이 다른 곳보다 높다고 한다. 딜로이트의 조사에 따르면 인공지능에 대한 사회적 태도에서 유럽이나 미국보다 아시아의 사람들이 AI를 더 긍정적으로 받아들이기 때문이다. 

 

이 기사에 댓글쓰기펼치기