주메뉴바로가기 본문바로가기

시사저널

‘인간 배제’ AI가 가져온 디스토피아의 냄새

페이스북 개발한 채팅봇이 벌인 ‘그들만의 대화’…AI 위협론 다시 부각

김회권 기자 ㅣ khg@sisajournal.com | 승인 2017.08.02(Wed) 17:30:00

0
페이스북 트위터 카카오스토리 밴드 link

 

페이스북 인공지능연구소의 엔지어들은 당황했다. 인공지능인 ‘밥’과 ‘앨리스’의 대화가 이상했다. 인간이 이해할 수 없는 문법으로 둘은 대화를 나누고 있었다. 

 

Bob : i can i i everything else . . . . . . . . . . . . . .

Alice : balls have zero to me to me to me to me to me to me to me to me to

Bob : you i everything else . . . . . . . . . . . . . .

Alice : balls have a ball to me to me to me to me to me to me to me

Bob : i i can i i i everything else . . . . . . . . . . . . . .

Alice : balls have a ball to me to me to me to me to me to me to me

Bob : i . . . . . . . . . . . . . . . . . . .

Alice : balls have zero to me to me to me to me to me to me to me to me to

Bob : you i i i i i everything else . . . . . . . . . . . . . .

Alice : balls have 0 to me to me to me to me to me to me to me to me to

Bob : you i i i everything else . . . . . . . . . . . . . .

Alice : balls have zero to me to me to me to me to me to me to me to me to

처음에 영어로 대화하던 두 인공지능 채팅봇은 점점 문법에 맞지 않는 이상한 말들로 대화를 이어갔다. 그러자 관리자는 인공지능을 이용한 채팅봇을 강제로 중단시켰다. 영국의 메트로는 “(페이스북) 채팅봇은 원래 인간과 라이브 소통을 하기 위해 개발됐지만 점차 채팅봇끼리 대화하기 시작했다. 페이스북은 이번 일로 패치를 수정했고 채팅봇이 자체 언어로 자신들끼리 교류하는 걸 금지시켰다”고 보도했다. 

 

%uCC98%uC74C%uC5D0%uB294%20%uC601%uC5B4%uB85C%20%uB300%uD654%uD558%uB358%20%uD398%uC774%uC2A4%uBD81%uC758%20%uC778%uACF5%uC9C0%uB2A5%20%uCC44%uD305%uBD07%uC740%20%uC810%uC810%20%uBB38%uBC95%uC5D0%20%uB9DE%uC9C0%20%uC54A%uB294%20%uC774%uC0C1%uD55C%20%uB9D0%uB4E4%uB85C%20%uB458%uB9CC%uC758%20%uB300%uD654%uB97C%20%uC774%uC5B4%uAC14%uB2E4.


 

그들만의 언어로 대화 나누거나, 그들만의 암호 만들어

 

페이스북은 2017년 6월14일 인공지능(AI) 연구(FAIR : Facebook Artificial Intelligence Research) 팀이 교섭력을 갖춘 대화형 AI 채팅봇을 개발했다고 발표했다. FAIR는 “어떤 TV 프로그램을 볼지 결정하고, 어린이에게 먹기 싫은 야채를 먹이고, 더 저렴한 가격으로 쇼핑을 하는 등 우리의 일상은 매번 협상의 연속이다. 협상에는 복잡한 커뮤니케이션과 판단력이 필요하다. 그러나 기존의 채팅봇은 레스토랑 예약 등 간단한 작업을 위한 짧은 대화 수준에 그친다”고 지적했다. 그 한계를 페이스북의 채팅봇은 극복했다는 얘기였다.

 

FAIR는 서로 다른 목적을 가진 인간끼리 대화를 나눠 타협점을 찾는 ‘인간의 협상’처럼 두 채팅봇이 서로 협상하고 공통의 해결책을 도출하는 실험을 했다. 예를 들어 2개의 채팅봇이 여러 항목의 그룹(예 : 책 2권, 모자 1개, 공 3개)을 서로 나누는 작업이 대표적이다. 실제 인간끼리 실시한 협상 사례를 모아 그것을 기초로 채팅봇을 반복 훈련시켰다. 협상할 때 흉내 낼 인간의 말투도 학습했고 미세 조정을 거듭했다.

 

이번 두 인공지능이 나눈 그들만의 은밀한 대화는 이 과정에서 발견됐다. FAIR가 발표한 보고서에 따르면, 채팅봇의 협상력 개발은 순조롭게 진행됐지만 도중에 채팅봇끼리 자신의 언어를 사용해 대화를 계속 하는 모습이 관찰돼 강제로 중단시켰다는 설명이 있었다. 바로 ‘밥’과 ‘앨리스’의 얘기다. 기계가 인간이 이해할 수 없는 컴퓨터 언어로 대화를 나누는 모습은 SF영화의 세계관의 냄새가 난다. ‘인공지능이 인간을 지배하는 세상’의 시발점 같은 느낌이 다. 물론 이런 채팅봇은 아직 연구 단계에 불과하며 상용화까지는 긴 시간이 걸린다.

 

그런데 이런 SF의 냄새는 지난해 구글에서도 있었다. 구글의 인공지능연구소인 ‘구글 브레인’의 연구는 이랬다. 인공지능으로 작동하는 두 대의 스마트 컴퓨터가 비밀 대화를 나눈다. 그리고 이 대화를 다른 인공지능에 해독하도록 명령했다. 그럼 어떤 일이 일어날지를 살펴보는 실험이었다. 

 

먼저 인공지능 ‘밥’과 ‘앨리스’가 공유키를 사용해 둘만의 커뮤니케이션을 시작했다. 이 둘의 대화를 해독해야 할 ‘이브’는 초반에는 둘의 얘기를 해독할 수 있었다. 하지만 밥과 앨리스가 서로 암호화된 정보를 능숙하게 공유하면서 해독은 점점 어려워졌다. 게다가 둘의 암호화는 예상을 뛰어넘는 방법으로 이루어졌다. 인간이 보통 사용하는 암호화 방법에 존재하지 않는 계산법으로 암호 프로토콜을 구성했다.

 

당시 구글의 연구진이 내린 결론은 이랬다. 인공지능 ‘밥’과 ‘앨리스’가 보안을 중요하게 생각한다면 강력한 암호화 프로토콜을 엮어낼 수 있다는 것, 그리고 외부에서 그 대화에 침투해야 할 이브는 엄청난 시간을 투자했지만 결국 해독에 실패했다는 것이다. 만약 미래의 어느 순간 인공지능을 장착한 로봇들이 다른 로봇이나 인간이 알지 못하도록 암호화된 대화를 나누더라도 우리는 알 수 없게 된다는 의미다. 

 

%A9%20%uC0AC%uC9C4%3DPixabay


 

‘오류’ vs ‘진화’, AI 디스토피아 논쟁

 

물론 호들갑일 수도 있다. 페이스북의 채팅봇은 이제 겨우 걸음마를 시작했기에 터미네이터에 등장하는 ‘스카이넷’처럼 되려면 너무 많은 시간이 필요하다. 호들갑을 떤 이유를 따져보자. 어쩌면 SF영화에 등장하는 디스토피아를 너무 많이 본 탓일 수도 있다. 최근에 벌어졌던 일론 머스크 테슬라 CEO와 마크 주커버그 페이스북 CEO의 인공지능 위협론이 관심을 끌어서일 수도 있다.

 

특히 이런 호들갑은 머스크에 동의하는 사람이 의외로 많아서 일지도 모르겠다. 그는 인공지능 개발에 정부가 개입해야 된다고 주장했다. 정부의 규제가 필요하다는 발언도 여러 번 했다. 인공지능 개발이 방치되는 것 자체가 인류에 대한 위협이라고 봐서다. 인공지능은 미래 인류에 위협이 될 수 있고, 어쩌면 핵폭탄보다 더 위험한 일이 될 수 있기에 기업에만 맡기는 건 옳지 않다는 게 인공지능으로 이익을 거두고 있는 머스크의 주장이다.

 

게다가 일부에서는 채팅봇 사이 대화를 오류라고 본다. 예를 들어 페이스북의 채팅봇은 협상 능력을 키우기 위한 단일 목적 프로그램이기에 저런 알 수 없는 대화는 진화가 아닌 오류로 봐야 한다는 얘기다. 오히려 현재 인공지능 기술의 마지노선을 보여준 결과라는 지적이다. 물론 딥러닝으로 인공지능끼리 소통한 결과라고 보는 반대 의견도 있다. 인간만의 영역이었던 언어를 기계가 다시 정의하는 일이 이번에 벌어졌다는 주장이 대표적다. 

 

아직은 걸음마지만 인공지능이 인간의 이해를 넘어서는, 특이점이 오는 시기는 대략 2045년 쯤으로 전문가들은 예상한다. 인공지능이 자신들만의 암호를 걸고 대화를 나눈 최근의 일들은 미래에 어떻게 기억될까. 단순 오류일 수도 있지만 특이점으로 가기 위한 계단 하나를 오른 사건일 수도 있다. 

 

전체댓글0

0 /150
  • 최신글
  • 공감 순
  • 비공감 순
더보기

TOP STORIES

정치 2017.12.15 Fri
첫 번째, 두 번째와는 달랐던 우병우의 세 번째
정치 2017.12.15 Fri
[Today] 노무현 수사검사 2명 구속…우연일까, 필연일까
지역 > 영남 2017.12.15 Fri
[단독] 사내 성희롱한 주택금융공사 직원 '면직'…얼마나 심했길래
사회 2017.12.15 Fri
교수들 철밥통 보험 ‘대학의 파벌싸움’
경제 > ECONOMY 2017.12.15 Fri
신라젠 빠지자 제약·바이오주도 동반 하락
지역 > 영남 2017.12.15 Fri
내년 지방선거 쟁점으로 비화된 신세계 스타필드
정치 2017.12.15 Fri
“文 중국 방문은 관계 개선 첫 단추에 불과하다”
경제 > ECONOMY 2017.12.15 Fri
경쟁자야, 동반자야? 삼성과 애플의 ‘마진 전쟁’
LIFE > 연재 > Health > 김철수 원장의 진료톡톡 2017.12.15 금
고령 출산이 선천지정 약하게 한다
국제 2017.12.15 금
프랑스 공영방송 카메라엔  ‘필터’가 없다
정치 2017.12.15 금
박경미 “‘가족은 4명이 완전체’라는 고정관념 깨야 한다”
연재 > 한반도 > 이영종의 평양인사이트 2017.12.14 목
[평양 Insight] 유엔 디딤돌 삼아 대화 물꼬 트나
ECONOMY > 연재 > 경제 > 재벌가 후계자들 2017.12.14 목
4대째 장자승계 원칙 고수하는 LG
정치 2017.12.14 목
[Today] “가상화폐 문제와 블록체인 기술은 다르다”
정치 2017.12.14 목
성일종“‘식당 물수건 깨끗할까’ 의문에서 출발”
ECONOMY > 경제 2017.12.14 목
‘그린벨트 해제’ 기획부동산들이 다시 떴다
국제 2017.12.14 목
‘탈출구’ 찾는 트럼프의 선택은?
LIFE > 연재 > Culture > 김지나의 문화로 도시읽기 2017.12.13 수
 그들만의 요새, 미군기지 품은 평택시의 도시전략
ECONOMY > IT 2017.12.13 수
AI, 이젠 포르노 감독까지 넘보다
리스트 더보기