‘AI 위협론자’ 머스크 vs ‘AI 낙관론자’ 주커버그
  • 김회권 기자 (khg@sisajournal.com)
  • 승인 2017.07.27 17:13
이 기사를 공유합니다

테크업계 거물들이 설전 벌이는 ‘AI 위협론’

 

IT업계의 대표적인 리더인 두 사람이 AI(인공지능)를 둘러싸고 대립 중입니다. 그들이 다투고 있는 주제는 ‘AI 위협론’입니다. 영화 ‘터미네이터’에 등장하는 인공지능 ‘스카이넷’이 현실화될 수 있다는 우려에 대해 서로 “잘 모르고 하는 얘기”라고 비판하고 있습니다. AI를 위험하다고 여기는 테슬라의 CEO 엘론 머스크와 그런 머스크를 이해하지 못하는 페이스북 CEO 마크 주커버그는 지금 서로를 저격 중입니다.

 

머스크가 AI의 위협을 경고한 지는 좀 됐습니다. 그가 경각심을 가진 계기는 우리가 잘 아는 ‘알파고’ 때문입니다. 7월19일 국제우주정거장 연구회의에 참가한 머스크는 참가자와 가진 질의응답 시간에 이렇게 말했습니다. “AI를 잠재적 위협으로 느낀 건 알파고 때문이다. 많은 전문가들이 예상했던 것보다 AI가 인간을 빠르게 꺾었다.”

 

머스크는 인공지능 개발에 정부가 개입해야 된다고 주장합니다. 정부의 규제가 필요하다는 발언도 여러 번 했습니다. 인공지능 개발이 방치되는 것 자체가 인류에 대한 위협이라는 겁니다. AI는 미래 인류에 위협이 될 수 있고, 어쩌면 핵폭탄보다 더 위험한 일이 될 수 있기에 기업에만 맡기는 건 옳지 않다고 보고 있습니다.

 

AI를 위험하다고 여기는 테슬라의 CEO 엘론 머스크와 그런 머스크를 이해하지 못하는 페이스북 CEO 마크 주커버그는 지금 서로 저격 중이다. © 사진=AP연합·EPA연합

 

“한 회사가 AI 기술 독점하고 개발 방향을 정하는 것은 위험”

 

이미 AI는 산업에 다양하게 활용되거나 활용될 예정입니다. 구글이나 애플, 페이스북, 마이크로소프트 등 IT기업뿐 아니라, 자율주행차 개발을 주도하는 자동차 메이커도 AI를 연구합니다. 하지만 인간보다 연산 처리 능력이 훨씬 높은 컴퓨터가 ‘딥 러닝’까지 하며 생각하는 힘을 갖게 된다면? 정말 터미네이터의 세계처럼 인류가 위기에 직면할 수 있을까요. 

 

머스크의 경고를 마냥 흘려들을 수 없는 건 머스크 그 자신이 AI의 수혜자이기 때문입니다. 그를 거물로 만들어 준 테슬라의 전기 자동차는 자동운전시스템을 탑재하고 있고 따라서 AI를 통해 많은 이익을 얻고 있습니다. 그런 그가 2015년 12월에 ‘Open AI’라는 비영리 단체를 설립하며 주목을 받았습니다. 그는 이 단체에 수십억 달러를 출연한 것으로 알려지고 있습니다. 단체 설립 이유는 분명합니다. AI 기술을 ‘오픈소스’로 공유하기 위해섭니다.

 

그는 AI 기술을 공유하는 것이 스카이넷의 출현을 막을 수 있는 방법이라 생각합니다. 왜 그럴까요. 머스크는 “하나의 회사가 AI 기술을 독점하고, AI의 개발 방향을 외부에서 결정할 수 없는 상황이 가장 위험하다”고 봅니다. 그걸 방지하기 위해 활짝 열어야 한다는 겁니다. 예를 들어 현재 AI 기술이 가장 앞선 곳은 알파고를 만든 구글입니다. 그렇다면 구글에 모든 AI 기술이 집중되는 것을 저지하는 게 Open AI가 해야 할 역할입니다. 

 

머스크의 비관론은 최근 주커버그 땜에 재조명 받았습니다. 7월23일 페이스북 라이브를 통해 주커버그는 페이스북 사용자들과 소통했습니다. 이때 한 사용자가 주커버그에게 물었습니다. “머스크가 미래에 가장 두려워할 것이 AI라고 한다는 얘기를 봤다. 주커버그, 당신은 어떻게 생각하느냐.” 

 

주커버그의 대답은 매우 직설적이었습니다. “나는 이 사안에 대해서 명확한 의견을 갖고 있다. 뭔가를 만들어 낼 수 있다면 세계는 좋아질 거라 생각하는데 특히 AI에 대해서는 매우 낙관적이다. AI가 세상의 종말을 초래한다고 생각하는 사람을 이해할 수 없다. 어떤 점에서는 그런 발언이 매우 무책임하다고 생각한다.” 대놓고 머스크를 저격한 겁니다. 

 

“나는 마크 (주커버그)와 AI에 관해 이야기 한 적이 있다. 그는 AI에 대해 충분히 이해하고 있지 않았다.” © 엘론 머스크 트위터 캡쳐

 

“AI 개발을 늦추려는 논의를 전혀 이해할 수 없다”

 

주커버그는 AI를 긍정적으로 봅니다. 그의 발언을 보죠. “AI가 자동차에 탑재되면 사람이 운전하는 것보다 안전하므로 많은 생명을 구할 수 있다. 또 질병의 진단과 약물의 처방 등에 우리는 이미 AI를 사용하고 있다.”

 

기술을 가치중립적으로 바라봐야 한다는 견해도 내비칩니다. “기술은 지금까지 항상 좋은 곳에도, 나쁜 곳에도 사용돼 왔다. 그러니 어떤 일이 일어날지 미리 생각하지 마라. 대신 무엇을 만들고 어떻게 사용할지를 생각해야 한다.” 

 

머스크를 비롯한 AI 위협론자의 개발 간섭도 반대합니다. “AI의 개발 속도를 늦추려는 논의에는 의문이 생긴다. 전혀 이해할 수 없다. AI에 반대하는 것은 사고를 방지할 수 있는 더 안전한 자동차를 반대하는 것이며 아플 때 정확한 진단을 받는 것에도 반대하는 것이다.”

 

주커버그가 저격했다는 소식이 들리자 7월25일 머스크는 트위터에 이렇게 썼습니다. “나는 마크 (주커버그)와 AI에 관해 이야기 한 적이 있다. 그는 AI에 대해 충분히 이해하고 있지 않았다.” 심지어 머스크는 “이 건에 관한 동영상도 곧 공개할 것”이라는 진담 반 농담 반의 코멘트를 날렸습니다.

 

AI 위협론을 둘러싼 갑론을박. 인공지능이 이 사회에 등장한 이후 항상 있었습니다. 그리고 논의에 빠지지 않는 게 인간을 훌쩍 뛰어넘는 ‘슈퍼AI’의 등장 가능성입니다. ‘터미네이터’의 ‘스카이넷’ 같은 존재를 말하는 거겠죠. 

 

닉 보스트롬 옥스퍼드 대학 교수(철학과)는 ‘슈퍼인텔리전스’라는 책에서 진정한 슈퍼AI는 실현가능하며, 기존 인간이 만든 발명품보다 더 큰 위험이라고 지적했습니다. 옥스포드 대학 인류미래연구소의 피터 맥킨타이어는 슈퍼AI가 가질 수 있는 대부분의 목적은 인간을 배제할만한 이유가 있다고 설명했습니다. AI가 비용을 줄이고 기업의 이익을 극대화해야 한다고 생각할 수 있기 때문입니다. 특히 인간의 목표와 슈퍼AI의 목표가 일치하지 않을 경우 인간이 AI를 정지시킬 수 있는 선택권을 가질 이유가 없으며 그에 대해 인간은 속수무책이라는 게 그의 주장입니다. 

 

AI 위협론에 대해 확실하게 말할 수 있는 건 아직 없습니다. AI가 어떤 형태를 취할지, 그것이 언제 어떤 식으로 인류를 위협할 지도 예언할 수 없습니다. 다만 학계에서 논의되던 AI 위협론이 이번 기회에 수면 위로 올라온 건 의미가 있습니다. 특히 AI를 직접 개발하고 산업에 활용하는 테크업계의 거물들인 주커버그와 머스크가 벌인 설전이기에 더 흥미롭습니다. AI는 효용만 따져서 안 되는 존재라는 걸 환기시키는 계기가 됐기 때문입니다. 

 

이 기사에 댓글쓰기펼치기