검색

인류를 파괴시키고 싶다는 AI, 그 뉴스가 소름 돋는 이유

- 작게+ 크게

이성관 기자
기사입력 2018-06-28

 

 

[경기브레이크뉴스 이성관 기자] 지난 6월 22일, ‘SBS 8뉴스’에서는 흥미로운 뉴스가 방송됐다. 인공지능 로봇들이 인류를 파괴시키고 싶다는 취지의 말을 했다는 뉴스였다. 그리고 영상자료로는 영화 터미네이터의 한 장면이 나왔다.

 

 

그동안 인류를 멸망시키려는 로봇을 소재로 한 영화는 아주 많았다. SF의 고전이라고 일컬어지는 블레이드러너부터 터미네이터, 아이언맨 3편인 에이지 오브 울트론까지 수많은 작품에서 로봇들은 마치 인류를 멸망시키려고 태어난 것처럼 그려진다. 이런 영화에서 인공지능 로봇들은 감정이 없는 악당처럼 그려진다. 이번에 이슈가 된 기사 헤드라인에도 ‘사이코패스 AI 등장’이라는 말이 붙었다.

 

▲ 인공지능 로봇 Bina48의 발언(사진- 유투브)     © 경기브레이크뉴스

 

과연 인류를 멸망시키고자 하는 것은 싸이코패스적 발상일까? AI에 대한 모든 상상의 근원이 됐다고 볼 수 있는 작품이 있다. 그것은 SF소설의 거두 아이작 아시모프의 ‘런어라운드’이다. 이 작품에는 ‘로봇의 3원칙’이라는 개념이 처음 나오는데, 그의 이후 작품에서 세계관의 기본 전제로 사용된다.

 

 

로봇의 3원칙 내용은,

 

“첫째, 로봇은 인간에게 해를 가하거나, 혹은 행동을 하지 않음으로써 인간에게 해를 끼치지 않는다.

 

둘째, 로봇은 첫 번째 원칙에 위배되지 않는 한 인간이 내리는 명령에 복종해야 한다.

 

셋째, 로봇은 첫 번째와 두 번째 원칙을 위배하지 않는 선에서 로봇 자신의 존재를 보호해야 한다.”

 

 

▲ 인류 말살을 이야기한 것에 대해 농담이었다고 해명하는 인공지능 로봇 소피아 (사진-유투브)     © 경기브레이크뉴스

 

아시모프의 소설을 원작으로 한 영화 ‘아이, 로봇’에서는 자동차 사고로 아이와 부모가 물에 빠진 상황에서 더 생존 가능성이 높은 부모를 구하는 장면이 나온다. 아이를 먼저 구하라고 손짓하지만 로봇은 아이를 구하는 것은 가망이 없다고 여기고 끝내 부모를 데리고 나온다. 그러나 부모는 자신을 구출한 로봇을 원망하고 파괴시킨다.

 

 

만약 소방대원이 구출에 나섰다면 어떤 선택을 했을까? 어떻게든 아이를 구하려 했을까? 소방대원도 살 가망성이 더 큰 부모를 구했다면 사람들은 AI의 선택처럼 가치판단에 혼돈을 느낄까? 만약 소방대원이 아이를 구하려다 부모도 아이도 살리지 못했다면 어떨까?

 

 

인간은 부모만을 구하는 것보다 차라리 소방대원까지 함께 순직하는 것을 더 아름답게 여길지도 모른다. 그렇다면 과연 여기서 싸이코패스적 상상을 하는 것은 인간일까, AI일까?

 

 

인류는 지구와 지구안의 생물, 그리고 인류 스스로에게도 파괴를 일삼았다. 인류가 태어나지 않았다면 소행성이 지구에 떨어지지 않는 한 그 어떤 파괴도 일어나지 않았을 것이다. 지구에서 사는 생물의 멸망은 인간이 없었다면 지구 소멸의 시기와 동일했을 것이지만 인류는 지금 현재도 버튼 하나로 지구 안에 있는 모든 생물을 없앨 수 있다. 적어도 멸망의 확률을 현저히 높인 것만은 사실이다. 꼭 버튼이 아니더라도 자원이 고갈되고 온난화 등의 환경오염을 일으키는 가장 크고 거의 유일한 이유는 인류다. 70억 인류가 편하게 살기 위해 지구에서 빼앗아오는 자원의 양은 실로 어마어마하다. 그로 인해 생기는 환경오염, 그리고 급격한 기후변화 등은 현재 살고 있는 모든 생물들의 생존을 위협하고 있다.

 

 

▲ 인공지능 로봇 '한'의 발언     © 경기브레이크뉴스

 

AI가 판단하기에 지구에 가장 해를 입히는, 그리고 멸망의 확률을 높이는 것은 인류일 수밖에 없다. 인류를 파괴하고 싶다는 AI의 말에 실질적인 공포를 느끼는 이유도 인류 스스로 지구에 아무런 도움을 주고 있지 않다는 걸 잘 알고 있기 때문이다. AI가 똑똑해지면 똑똑해질수록 인류는 위협당할 확률이 높아질 것이다.

 

 

앞으로 인류가 택할 경우의 수를 세 가지로 추려보자.

 

 

첫째로 AI의 발전을 여기서 그만 두는 방법이 있다. 얼마 전 작고한 스티븐 호킹이나 테슬라의 창업자 엘론 머스크와 같은 인사들이 이 방법에 대한 논의를 해야 한다고 주장한 바 있다. 그러나 그 논의가 실제 이루어 진다해도 AI의 발전이 멈출 것이라고 여기는 사람은 아무도 없다. 인류 역사상 기술이 진보하지 않은 적은 없기 때문이다.

 

 

두 번째 방법은 AI가 인류를 멸망시킬 무기를 일순간 소멸시키고 다시는 그런 무기를 생산하지 않도록 하는 것이다. 그러나 북한이 핵을 보유하는 것조차 막을 수 없었던 인류가, 그리고 그 핵을 없애는데도 이토록 어려운 과정을 보이고 있는 인류가 과연 무기생산을 그만 둘까? 이 방법도 현실가능성은 없어 보인다.

 

 

그렇다면 마지막 세 번째 방법은 무엇일까? 그것은 그나마 다른 두 가능성보다는 높아 보인다. 물론 아주 희박하다는 것을 전제로. 그 세 번째 방법은 AI가 판단하더라도 파괴시키고 싶지 않은 인류의 모습을 더 많이 만들어내는 것이다. 환경과 생명에 대한 존중, 환경복원과 친환경 에너지 개발, 그리고 보편적인 인류애와 같은 가치들을 되살려 ‘공존’과 ‘평화’의 가치를 온 인류의 화두로 올리는 방법이다. 소수 운동가들의 영역이었던 이야기들을 온 인류의 화두로 변화시키는 것, 그래서 AI가 인류를 파괴시켜서 지구가 얻게 될 이익보다 인류와 공존하면서 얻을 것이 더 많다고 판단할 수 있도록 개선해 나가는 것이다.

 

 

사실 공존과 평화의 화두를 온 세계가 공유하지 않는 상태가 지속된다면 꼭 AI의 폭거가 아니더라도 인류는 멸망할 가능성이 높다. 어쩌면 공존과 평화는 인류에게 던져진 마지막 기회일 것이다. 그러나 불안한 것은 아무래도 인류가 그 기회를 놓칠 것 같다는 점 때문이다.

 

 

트위터 페이스북 카카오톡 카카오스토리 band naver URL복사
URL 복사
x

PC버전

Copyright ⓒ 경기브레이크뉴스. All rights reserved.