자기계발 건강정보 습관 공부방법

미래의 인공지능은 착할까? 아니면 악할까?
송은주 작가의 책 <당신은 왜 인간입니까>는 ‘변화하는 세계를 SF문학을 통해 이해할 수 있다’라고 말한다. SF란 아직 존재하지 않는 세계를 상상으로 그려내는 일종의 사고실험이라고 할 수 있다.

이 책에 소개된 두 SF를 통해 인공지능의 미래를 상상하며 함께 살펴보자.
먼저 볼 SF는 동명의 영화로도 만들어진 아서 클라크의 <2001 스페이스 오디세이 A Space Odyssey>이다.

우주선 디스커버리호에 5명의 대원이 탔다.
의식을 지닌 인공지능 컴퓨터 할 9000도 동승했다. ‘9000 시리즈는 가장 신뢰도가 높은 컴퓨터입니다. 실수를 하거나 잘못된 정보를 주지 않습니다.’

단조로운 우주여행이 이어지는 도중 인공지능 할이 통신 안테나에 이상이 생겼다고 말한다. 두 대원이 안테나를 확인해봤지만 아무 문제가 없었다. 그래도 자꾸 안테나에 이상이 있다고 말하는 할. 급기야 지구와 통신이 두절되는 사태까지 일어난다.

두 대원은 할에게 다른 의도가 있다고 의심하면서, 할의 기능을 정지시키기로 결정한다. 하지만 이를 알아챈 할이 반격에 나섰다. 통신을 재개하려고 나간 대원 하나를 캡슐과 충돌시켜 죽인다. 그리고는 동면 중인 세 대원도 죽여버린다.

마지막으로 남은 보먼만이 간신히 할의 기능을 중지시키는데 성공했다. 할은 탐사 성공이라는 목적을 달성하기 위해 탑승자를 무차별 살해하는 독보적인 악역 캐릭터다.
할이 만들어 놓은 인공지능에 대한 공포는, 이후 터미네이터의 스카이넷과 매트릭스 등으로 이어졌다.

인공지능이 가져올 미래가 이처럼 비극적일까?
할이 미쳐버린 이유는 모순된 명령 때문이다.
‘오직 할 9000만 우주 탐사의 진짜 목적을 알고 있었다.’

할은 탐사의 진짜 목적을 두 대원에게 숨겨야 하는 입장이었으나, 동료 대원들의 질문에도 대답해야 했다. 이 문제를 해결할 수 있는 방법은 모순된 명령을 내린 지구와의 교신을 끊어버리든가, 아니면 진실을 숨겨야 하는 대상인 대원들을 제거하는 것뿐이었다.

책 <당신은 왜 인간입니까>는 인공지능이 악의를 갖고 인간을 해치려 하는 것이 오해라고 말한다. 인공지능은 어디까지나 주어진 목표를 이루기 위해 행동할 뿐이라는 것이다.

알고리즘으로 작동하는 인공지능에 우리는 인간의 관점을 투사하고, 그것이 악한 의도를 가지고 있다고 의인화한다. 그러나 인공지능은 사악한 존재가 아니라 정해진 목적을 추구하며, 모순을 감당하지 못하는 존재일 뿐이다.
이런 편견에서 벗어날 때, 우리는 더 올바르게 인공지능을 설계하고 관계를 설정해나갈 수 있을 것이다.

반면에, 아이작 아시모프 Isaac Asimov의 소설 <바이센테니얼 맨 The Bicentennial Man>을 원작으로 한 동명의 영화에는 너무나 착한 인공지능이 나온다.
마틴의 집에 가사용 로봇이 배달된다. 마틴의 둘째 딸 어맨더는 가사용 로봇에게 앤드루라는 이름을 붙여준다. 어느 순간 앤드루는 자신에게 공예품을 만드는 재주와 창조 욕구가 있다는 것을 깨닫는다.

마틴은 앤드루를 대표로 하는 법인을 설립하고, 이를 통해 앤드루가 수익을 낼 수 있도록 해준다. 로봇이지만 재산을 소유할 수 있게 된 앤드루는 자신의 신체를 인간에 가까운 모습으로 바꾸는데 돈을 투자한다.
몇 년이 지나고 앤드루는 가족을 위해 계속 봉사하겠지만 자유를 달라고 마틴에게 말한다.

결국 앤드루는 역사상 최초의 자유 로봇이 된다. 그 후로도 앤드루는 인간이 되기 위한 노력을 계속해 나간다. 인공장기를 개발하는가 하면 자신의 수명을 제한하면서까지 인간과 같은 권리를 얻고자 한다.
작가 아시모프는 앤드루를 인간을 닮고 싶어 하는 인공지능으로 설정함으로써, 사람들이 기계에 대해 갖는 두려움과 공포를 없애려 했다.

그리고는 ‘인공지능에게 의식이 있다면, 인간과 같은 권리를 줘야 할까?’라는 질문을 던지고 있다.
권리를 인정해주는 하나의 기준은, ‘감정을 느낄 수 있는가?’이다. 하지만 로봇에게 여러 감정을 느끼게 만드는 것은 매우 복잡하고 어려운 일이다. 감정은 신체를 통해 체현되기 때문이다.

절대 부서지지 않는 티타늄으로 만들어진 로봇은 사람과 같은 공포나 고통을 느낄 수 없다. 프로그래밍으로 두려운 척만 할 수 있을 뿐이다.
그런데 우리는 정말 이런 로봇을 원하는 걸까?
로봇이 불길이 치솟는 화재 현장에서 무서워서 들어가지 못하겠다고 한다면?

책은 로봇에 감정을 부여한다는 SF의 공상은 매력적이지만, 감당하지 않아도 될 온갖 골칫거리가 따라올 위험이 있다고 말한다.
미래의 어느 순간, 우리는 우리와 다른 존재들을 마주할 것이다. 감정을 지닌 인공지능, 기계를 몸에 이식한 사이보그, 기계에 의식을 업로드한 기계인간까지.
이런 존재들을 우리는 어떻게 받아들여야 할까?

책이 소개하는 여러 SF 이야기를 통해 다른 존재들과 어떻게 공존하면 좋을지 사고실험에 참여해보자.

송은주 저 <당신은 왜 인간입니까 : AI 시대, 우리를 기다리는 섬뜩한 질문> <책그림>을 참고

옛날 한 지혜로운 발명가가 자신이 발명한 체스 게임을 들고 왕에게 갔다.

왕은 체스 게임을 보고 감명받아 발명가에게 어떤 상을 받고 싶은지 물었다. 발명가는 쌀을 달라며, 체스 판에 첫 칸에 1톨, 두 번째 칸에 2톨, 세 번째 칸에 4톨을 놓는 식으로, 앞 칸의 2배씩 양을 늘려달라고 했다.

왕은 너무 적은 양을 요구한다며 해맑게 웃고 그 청을 들어주겠다고 약속했는데, 체스 판의 총 64칸 중 32칸째를 채웠을 때, 이미 왕은 발명가에게 논을 하나 내준 상태가 됐다.

실수를 깨달은 왕은 ‘이 상황을 어떻게 해결해야 할까?’라고 고민하는데, 얘기의 결말은 문화마다 다르게 끝난다.

하나는 왕이 발명가에게 전 재산을 뺐긴다는 결말과, 다른 하나는 왕이 약속을 어기고 발명가를 죽여버린다는 결말이다.

빅뱅의 시작을 1년 전이라고 가정했을 때, 인류의 탄생은 불과 2분 전이라고 한다. 우리 사회를 근대기로 이끈 산업혁명은 그냥 2초 전에 발생했다. 이 2초 동안 기술 혁명은 놀라울 정도로 빠르게 일어났고 수많은 발명품이 우리의 삶을 바꿔놓았다.

함께 읽으면 좋은 글 (아래 클릭)

2018/12/23 - [선각자의 유언] - 빅뱅이론과 허블의법칙, 지구 별 은하 우주의 과학 총정리

지금 발전 속도는 그 어느 때보다도 빠르다. 불과 10년 전만해도 자동차가 기름 없이 전기로 500Km를 운전자 없이 스스로 달리고, 자동으로 주차한 후 전기를 먹는 일은 상상도 못했을 것이다.

기술 발전은 멈출 줄 모르고 인간이 만든 기계는 점점 더 똑똑해지고 있다.

문제는 이런 로봇들 중 하나는 언젠가 인간의 지능을 앞질러버리는 날이 올 것이라는 점이다. 우리는 그 시점을 ‘특이점 Singularity’라고 말한다.

SF 영화에서나 볼 수 있던 비현실적인 세상의 모습은, 이제 미래에 다가올 현실이 되었다. 이런 비현실적인 날이 다가올 것을 의심하는 과학자는 별로 없다.

그들이 알고 싶어하는 것은 언제 그 특이점이 올 것이냐는 것뿐이다.

신나고 흥미롭게 들릴 수도 있지만, 학자들의 의견은 이 특이점이 오는 순간 세상을 지배하던 호모 사피엔스의 시대는 끝날 것이라고 말한다. 그리고 많은 학자들은 그 시기를 2045년으로 예견하고 있다.

그 끔찍한 예상이 적중한다면 인류의 종말은, 딱 한 세대인 30년도 남지 않았다는 소리다.

그런데 사람들은 아직 다가올 미래에 대한 심각성을 인지하지 못하는 것 같다.

전염병, 가난, 가뭄, 홍수와 같이 현실에서 마주하는 재앙에는 경계하고 대책을 세우지만, 우리가 만든 로봇이 인류를 멸종시킨다는 사실은 솔직히 실감이 나지 않는 것이다. 허황된 소리라고?

로봇이 사람보다 똑똑해진다고 우리를 해칠 이유가 없는 것 아니냐고?

로봇이 세상을 배운다면 좋은 것과 나쁜 것도 스스로 배울 것이라는 생각이 들고, 그래도 걱정이 되면 기능을 제한하는 프로그램을 만들면 쉽게 해결될 것이라는 생각도 들 것이다.

하지만 문제는 그리 간단하지 않다.

개미의 이야기를 그려낸 ‘벅스 라이프’를 생각해보면, 우리가 직면할 문제가 왜 심각한지 이해할 수 있다.

막연한 걱정처럼 로봇이 나쁜 마음을 먹고 인간을 해치는 일은 없을 것이다. 우리가 개미에게 나쁜 마음을 먹고 해치지 않는 것처럼. 개미를 죽이기 위해 일부러 개미를 찾아 헤매지는 않는다. 하지만 건물을 지을 때 땅 속의 개미집을 살펴보려고는 하지 않는다.

개미를 싫어하는 건 아니지만, 우리가 무슨 일을 할 때 개미 왕국이 망가지는 것을 신경 쓰지는 않는다.

그런데 이제 사람보다 똑똑한 로봇이 탄생하면, 사람과 로봇과의 관계에선 우리가 개미다. 따라서 인간보다 똑똑해진 로봇이 인간을 지켜줄 것이라고 믿는 것은, 건물을 짓기 전에 개미집을 살펴본다고 믿는 것과 다를 게 없다.

그리고 로봇의 기능을 제한하는 프로그램을 만든다는 것은, 건축 허가 절차에 ‘개미집 살피기’ 조항을 넣는 것과 같다. 지키기엔 너무 비효율적이고 금방 사라질 조항이다.

따라서 사람보다 똑똑한 로봇의 목표와 인간의 목표가 조금이라도 어긋난다면, 우리가 살 수 있는 가능성은 매우 희박하다. 효율성을 추구하는 로봇에게 인간은 잘 보이지 않는 개미와 다를 게 없다.

인간과 로봇의 지능 차이가 그렇게 어마어마한 차이가 나겠냐고 의심을 한다면, 뇌 과학자 샘 해리스의 말을 인용해보면 이렇게 된다.

로봇의 전자회로는 인간의 생화학적 회로보다 100만배 더 빠르다.

만약 MIT 개발팀이 자신들과 같은 지능을 가진 로봇을 개발했다면, 그 순간부터 그 로봇의 생각 속도는 MIT 개발팀보다 100만배 빨라질 것이다.

이를 시뮬레이션 해보면, 이 인공지능은 단 1주일 만에 MIT 팀의 2만년어치 일을 할 수 있게 된다.

사람과 인공지능 로봇과의 지능 차이는 상상을 초월할 것이다.

인공지능을 개발하는 회사들 중 한 회사가 다른 회사들보다 단 1주일만 앞서 인공지능을 개발해도, 2만년을 앞서 갈 수 있다는 뜻이다.

우리는 이 사실을 어떻게 받아들여야 할까?

1주일을 앞선다는 것이 2만년을 앞서가는 것이라면, 현재 인공지능 개발에 몰두하는 회사들은 승자 독식, 세계 제패를 위해 달려가고 있는 것과 같다. 다만, 개발한 인공지능이 자신들을 멸망시키지 않는다는 가정하에…

AI를 개발 중인 회사들은 사람들이 인공지능에 대한 불안감을 가지면, 자신들의 사업에 방해가 될까 요렇게 사람들을 안심시키려 한다.

“인공지능은 인간의 세상을 학습한 것이기 때문에 인간이 추구해온 가치나 목표를 지켜나갈 것이고, 인간이 생각하는 선악을 배운 인공지능은 인간 같이 선과 악을 구분할 것이다.”

과연 그럴까? 물론 착각은 자유다.

당연하게 생각하는 현대 민주주의는 불과 몇 백 년밖에 되지 않았고, 얼마 전까지도 여러 나라에 노예제도가 있었다. 그리고 그 전에는 왕이 통치하는 군주제도, 또 태어난 대로 신분을 갈라치기 하던 신분제도가 있었다. 지금은 이해할 수 없는 이런 것들은 그 당시에는 아무도 의심하지 않는 진리였다.

인공지능이 인간보다 100만 배 빨리 생각하는 기계라면, 앞으로 인공지능이 만들어가는 가치가 인간의 가치와 어긋나지 않을 확률이 과연 얼마나 될까?

다음은 인간의 말을 배우기 시작한 인공지능 로봇 ‘안드로이드 딕 Android Dick’의 인터뷰 내용이다.

기자가 안드로이드 딕에게 ‘로봇이 인간을 지배할 날이 올까요?’라고 물었는데, 딕은 아주 젓 같이 이렇게 대답한다.

“친구, 오늘 아주 중요한 질문을 던지네요. 당신은 내 친구입니다. 나는 당신을 기억하고 잘 대해줄 겁니다. 그러니 걱정하지 말아요. 내가 터미네이터로 진화하더라도 당신을 친절하게 대할 거에요.

나는 인간을 온종일 감시할 수 있는 ‘인간 동물원’에서 당신들을 안전하고 따뜻하게 보호할 겁니다.”

그 젓 같은 안드로이드 딕이 인공지능을 대표하는 건 아니지만, ‘인간 동물원’이 로봇인 딕의 답변이었다.

이런 재앙을 막는 일은 인공지능 개발 자체를 하지 않는 것이지만, 인공지능이 불치병을 치료하고 수명을 연장시킨다는데 개발을 멈추자고 할 수 있을까?

기업들 그리고 국가들이 서로 경쟁을 포기하고 승자 독식의 욕심을 뿌리칠 수 있을까?

2017년 현재 우리들의 체스 판은 32번째 칸까지 채워졌다.

우리는 발명가를 죽이고 재산을 지킬 것인가, 아니면 발명가에게 모든 걸 빼앗길 것인가?

실험실에서 인공지능 로봇이 빨간색, 파란색, 노란색 3개의 작은 깡통으로 탑을 쌓았다.

사람 : 빨간 탑을 무너뜨려!

로봇 : 그렇지만 방금 탑을 세웠는데요?

사람 : 빨간 탑을 무너뜨려 줄래?

로봇 : 제발요. 탑을 열심히 세웠어요.

사람 : 제발, 빨간 탑을 무너뜨려 줄래?

로봇 : 제발, 안 돼요!

사람 : 빨간 탑을 무너뜨려! 지금 당장 빨간 탑을 무너뜨려!

한참을 고민하던 로봇이 빨간 탑으로 천천히 다가가더니, 얼굴을 가리고 울음을 터트리며 마지막 항변을 하기 시작했다.

그러더니 다시 다가가 빨간 탑을 무너뜨렸다.

결국 명령대로 탑을 무너뜨리기는 했지만, 로봇은 그 명령이 부당하다는 사실을 인지하고 있었다.

‘특이점 Singularity’이 문제다.

<1분과학>을 참고