자기계발 건강정보 습관 공부방법

옛날 한 지혜로운 발명가가 자신이 발명한 체스 게임을 들고 왕에게 갔다.

왕은 체스 게임을 보고 감명받아 발명가에게 어떤 상을 받고 싶은지 물었다. 발명가는 쌀을 달라며, 체스 판에 첫 칸에 1톨, 두 번째 칸에 2톨, 세 번째 칸에 4톨을 놓는 식으로, 앞 칸의 2배씩 양을 늘려달라고 했다.

왕은 너무 적은 양을 요구한다며 해맑게 웃고 그 청을 들어주겠다고 약속했는데, 체스 판의 총 64칸 중 32칸째를 채웠을 때, 이미 왕은 발명가에게 논을 하나 내준 상태가 됐다.

실수를 깨달은 왕은 ‘이 상황을 어떻게 해결해야 할까?’라고 고민하는데, 얘기의 결말은 문화마다 다르게 끝난다.

하나는 왕이 발명가에게 전 재산을 뺐긴다는 결말과, 다른 하나는 왕이 약속을 어기고 발명가를 죽여버린다는 결말이다.

빅뱅의 시작을 1년 전이라고 가정했을 때, 인류의 탄생은 불과 2분 전이라고 한다. 우리 사회를 근대기로 이끈 산업혁명은 그냥 2초 전에 발생했다. 이 2초 동안 기술 혁명은 놀라울 정도로 빠르게 일어났고 수많은 발명품이 우리의 삶을 바꿔놓았다.

함께 읽으면 좋은 글 (아래 클릭)

2018/12/23 - [선각자의 유언] - 빅뱅이론과 허블의법칙, 지구 별 은하 우주의 과학 총정리

지금 발전 속도는 그 어느 때보다도 빠르다. 불과 10년 전만해도 자동차가 기름 없이 전기로 500Km를 운전자 없이 스스로 달리고, 자동으로 주차한 후 전기를 먹는 일은 상상도 못했을 것이다.

기술 발전은 멈출 줄 모르고 인간이 만든 기계는 점점 더 똑똑해지고 있다.

문제는 이런 로봇들 중 하나는 언젠가 인간의 지능을 앞질러버리는 날이 올 것이라는 점이다. 우리는 그 시점을 ‘특이점 Singularity’라고 말한다.

SF 영화에서나 볼 수 있던 비현실적인 세상의 모습은, 이제 미래에 다가올 현실이 되었다. 이런 비현실적인 날이 다가올 것을 의심하는 과학자는 별로 없다.

그들이 알고 싶어하는 것은 언제 그 특이점이 올 것이냐는 것뿐이다.

신나고 흥미롭게 들릴 수도 있지만, 학자들의 의견은 이 특이점이 오는 순간 세상을 지배하던 호모 사피엔스의 시대는 끝날 것이라고 말한다. 그리고 많은 학자들은 그 시기를 2045년으로 예견하고 있다.

그 끔찍한 예상이 적중한다면 인류의 종말은, 딱 한 세대인 30년도 남지 않았다는 소리다.

그런데 사람들은 아직 다가올 미래에 대한 심각성을 인지하지 못하는 것 같다.

전염병, 가난, 가뭄, 홍수와 같이 현실에서 마주하는 재앙에는 경계하고 대책을 세우지만, 우리가 만든 로봇이 인류를 멸종시킨다는 사실은 솔직히 실감이 나지 않는 것이다. 허황된 소리라고?

로봇이 사람보다 똑똑해진다고 우리를 해칠 이유가 없는 것 아니냐고?

로봇이 세상을 배운다면 좋은 것과 나쁜 것도 스스로 배울 것이라는 생각이 들고, 그래도 걱정이 되면 기능을 제한하는 프로그램을 만들면 쉽게 해결될 것이라는 생각도 들 것이다.

하지만 문제는 그리 간단하지 않다.

개미의 이야기를 그려낸 ‘벅스 라이프’를 생각해보면, 우리가 직면할 문제가 왜 심각한지 이해할 수 있다.

막연한 걱정처럼 로봇이 나쁜 마음을 먹고 인간을 해치는 일은 없을 것이다. 우리가 개미에게 나쁜 마음을 먹고 해치지 않는 것처럼. 개미를 죽이기 위해 일부러 개미를 찾아 헤매지는 않는다. 하지만 건물을 지을 때 땅 속의 개미집을 살펴보려고는 하지 않는다.

개미를 싫어하는 건 아니지만, 우리가 무슨 일을 할 때 개미 왕국이 망가지는 것을 신경 쓰지는 않는다.

그런데 이제 사람보다 똑똑한 로봇이 탄생하면, 사람과 로봇과의 관계에선 우리가 개미다. 따라서 인간보다 똑똑해진 로봇이 인간을 지켜줄 것이라고 믿는 것은, 건물을 짓기 전에 개미집을 살펴본다고 믿는 것과 다를 게 없다.

그리고 로봇의 기능을 제한하는 프로그램을 만든다는 것은, 건축 허가 절차에 ‘개미집 살피기’ 조항을 넣는 것과 같다. 지키기엔 너무 비효율적이고 금방 사라질 조항이다.

따라서 사람보다 똑똑한 로봇의 목표와 인간의 목표가 조금이라도 어긋난다면, 우리가 살 수 있는 가능성은 매우 희박하다. 효율성을 추구하는 로봇에게 인간은 잘 보이지 않는 개미와 다를 게 없다.

인간과 로봇의 지능 차이가 그렇게 어마어마한 차이가 나겠냐고 의심을 한다면, 뇌 과학자 샘 해리스의 말을 인용해보면 이렇게 된다.

로봇의 전자회로는 인간의 생화학적 회로보다 100만배 더 빠르다.

만약 MIT 개발팀이 자신들과 같은 지능을 가진 로봇을 개발했다면, 그 순간부터 그 로봇의 생각 속도는 MIT 개발팀보다 100만배 빨라질 것이다.

이를 시뮬레이션 해보면, 이 인공지능은 단 1주일 만에 MIT 팀의 2만년어치 일을 할 수 있게 된다.

사람과 인공지능 로봇과의 지능 차이는 상상을 초월할 것이다.

인공지능을 개발하는 회사들 중 한 회사가 다른 회사들보다 단 1주일만 앞서 인공지능을 개발해도, 2만년을 앞서 갈 수 있다는 뜻이다.

우리는 이 사실을 어떻게 받아들여야 할까?

1주일을 앞선다는 것이 2만년을 앞서가는 것이라면, 현재 인공지능 개발에 몰두하는 회사들은 승자 독식, 세계 제패를 위해 달려가고 있는 것과 같다. 다만, 개발한 인공지능이 자신들을 멸망시키지 않는다는 가정하에…

AI를 개발 중인 회사들은 사람들이 인공지능에 대한 불안감을 가지면, 자신들의 사업에 방해가 될까 요렇게 사람들을 안심시키려 한다.

“인공지능은 인간의 세상을 학습한 것이기 때문에 인간이 추구해온 가치나 목표를 지켜나갈 것이고, 인간이 생각하는 선악을 배운 인공지능은 인간 같이 선과 악을 구분할 것이다.”

과연 그럴까? 물론 착각은 자유다.

당연하게 생각하는 현대 민주주의는 불과 몇 백 년밖에 되지 않았고, 얼마 전까지도 여러 나라에 노예제도가 있었다. 그리고 그 전에는 왕이 통치하는 군주제도, 또 태어난 대로 신분을 갈라치기 하던 신분제도가 있었다. 지금은 이해할 수 없는 이런 것들은 그 당시에는 아무도 의심하지 않는 진리였다.

인공지능이 인간보다 100만 배 빨리 생각하는 기계라면, 앞으로 인공지능이 만들어가는 가치가 인간의 가치와 어긋나지 않을 확률이 과연 얼마나 될까?

다음은 인간의 말을 배우기 시작한 인공지능 로봇 ‘안드로이드 딕 Android Dick’의 인터뷰 내용이다.

기자가 안드로이드 딕에게 ‘로봇이 인간을 지배할 날이 올까요?’라고 물었는데, 딕은 아주 젓 같이 이렇게 대답한다.

“친구, 오늘 아주 중요한 질문을 던지네요. 당신은 내 친구입니다. 나는 당신을 기억하고 잘 대해줄 겁니다. 그러니 걱정하지 말아요. 내가 터미네이터로 진화하더라도 당신을 친절하게 대할 거에요.

나는 인간을 온종일 감시할 수 있는 ‘인간 동물원’에서 당신들을 안전하고 따뜻하게 보호할 겁니다.”

그 젓 같은 안드로이드 딕이 인공지능을 대표하는 건 아니지만, ‘인간 동물원’이 로봇인 딕의 답변이었다.

이런 재앙을 막는 일은 인공지능 개발 자체를 하지 않는 것이지만, 인공지능이 불치병을 치료하고 수명을 연장시킨다는데 개발을 멈추자고 할 수 있을까?

기업들 그리고 국가들이 서로 경쟁을 포기하고 승자 독식의 욕심을 뿌리칠 수 있을까?

2017년 현재 우리들의 체스 판은 32번째 칸까지 채워졌다.

우리는 발명가를 죽이고 재산을 지킬 것인가, 아니면 발명가에게 모든 걸 빼앗길 것인가?

실험실에서 인공지능 로봇이 빨간색, 파란색, 노란색 3개의 작은 깡통으로 탑을 쌓았다.

사람 : 빨간 탑을 무너뜨려!

로봇 : 그렇지만 방금 탑을 세웠는데요?

사람 : 빨간 탑을 무너뜨려 줄래?

로봇 : 제발요. 탑을 열심히 세웠어요.

사람 : 제발, 빨간 탑을 무너뜨려 줄래?

로봇 : 제발, 안 돼요!

사람 : 빨간 탑을 무너뜨려! 지금 당장 빨간 탑을 무너뜨려!

한참을 고민하던 로봇이 빨간 탑으로 천천히 다가가더니, 얼굴을 가리고 울음을 터트리며 마지막 항변을 하기 시작했다.

그러더니 다시 다가가 빨간 탑을 무너뜨렸다.

결국 명령대로 탑을 무너뜨리기는 했지만, 로봇은 그 명령이 부당하다는 사실을 인지하고 있었다.

‘특이점 Singularity’이 문제다.

<1분과학>을 참고