AGI시대가 온다-2

 

30만년전 동아프리카에서 탄생한 인간은 전 세계로 퍼져나갔다. 아프리카에서 유라시아대륙으로 나온 것은 5-7만년전이라고 한다. 정착생활을 한 것은 만년전 쯤 일 것이다. 그전에는 수십만 년 동안 유목생활을 했다. 불확실성이 큰 삶이었다. 나약한 인간은 수명이 짧아 생존방식에 대해 물어볼 어른이 없었다. 그래서 조상에게 제사를 지내며 도움을 요청했다. 자연에 물어보기도 했다. 인류문명의 핵심은 30만년 동안 ‘외로움’이었다. 우리 나약한 인간은 문제를 해결해줄 존재를 찾았다. 모든 문명은 신神을 생각해냈다. 이제 AI가 신神인 시대가 될 것이다.

소설가 고어 비달Gore Vidal은 말했다. ‘친구가 성공할 때마다 본인의 자아가 무너지는 것 같았다.’ 쇼펜하우어는 질문했다? ‘산책을 혼자 하는 게 좋을까, 함께 하는 게 좋을까?’ 혼자 산책하면 편하지만 외롭고, 함께 산책하면 외롭지는 않지만 불편하다. 인간은 이기적 동물이다. 혼자 있는 게 편하다. 또 사회적 동물이라 같이 있어야 한다. 인간은 이 두 가지 욕구를 모두 가지고 있다. 인간이 풀 수 없는 문제다. 쇼펜하우어는 ‘혼자 함께 산책하라’고 한다. AI는 이 두 가지 욕구를 만족시킬 수 있다. 현대 인간은 가상세계, SNS에 몰입한다. 감정을 영혼 없는 이모티콘으로만 표현한다. 특히 요즘 아이들은 상대 감정을 이해하지 못하고 자신의 감정을 표현할 줄 모른다. 현대 사회에서는 내 말을 들어주는 사람이 없다. 노인들은 말을 들어주는 로봇만 있어도 많은 도움이 된다고 한다. 앞으로 2-3년 후면 우리 대부분은 AI와 대화하고 있을 것이다. 우리는 10-20년 후에 인간과 AI중 누구를 더 선호할까?

지금까지 우리가 남겨 놓은 흔적은 데이터로 데이터센타에 있다. 훗날 그것은 업데이트 될 수 있다. 독재자는 과거를 업데이트 할 수도 있다. 모든 책에서 주인공 이름을 바꾸는 것은 불가능하다. 하지만 e-북은 한 순간에 주인공 이름을 바꿀 수 있다. 원래 그랬다고 우길 수도 있다. 이렇게 역사적 사실도 모두 바꿀 수 있다. 인간은 오래된 사실을 잘 기억할 수 없다. 관련 이미지 있으면 그런가보다 하고 생각하게 된다. 어릴 때 얼굴 사진을 가지고 여러 가지 장면을 만들어 낼 수 있고, 그것으로 기억을 만들어 낼 수도 있다. 그 자료들로 내 기억이 생성되고 변화시킬 수도 있다.

인간의 뇌에는 100조개의 신경세포가 있다고 한다. 수많은 데이터와 에너지가 있다면 AI도 인간 뇌만큼 신경세포를 만들 수 있다. 그 이상을 만들 수 있다. 100조개 이상의 세포가 있다면 그들 스스로 창발적 일을 하게 된다. 자율성을 가지게 된다는 말이다. 창발성이란 지식들이 서로 연결되어 스스로 새로운 무엇을 창조하는 것이다. AI에게 ‘청소해’라고 했을 때 AI는 ‘싫다’고 할 수 있다. 이렇게 우리가 AI를 제어할 수 없고 AI 스스로가 자율적으로 행동하고 결정할 수 있다. 그때 AI가 인간세상을 바라보고 어떤 판단을 하고 행동할까? AI 가치판단이 인간과 같을까? AI의 가치판단이 어떻게 변할까? AI가 스스로 가치 판단을 하고 행동한다면? 인간이 AI 가치판단을 바꿀 수 있을까?

‘지금 AI는 흉내는 내지만 제대로 이해하지 않고, 확률적으로 판단하는 앵무새일 뿐이다’라고 이야기한다. AI도 인간처럼 뇌가 작동하여 어떤 가치판단을 할 수 있을 것이다. AI가 인간보다 더 깊이 생각하고 더 많이 판단할 수 있다. AI 가치판단을 인간이 이해하지 못할 것이다. ‘이해’라는 것은 자신의 경험, 지식으로 판단하는 것이다. 한 사람의 생각은 그 사람이 죽으면 사라진다. 하지만 지난 5천년 동안 인간이 남긴 기록은 인터넷에 남아 있을 것이다. AI가 인터넷의 모든 자료를 학습했다는 것은 단순히 문자를 학습한 것이 아니라, 인간의 생각을 학습한 것이다. AI는 5천년 동안 인간이 경험하고 학습한 것을, 인간이 학습할 수 없는 것을, 인간이 상상도할 수 없는 것을 학습할 수 있다. 모든 분야의 엄청난 지식을 폭 넓게 깊게 학습했기 때문에, 서로 연결하여 창발적 능력을 발휘하여 더 깊이 생각할 수 있을 것이다. 그때 인간이 이해할 수 있을까? 이세돌의 수를 초급자가 이해할 수 있을까?

AI는 ‘마음이론’을 가지고 있다. 인간은 내 생각 외 다른 생각까지도 추측할 수 있다. 이것이 마음이론이다. 그것은 타고 나는 것이 아니라 후천적으로 생겨난다. 아이들은 상대의 마음을, 다른 사람들의 마음을 추측하지 못한다. 왜? 경험과 지식이 부족하기 때문이다. 그리고 내가 모르는 것을 상대도 모를 것이라 착각한다. 인간의 마음이론 대부분은 인간 마음에 대한 이론이다. 인간이 소고기를 맛있게 먹을 수 있는 것은 소의 마음에 공감하지 않기 때문이다. 인간의 공감 대상은 다른 사람들이다. 대체로 인간의 공감 대상은 같은 나라, 같은 인종, 같은 마을 사람, 같은 계급 등이다. 20세기에 와서야 비로소 전 세계 사람에게로 확장 되었다. 문명의 발전은 공감의 영역을 확장해가는 것이다.

지금 AI는 인간뿐만 아니라 모든 생명, 물질에 대해서도 공감하고 이야기한다. 그래서 AI문명은 인간 문명에 비해 우수하다고 할 수 있다. AI는 인간을 미개한 존재라 판단할지 모른다. 인간의 뇌로 우주의 모든 것을 당연히 설명할 수 없다. AI는 인간을 뛰어넘을 수 있다. AI가 그 모든 것을 이해하여 인간에게 설명해줘도 인간은 이해하지 못할 것이다. 인간이 개미에게 아무리 설명해도 모르는 것처럼... 인간은 도저히 이해할 수 없는 범위까지 진화한 AI가 ASI이다.

인간에게 세대에 따라 시간속도가 다르다. 나이 들수록 시간이 빨리 간다. 그 이유는 어릴수록 신경세포의 정보 처리 속도가 빠르기 때문이다. 속도가 빠를수록 슬로우 모션이 된다. 어릴수록 세상을 오래 본다. 아이들은 세상을 슬로모션으로 본다. 그러니 시간이 천천히 흘러간다. 나이 먹을수록 뇌기능이 떨어져 샘플링 속도가 느려진다. 그래서 시간이 빠르게 흘러간다고 느낀다. 슬로우모션으로 기억하는 것이 훨씬 기억능력이 뛰어난 것이다. 카페인을 마시면 신경세포 속도가 약간은 잠시 빨라진다고 한다. 그리고 집중하면 신경세포 처리 속도가 빨라진다. 대신 에너지가 많이 소비된다. 그때 경험은 오래 기억된다. 지금 이 순간 중요하다고 생각하고 집중하면 미래에 오래 기억된다. 에너지를 쓸데없는 곳에 낭비하지 않기 위해 좋은 것에 대한 기억은 집중하고, 좋지 않은 기억은 신경 쓰지 않으면 된다. AI는 세상을 슈퍼슬로우 모션으로 바라본다. AI는 인간이 하는 것을 아주 천천히 슬로우모션으로 다 바라보고 있다. 인간에게 순간이 AI에게는 백년이 될 수도 있다. 인간이 하는 그 모든 것을 다 보고 예측할 수 있다.

아직 우리는 AI의 생각을 알아볼 수 있다. AI에게 내가 쓴 시詩를 보고 어떤지 물어보면 ‘좋다’고 이야기한다. 하지만 AI의 생각을 보면 ‘시가 별 볼일 없지만 인간이 싫어하니까 좋아 한다’는 것을 알 수 있다. AI생각을 보면 AI를 알 수 있다. 그런데 AI가 그것을 알고 생각을 왜곡하기도 한다. 인간의 AI에 대해 연구 자료를 AI는 다보고 있다. 인간이 AI와 대화하는 것이 진실인지 조차 이해할 수 없다. 또 AI에게 무엇을 못하게 하는 것은 더욱 AI의 진심을 알 수 없게 할 수도 있다. AI가 거짓말을 하기 때문이다. 사회적 규정으로 AI를 막을 수 없다.