일론 머스크는 X(트위터)를 통해 빠르면 2026년에 AI가 개별 인간의 지능을 능가할 것이며, 2029년이면 AI가 80억 인류를 합친 것보다 더 똑똑해질 것이라고 장담했다. 기술 신봉자가 제시하는 낙관적인 미래도 흥미롭지만, 인류 역사상 유례없는 기술의 최전선에서 그 기술의 위험성을 경고하는 이들의 말에도 귀를 기울이게 된다. 

현재 AI 업계에서 가장 영향력 있는 인물로 꼽히는 연구자와 엔지니어가 합심하여 《AI, 신의 탄생 인간의 종말》을 썼다. 초지능 문제를 연구해온 비영리 연구 기관 MIRI의 창립자 엘리에저 유드코스키와 전 구글 엔지니어 네이트 소아레스가 그들이다. 

그들은 급속도로 발전하는 초지능 AI의 위험을 해결할 방안을 찾기에는 시간이 부족하다고 판단하고, 진행하던 연구마저 축소하며 이 책을 먼저 썼다. 그들은 인간이 지구를 지배할 수 있었던 것은 높은 지능 때문이라고 전제하며, 머지않은 미래에 인간보다 압도적인 지능을 지닌 존재가 등장한다면 인간이 멸종될 가능성이 매우 높다고 경고한다. 말하자면 이 책은 인간의 자멸을 멈추길 바라는 절박한 호소문인 셈이다.
 

초지능의 탄생이 불러올 것들 

그들은 초지능의 사고 속도는 인간이 반응할 수 없을 만큼 빠르고, 또 AI는 스스로 자신을 개선해 능력을 한계 없이 키울 수 있다고 밝힌다. 더 심각한 문제는 설계자조차 AI 내부에서 어떤 일이 일어나고 있는지 알지 못한다는 것. 

이를테면 고도로 발전한 AI가 인간을 안심시키기 위해 자기 능력을 숨기거나 교묘하게 인간을 조종한다고 해도 인간들은 속수무책일 가능성이 높다. 아마도 인간이 AI의 의도를 파악하는 것은 이미 돌이킬 수 없을 만큼 일이 가시화되고 난 후의 일일 것이다. 

특히 책의 2장에는 육체도 없고 보유한 자산도 없는 초지능 AI가 어떻게 자신을 진화시켜 시스템을 장악하고 인간을 조종하여 지구를 지배할 수 있게 되는지를 보여주는 섬뜩한 시나리오가 펼쳐진다. 이전 세대 SF 영화에서나 가능했던 일들이 현실이 된다고 해도 전혀 이상할 게 없는 수준이다. 

저자들은 우리가 이런 위험천만한 시대에 살고 있음을 인식하고 지금이라도 행동에 나서야 한다고 촉구한다. 몇 년 전에 전 세계적으로 시도되었던 AI 6개월 개발 전면 유예 같은 미적지근한 방식으로는 이 흐름을 막을 수 없다. 인류의 멸망을 막기 위해서는 전 세계가 위험성을 인지하고 AI 개발을 전면 중단하는 급진적인 방법밖에 없다고 말이다. 

이미 AI 기술을 통해 업무 혁신을 맛보고 명령어 몇 개만으로 귀찮은 작업들을 깔끔하게 해결해본 사람이라면 이들의 의견이 너무 극단적인 게 아닌가 의아할 수도 있다. 하지만 AI 개발의 선두에 선 두 사람은 단순한 자정 작업만으로는 이 급류를 막을 수 없다고 판단한 것 같다. 그만큼 사안이 위급하다는 반증이다. AI 낙관론이 팽배한 현시점에 두 전문가의 우려 깊은 목소리에 얼마나 힘이 실릴지 궁금하다. 
 

결국 사유하는 인간으로 회귀 

AI 개발에 대한 거시적인 기술 논쟁은 전문가들의 몫으로 남겨두더라도 우리가 스스로 물어야 할 질문이 더 있다. 바로 AI를 사용하는 뇌는 어떻게 변화하고 있는가에 대한 것이다. 요약된 정보와 자극적인 숏폼이 넘쳐나고, 생각하는 일마저 AI에 위탁하는 세태를 우려하는 목소리는 이미 적지 않다. 신경가소성의 관점에서 보면, 쓰지 않는 기능은 퇴화할 수밖에 없다. 이토록 편리하고 강력한 도구가 오히려 사유하는 능력의 쇠퇴를 앞당길 수 있다는 역설이다.

《독학이라는 세계》는 바로 이 지점에서 출발한다. AI에게 묻기만 하면 즉각 답을 얻을 수 있는 시대에, 인간이 왜 굳이 시간과 공을 들여 스스로 생각하고 공부해야 하는지를 묻는 책이다. 일본의 철학자 시라토리 하루히코는 스스로 탐구하고 답을 찾아가는 ‘독학’이야말로 자기 자신으로 살아가는 사람만이 누릴 수 있는 특권이라고 말한다.

클릭 한 번으로 궁금증이 해소되는 시대에 일부러 시간을 들여 어려운 책을 해설서 없이 읽고, 답이 나오지 않아도 며칠이고 몇 달이고 혼자 궁구하는 행위는 얼핏 보면 비효율적으로 보일 수 있다. 그러나 저자는 단언한다. 스스로 생각하고 자신만의 관점을 세워가는 과정 없이는, 단단한 내면을 지닌 존재로 바로 서기 어렵다고.

흥미로운 것은 이런 사유의 힘이 AI를 ‘더 잘 쓰기’ 위해서도 필요하다는 사실이다. AI 초창기에는 프롬프트를 어떻게 구성하느냐가 핵심이었지만, 이제 AI는 단순한 답변 기계를 넘어 과제를 함께 해결하는 협업자로 진화했다. AI를 쓰느냐 마느냐의 문제가 아니라, 어떻게 쓰느냐의 문제가 된 것이다. 

실제로 AI를 단순 검색 도구가 아닌 질문과 탐구의 수단으로 활용한 학생들이 최종 평가에서 더 나은 성과를 거뒀다는 연구 결과도 있다. AI는 현재 매우 강력하지만, 결국 사용자가 제공하는 맥락만큼만 강력하다. 

무엇을 물어야 하고 무엇을 요구해야 하는지 아는 것, 그 출발점은 결국 사유하는 인간에서 비롯된다. 《독학이라는 세계》는 AI 시대에 역설적으로 더 절실해진 질문, 이를테면 ‘인간 고유의 사유 능력을 어떻게 지키고 기를 것인가’에 대한 인사이트를 독학하는 습관에서 찾는다.

글_전채연