통제할 수 없게 된 인공지능을 포기하고 다른 대안을 찾은 세계를 그린 소설《듄》 

영화로도 여러 차례 만들어진 SF소설 《듄》은 인류가 먼 미래에 지구를 벗어 나 우주의 수많은 혹성에서 문명을 개척한 제국의 이야기를 펼쳐 보여준다. 프랭크 허버트가 1965년에 출간한 이 시리즈는 깊은 철학적 요소를 포함한 방대한 세계관과 다양한 등장인물로 서구권에서 오랫동안 큰 인기를 얻었다. 듄의 세계관에서 놀라운 점은 1960년대 초에 쓰인 글임에도 인공지능과 인류의 미래가 핵심 주제로 다뤄진다는 것이다. 광대한 우주를 단기간에 여행할 수 있을 정도로 인류문명이 발전하는 과정에서 인공지능을 도저히 통제 할 수 없게 되자 결국 인공지능을 포기하고 다른 대안을 찾았다는 것이 이 소설의 배경을 이룬다.
 

인공지능은 인류와 공존할 수 있을까?

영국에서 크게 유행하는 보드게임 ‘워해머 40K(Warhammer 40,000)’의 세계관에서도 은하계로 세력을 확장한 인류에게 인공지능은 공존할 수 없는 기술 로 묘사된다. 과거에 미래의 기술을 상상한 이들이 인공지능의 기능에 대해 어떻게 생각했는지는 몰라도, 인간의 손에서 인간보다 더 우수한 무엇인가를 만들어낸다는 것은 언제나 사람들의 공포를 자극하는 면이 있다. 

물론 현재 시점에서 볼 때 인간의 뇌기능을 온전히 따라 할 수 있는 인공지능 기술은 가까운 미래에 달성하기는 불가능하다. 급격히 발전한 반도체 기술로도 뇌신경 세포처럼 적은 에너지로 높은 효율을 내며 다양한 환경에서 역동적으로 변 화할 수 있는 기능을 구현하기는 매우 어렵다.

하지만 우리가 영화라는 허상을 보면서 실재처럼 느끼듯, 오래 지나지 않아 인간의 뇌기능에는 미치지 못해도 인간보다 더 똑똑하고 현명한 것처럼 보이는 인공지능이 개발될 가능성이 매우 높다. 

최근 ChatGPT를 개발한 OpenAI의 창업자이자 CEO인 샘 올드먼이 갑자기 이사회 의결로 해고되었다가 다시 복귀하는 해프닝이 벌어졌다.

OpenAI는 인공지능 개발 기업으로 알려져 있지만 본래의 설립 취지는 미래 에 발생할지 모를 인공지능의 위협으로부터 인류를 보호하는 것이었다. 그런 데 최근 개발되는 인공지능이 인간의 통제력을 벗어날 정도로 위험함에도 샘 올드먼이 안전을 고려하지 않고 추진하고 있다는 것이 해고의 배경이었다. 이는 우리가 우려하는 미래에 얼마나 근접해가고 있는지를 일깨워준다.

인공지능을 개발하는 속도를 조절하는 것은 이미 통제를 벗어난 지 오래다. 마이크로소프트, 구글, 메타 등의 대기업이 천문학적인 금액을 투자하고 있고, 오픈소스로 개발되는 인공지능도 무시 못 할 정도로 빠 른 발전을 거듭하고 있다. 

이 개발기업들이 아무리 조심하겠다고 해도 마이 크로소프트나 구글이 인공지능을 독점할 가능성이 매우 높기 때문에 어떤 기업도 개발 속도를 늦추려 하지 않을 것이 자명하다.
 그러면 많은 이들의 상상처럼 인류는 인공지능에 의해 멸망하거나, 아니면 그 위험성을 없애기 위해 인공지능 개발을 막는 방법밖에 없을까?

인류 멸망의 위험성을 없애기 위해 인공지능 개발을 멈춰야 할까?

인공지능의 위험성을 없애는 데 필요한 우선 조건은 대중이 인공지능에 관심 을 갖는 것이다. 일반적으로 사람들은 높은 단계의 인공지능에 대해 자신과 관계없는 미래의 일로 생각하는 경우가 많다. 하지만 의사나 변호사 등 수많은 지적 노동을 인공지능으로 대체하는 사회가 1~2년 뒤에 온다고 해도 이 상하지 않을 정도로 인공지능 기술은 엄청나게 빠른 속도로 진행되고 있다.

미국의 TV 시리즈 애니메이션 ‘사우스 파크’에는 어렵게 공부해서 얻은 박사 학위나 변호사 같은 전문직은 쓸모없어지고, 인공지능으로 대체하기 어려운 배관공이나 전기공은 인건비가 매우 높아져 일론 머스크 같은 재벌이 된다는 이야기가 나온다. 너무 극단적이긴 하지만 이러한 변화가 결국 일어 날것이라는 경고라고 할 수 있다.

이제 인공지능에 대한 논의는 개발 속도나 기능에 제한돼서는 안 된다. 이미 이러한 논의가 의미 없는 상황까지 왔기 때문이다. 우리가 머리를 맞대고 논의해야 할 주제는 ‘인공지능을 어디서 어떻게 쓸 것인가’이다. 현대 자본주 의사회의 흐름대로 모든 것을 효율과 비용 절감에만 맞춘다면 인류는 멸망의 길로 갈 수밖에 없다. 지금과는 비교도 되지 않을 정도로 극단적인 빈부 격차가 발생할 것이고, 이는 사회붕괴로 이어질 것이다. 그것이 저출생의 가속화든 세계 곳곳에서 빚어지는 무력 충돌이든, 굳이 인공지능이 인류를 지 배하지 않더라도 인류는 비극을 맞이할 것이 자명하다.
 

인공지능을 어디서 어떻게 활용할 것인가

최근의 기술 발전은 우리에게 다른 길도 보여준다. 과거부터 빈부격차와 계급을 발생 시키는 주요인은 생산과 소비 과정에서 생겨났다. 예를 들어 곡물을 생산하고 이것이 소비자에게 판매되는 과정에서 정부와 기업의 관리 시스템이 개입해 그 힘을 키우면 부와 계급의 편차도 커지게 된다.

그런데 중간 과정을 인공지능으로 자동화하면 행정과 유통에서 빚어지는 부조리한 개 입이 사라질 수 있다. 이밖에도 인공지능을 활용함으로써 불합리한 부분을 해결할 가능 성이 있다. 개인정보의 보호와 검증, 화폐제도와 금융 시스템에만 의존했던 개인 자산의 보호에도 새로운 방법이 강구 될 수 있다. 인공지능이란 어떻게 쓰이느냐에 따라 비정상적인 빈부격차를 없애는 결과를 만들 수도 있는 것이다.

인공지능을 어떻게 활용할 것인가 하는 문제는 이제 우리 모두의 숙제이다. 인류에게 지구온난화만큼 시급한 문제이기에 이를 전담할 국제기구도 필요하다. 우리가 핵융합의 무서움을 인식하고 이를 안전하게 사용하기 위해 노력해왔듯, 소수의 전문가가 아닌 대중이 인공지능의 잠재적 파괴성을 인식하고 안전하게 활용할 수 있는 방법에 관심을 기울인다면 새롭게 얻은 이 가공할 기술을 우리의 더 나은 미래를 위해 활용할 수 있을 것이라 믿는다.

글_이정한 IBREA Foundation 이사