사실과 거짓의 경계가 흐려지는 포스트트루스 시대

현대 자유민주주의 사회에서 한 시민이 자신의 뜻을 정치에 반영하는 통로는 대개 하나로 좁혀진다. 자신을 대표할 사람을 뽑는 선거권이다. 대의민주제라 부르는 이 제도 안에서 시민에게 남은 가장 큰 권한은 ‘누구에게 나를 맡길 것인가’를 판단하는 일이다. 그래서 넘쳐나는 정보 속에서 무엇이 참이고 거짓인지를 스스로 가려내는 능력, 즉 올바른 정보 리터러시가 그 어느 때보다 중요하다.

정치학자 버나드 마넹은 오늘날의 대의민주제를 ‘청중 민주주의’라 불렀다. 정보통신기술이 발달하면서 정당의 이념이나 정강보다 정치인 개인의 이미지가 당락을 가르는 요소가 되었다는 것이다. 그 결과 정치인들은 소셜미디어로 대중의 감정에 호소하고, 효과를 키우기 위해 메시지는 점점 극단으로 치닫는다. 사실이 아닌 정보, 때로는 음모론까지 서슴없이 동원된다. 사실과 거짓의 경계가 흐려지는, 이른바 포스트트루스post-truth 시대다.

문제는 정보는 폭발적으로 늘어나는데, 그 정보를 이해하고 추론하고 판단하는 우리의 능력은 오히려 약해지고 있다는 사실이다. 스마트폰에 이어 생성형 AI가 빠르게 일상에 스며들면서 우리는 점점 더 많은 판단을 기술에 위임한다.

지금까지 AI 리터러시나 정보 리터러시를 기르자는 논의는 대개 ‘정보를 어떻게 비판적으로 판단할 것인가’에 집중해 왔고, 개인이 AI에 위임할 일과 그렇지 않은 일을 스스로 판단할 수 있다고 가정해왔다. 그러나 이 접근에는 한 가지 전제가 있다. 개인이 자신의 주의력과 인지능력, 판단 능력을 온전히 통제하고 있다는 전제이다. 만약 그렇지 못하다면? AI 기술이 정보를 판단하는 주체로서의 인간의 ‘무엇’을 훼손하고 있는지부터 짚어야 한다.

인지적 주체성의 훼손

철학자 마크 퀘켈버그는 2023년 논문에서 AI가 시민의 ‘인지적 주체성(epistemic agency)’을 훼손한다고 주장한다. 인지적 주체성이란 무엇이 참이고 거짓인지 스스로 판단해 자기 신념을 세우는 힘이다. 누가 믿으라 강요해서가 아니라 스스로 판단하는 것, 이것이 민주주의의 기본 요건이다. 그런데 이 힘이 무너지면 민주사회에서 발휘해야 할 정치적 주체성(political agency)까지 함께 무너진다.

그는 인지적 주체성이 무너지는 세 갈래의 경로를 짚는다. 

첫째, 가짜뉴스와 딥페이크가 만연하면 사람들은 타인의 말은 물론 ‘내가 제대로 판단하고 있는가’라며 자기 자신마저 의심하게 된다. AI가 진위를 가려내는 능력조차 나보다 낫다고 여기는 순간, 우리는 스스로 세운 신념보다 AI의 판단에 기대기 시작한다. 

둘째, ‘필터 버블(정보 여과 현상 또는 맞춤형 정보 편식)’이나 ‘정보 사일로(정보 칸막이 현상)’로 익숙한 인식적 버블이다. 내가 정보를 접하는 환경이 내 선택이 아니라 알고리즘에 의해 짜인다면, 나는 내가 새로운 정보를 접하고 싶거나 나의 판단과 신념을 성찰하고자 다른 의견을 접하고 싶을 때 그러한 환경을 만들 수 있는 자유를 누리지 못하는 것이다. 

셋째, AI가 방대한 데이터를 통계로 요약해 답을 건네는 방식이다. 너무 쉽게 이해되기에 우리는 그 인과관계를 과학적으로 따져보지 않고 그대로 받아들인다.

역량과 진정성의 훼손

델프트 공과대학의 스테판 바위스만 연구진은 최근 논문에서 AI로 인간의 내면이 훼손되는 문제를 좀 더 미세하게 설명한다. AI가 의사결정을 도울 때 인간의 자율성은 두 층위에서 무너진다는 것이다. 

하나는 ‘역량(competency)’이다. 계산기는 고장 나면 화면에 표시라도 되지만, AI는 완전히 틀린 답도 태연하게, 심지어 자신만만하게 내놓는다. 그러다 보니 사람은 언제 믿고 언제 의심해야 할지 판단하는 감각 자체를 잃는다. 실제로 의사는 AI 진단 보조를 오래 쓸수록 스스로 진단하는 자신감이 떨어졌고, 회계 감사관은 지원 시스템 없이 감사하는 능력이 낮아졌다는 연구가 있다. 있던 실력이 줄 뿐 아니라, AI가 먼저 글을 써주면 스스로 쓰는 법을 익힐 기회마저 사라진다.

다른 하나는 ‘진정성(authenticity)’이다. 더 미묘하고 근본적인 문제다. 우리가 어떤 판단을 내릴 때 그 바탕에 깔린 가치관은 진짜 ‘나의 것’이어야 한다. 그런데 실험을 보면, 사람들은 AI와 대화하는 사이 자신도 모르게 그 편향을 흡수한다. ‘소셜미디어가 사회에 이로운가’를 두고 글을 쓸 때, 한쪽으로 치우친 AI 글쓰기 도우미를 쓴 사람들은 실험이 끝난 뒤 개인적으로 물어도 그 편향된 쪽에 가까운 의견을 말했다. 정작 그 사람들 대부분은 자신이 영향받았다는 사실을 인지하지 못했다. 필터 버블은 원리상 알아차리고 빠져나올 수 있지만, 가치관이 나도 모르게 조금씩 바뀌어 버리면 ‘이게 원래 내 생각이었는지, AI에게 스며든 생각인지’ 구별할 방법조차 남지 않는다.

인간 고유 역량에 대한 개인적 체험

사람과 얼굴을 맞대는 소통보다 기술을 매개로 한 관계가 늘면서 우리는 알고리즘이, 나아가 그 알고리즘을 쥔 빅테크가 만들어 놓은 환경에 무의식적으로 종속되어 간다. 그런데 AI에 대한 종속은 단지 내가 접하는 정보 환경이 변하는 데서 그치지 않는다. 그 환경을 판단할 실력은 퇴화하고, 판단의 바탕이 되는 가치관까지 자신도 모르게 AI 쪽으로 기운다. 장기적으로, AI가 나보다 낫다는 생각에 자기 인지능력에 대한 자신감도 떨어진다.

결국 ‘정보의 주인’이 된다는 것은 내가 지금 옳다고 믿는 것이 정말로 내가 스스로 도달한 신념인지를 끊임없이 되물을 수 있는 비판 능력만의 문제가 아니다. AI 기술과의 관계에서 인간으로서의 본질적인 자신감을 회복하는 것이 중요하다. 그래서 AI 기술의 발전과 더불어 인간 고유의 역량에 대해 질문하게 되는 것이다. 

그러나 전문가들이 제시하는 인간 고유의 역량보다 더 의미 있는 것은 그것에 대한 개인적 체험이다. 나는 인간의 어떤 역량이 앞으로 가꾸고 키워나갈 가치가 있다고 생각하는가? 그 역량을 키우기 위해 나는 무엇을 할 것인가? 

글_김지인 국제뇌교육협회 국제협력실장. 지구경영학 박사 

참고문헌
• Coeckelbergh, M. Democracy, epistemic agency, and AI: political epistemology in times of artificial intelligence. AI Ethics 3, 1341–1350 (2023).
• Buijsman, S., Carter, S.E. & Bermúdez, JP. Autonomy by Design: Preserving Human Autonomy in AI Decision-Support. Philos. Technol. 38, 97 (2025).