지난달 10일 바이든 미국 대통령과 룰라 브라질 대통령이 정상회담을 갖고 기후 위기 대처를 위한 아마존 보호 협력을 강화하기로 했다는 기사가 실렸다. 국제사회의 비난에도 불구하고 아마존의 열대우림을 난개발해 온 보우소나루 전 브라질 대통령의 행보에 제동이 걸려 일단 안심이다.
그런데, 미국과 브라질의 현직 대통령이 나란히 앉아 있는 사진이 참 재미있다. 두 대통령 다 공식 취임 전 대선 패배에 불복하는 폭동을 겪었기 때문이다. 두 폭동은 전직 대통령을 배후로 우익 단체들이 이끈 것으로 알려졌으며, 트위터 등 소셜 미디어를 통해 응집력을 높이고 더욱 극단적으로 발전했다. 전 세계를 연결시킨 소셜 미디어가 오히려 사회분열과 양극화를 초래하고 민주주의의 근간을 흔들게 된 대표적인 사례다.
같은 달 21일에서 23일 프랑스 파리의 유네스코 본부에서는 ‘Internet for Trust(신뢰를 위한 인터넷)’라는 주제로 콘퍼런스가 열렸다. 민주주의와 평화를 위협하는 허위 정보 유통의 온상이 되고 있는 디지털 플랫폼의 규제를 위해 국제적인 협업이 필요했기 때문이다. 이 콘퍼런스에 룰라 브라질 대통령이 편지를 보내왔는데 다음과 같은 내용이 있다.
“디지털 환경은 부와 권력을 소수의 기업과 국가에 집중시키는 결과를 초래했습니다. 또한 민주주의를 위협하고 있습니다. 시민들 간의 민주적인 소통에 대한 위협이자 공중보건에 대한 위협입니다. 코로나 팬데믹 동안의 거짓정보의 확산은 수천명의 목숨을 빼앗아갔습니다. 혐오 발언은 매일 희생자를 만들어내고 있습니다. 무엇보다, 희생되는 사람들의 대부분은 우리 사회의 가장 취약한 계층에 있는 사람들입니다.”
디지털 플랫폼 상에서의 정보 편향성은 전 세계적 문제이다. 각국 정부에서는 이 문제를 해결하기 위해 정보 리터러시 교육을 강화하고 정보 중재를 위한 대책을 빅테크 기업에 요구하고 있지만, 디지털 플랫폼의 기반이 되는 비즈니스 모델이 수정되지 않는 한 예산 분배와 선제적인 대응에는 한계가 있어 보인다.
유네스코는 이 콘퍼런스를 위해 준비한 조사보고서1에서 디지털 플랫폼에서 거짓과 증오가 번성하는 문제의 뿌리는 디지털 플랫폼의 비즈니스 모델이 되고 있는 관심경제attention economics에 있다고 분석한다. 관심경제는 소비자의 관심을 파악한 후 그에 맞는 서비스를 제공해 소비자를 유인하여 시장을 형성하고자 한다. 맞춤형 뉴스, 맞춤형 검색, 구매, 추천 상품, 알림 등이 여기에 해당한다.
관심경제의 가장 대표적인 예는 유튜브의 추천 시스템이다. 사용자 정보와 시청 패턴 등을 분석해 사용자가 좋아하는 테마를 파악하여 해당 테마에 대해 점점 더 자극적인 콘텐츠를 추천하는 방향으로 알고리즘이 짜여 있다. 최근에 사회적으로 큰 영향을 미친 테마들을 보면 극단주의자들의 폭력 선동, 코로나 백신에 대한 허위 정보, 선거 음모론 등이 있다.
최근 142개국에서 약 15만명의 인터넷 사용자를 대상을 진행한 조사에 의하면 약 60퍼센트의 사용자가 인터넷 상의 허위 정보에 대해 우려하고 있다고 답했다. 특히 저소득층의 젊은 세대에 미칠 부정적 영향에 대해 걱정했다.2 다른 연구에서는 젊은 세대 중 43퍼센트의 응답자가 온라인 상에서 자신이 무엇을 볼지를 결정하는 알고리즘이 자신들의 ‘미디어 식습관media diet’에 부정적인 영향을 끼친다는데 동의한다고 답했다.3
유네스코는 이 콘퍼런스 전후로 디지털 플랫폼 규제의 가이드라인 수립을 위해 국제적 의견 수렴을 진행하고 있다. 이 가이드라인은 플랫폼의 투명성을 높여 해가 될 위험성이 있는 콘텐츠를 온라인에서 지원하는 비즈니스 프로세스와 기술 메커니즘들을 제한하는 것이 목적이다.
인류는 역사의 대부분의 시간 동안 정보와 지식의 부족과 싸워왔다. 그러나 인쇄술의 발명과 IT기술의 발전에 힘입어 누구나 어디에서나 대부분의 원하는 정보를 얻을 수 있게 되었다. 정보의 편재는 민주주의를 발전시킨 원동력이기도 하다.
지금은 오히려 넘쳐나는 정보를 소화할 수 없을 지경이 되어, 구글, 페이스북, 유튜브와 같은 디지털 플랫폼에 ‘정보 큐레이팅’을 위임해가고 있다. 그러나 성장과 이윤창출이 목표인 디지털 플랫폼 기업에게 개인의 의사 결정의 자율성을 보호하고 분열된 사회를 통합과 평화로 이끌수 있는 건강한 정보 환경을 구축하기 위해 노력하리라고 기대하기는 어렵다.(그런 의미에서 최근 오픈AI의 미라 무라티 CTO의 공개 테스트 행보는 주목할 만하다. 그의 행보가 다른 빅테크 기업들의 방향을 변화시키는 데까지 이르길 바란다.)
Chat GPT와 같은 대화형 인공지능의 출현으로 우리는 우리가 인터넷 상에서 생산하고 소비하는 정보들이 곧 인공지능이 앞으로 평화와 민주주의를 위해 활용될 수 있는가 아니면 파괴적인 무기가 될 것인가를 결정하게 될 것이라는 걸 피부로 느끼고 있다.
그 어느 때보다도 개개인이 정보의 주체라는 인식이 필요하다. 개인의 정신 건강과 주체적인 삶을 위해서만이 아니다. 인공지능과 함께 살아가야 할 미래의 방향이, 현재 우리가 어떤 정보를 생산하고 선호하는가에 따라 달라지기 때문이다.
글. 김지인 국제뇌교육협회 국제협력실장, 국제뇌교육종합대학원 지구경영학과 박사과정
참고자료
1. Research ICT Africa, ‘Digital Governance and the Challenges for Trust and Safety(Part 1)’, 2023, https://researchictafrica.net/wp/wp-content/uploads/2023/02/Part-1-.pdf
2. Aleksi Knuutila, Lisa-Maria Neudert, and Philip N. Howard, ‘Who Is Afraid of Fake News? Modeling Risk Perceptions of Misinformation in 142 Countries’, Harvard Kennedy School Misinformation Review, 12 April 2022, https://doi.org/10.37016/mr-2020-97; Martin N. Ndlela and Winston Mano, eds., Social Media and Elections in Africa, Volume 1: Theoretical Perspectives and Election Campaigns (Cham: Springer International Publishing, 2020), https://doi.org/10.1007/978-3-030-30553-6.
3. Kemp, ‘The Global State of Digital in October 2022 — DataReportal – Global Digital Insights’.