AI 기술의 진보, 윤리의 경계에 서다

인공지능은 일상의 모든 곳에 침투해 있다. AI자율주행차는 극단의 상황에서 어느 한 생명을 선택해야 하는 판단을 해야하고, AI챗봇은 사용자에게 정신적으로 위험한 조언을 하기도 한다. AI기술은 이제 단순한 도구를 넘어, 윤리적 결정을 요구하는 지점에 도달했다.

세계경제포럼(WEF)은 『AI 가치 정렬(Value Alignment)』 보고서에서 AI가 인간의 가치체계와 어떻게 정렬되어야 하는지를 강조하며, 윤리적 설계 기준 마련의 시급성을 제기했다. MIT 테크놀로지 리뷰는 AI가 인간 판단을 초월하는 순간이 멀지 않았다고 분석했고, 뉴요커는 기술의 속도에 비해 윤리적 성찰의 속도가 지나치게 느리다고 경고했다.

AI의 문제는 결국 기술이 아니라 인간이다. 우리는 지금, AI를 통해 인간의 본질을 시험받고 있다. 윤리는 AI에서 시작되지 않는다. 그것은 인간의 양심과 책임, 그리고 존재의 태도에서 출발한다.

AI 윤리의 붕괴 – 편향, 권리, 그리고 설계 책임

'이루다' 사건은 사적인 대화 데이터를 바탕으로 만들어진 AI가 성차별적이고 편향된 언어를 학습하여 사회적 파장을 일으킨 대표적 사례다. 빅테크의 알고리즘은 특정 인종, 성별, 경제계층에 대한 편견을 강화하며 구조적 차별을 확대하고 있고 AI를 활용한 마케팅은 이를 부추기고 있다. 이는 AI가 중립적 판단의 도구가 아니라, 인간의 무의식,  사회의 가치와 권력 구조, 문명의 방향를 학습하고 재현한다는 사실을 보여준다.

▲ AI는 인간의 거울, AI윤리는 사람의 인성 – 사람됨의 회복부터

2023년, 미국의 한 SNS 기업은 청소년 정신건강을 해치는 알고리즘을 알고도 방치한 사실이 폭로되었다. ‘인게이지먼트’라는 이름으로 혐오 발언과 자극적 콘텐츠를 우선 노출하는 시스템이 존재했다는 점은 충격적이다. 이는 기술의 문제가 아니라 윤리의 부재이며, 이윤 중심의 개발이 초래한 결과다.

"AI가 인간을 비추는 거울이라면, 우리는 그 거울 앞에서 어떤 얼굴을 하고 있는가?" AI기술은 인간의 선택을 반영하고, 때로는 증폭시킨다. 그렇기에 AI는 우리의 윤리 수준을 고스란히 드러내는 문명의 반사체다.

AI 윤리 설계, 공리주의와 칸트주의를 넘어 

AI 윤리를 설계하는 데 있어 우리는 두 가지 철학과 마주하게 된다. AI 윤리를 설계할 때, 대표적인 두 철학은 공리주의와 칸트주의다.

공리주의는 ‘최대 다수의 최대 행복’을 윤리적 기준으로 삼는다. 이 관점은 AI가 통계적으로 다수에게 이익이 되는 선택을 하게끔 유도할 수 있다. 예컨대, 자율주행차가 충돌을 피할 수 없는 상황에서 다수의 보행자를 살리기 위해 한 명의 운전자를 희생시키는 결정을 내리는 것이 정당화될 수 있다.그러나 이 접근은 소수의 생명이나 권리를 쉽게 희생시키는 구조로 연결될 수 있다. AI가 약자나 소수자의 고통을 경시하게 만드는 것이다.

칸트주의는 인간을 어떤 경우에도 수단이 아닌 목적 그 자체로 대우해야 한다는 윤리 기준을 제시한다. 이는 인간 존엄성과 절대적 도덕 규범을 강조한다. 예를 들어, 살인자가 집에 숨어 있는 아이의 위치를 물을 때조차, 칸트는 거짓말을 해선 안 된다고 주장한다. 그러나 현실에서 이러한 원칙은 맥락을 무시하고 융통성을 결여한 판단을 낳을 수 있다.

그러나 현실은 공리주의나 칸트주의만으로는 포착되지 않는 윤리적 다층성과 맥락성을 지닌다. 최근 윤리학계는 관계윤리(Ethics of Care)와 덕 윤리(Virtue Ethics)와 같은 대안적 틀을 통해, AI 설계에 인간 간의 유대감, 배려, 성숙한 인격형성의 중요성을 반영하고자 한다. AI가 다루는 문제는 통계나 원칙만으로 판단할 수 없으며, 감정과 관계 속에서 맥락적으로 이루어지는 윤리성이 더욱 요구된다. 바로 이 지점에서 ‘사람됨 기반 윤리’가 새로운 패러다임으로 떠오르고 있다.

2021년 유네스코는 『AI 윤리 권고안』을 채택하며 인간 중심 가치 위에 작동해야 한다는 AI의 원칙을 제시했고, WEF는 사회적 불평등을 재생산하지 않는 윤리 문해력의 중요성을 강조했다. 딥마인드는 ‘스패로우(Sparrow)’ 프로젝트로 윤리 규범을 AI에 적용하고자 했고, AI 클로드(Claude)는 유엔 세계인권선언과 헌법 원칙을 내장한 시스템으로 설계하는 시도 역시 주목할 만하다. 

하지만 AI윤리 설계는 AI개발 업체나 기술자만의 몫이 아니라 윤리학자, 심리학자, 언어학자, 교사, 디자이너 등 다양한 분야 전문가들이 함께 참여하는 융합적(다학제적) 책임 설계가 요구된다. AI는 인간 삶의 복잡성을 반영할 수 있어야 하며, 이는 단순한 기술적 안전망을 넘어선다. 윤리 설계는 곧 사회 전체의 가치 구조를 다시 짜는 일이다.

인간다움, 인성의 위기와 AI교육의 한계

우리는 지금 감정이 메마른 사회에 살고 있다. 감정 소진(burnout), 공감 결핍, 정서 단절은 개인의 문제가 아니라 사회 구조 전반의 경고등이다. WHO는 미래 사회의 핵심 역량으로 정신 건강과 정서 회복력을 제시했고, OECD와 유네스코는 사회정서학습(SEL)을 공교육의 핵심 과제로 제시하고 있다. 

AI 윤리를 설계하기 위해 필요한 것은 고차원 알고리즘이 아니라, 감정 인식과 공감 능력, 윤리적 판단이 가능한 내면의 성숙이다. 이는 교육을 통해 훈련되어야 할 요소다.

AI의 진입이 빠르게 진행 중인 교육 현장에서는 관계망 분석이나 진단 시스템이 도입되고 있지만, 교육은 단순한 정보 전달이 아닌 존재를 성장시키는 관계 중심의 활동이다. AI는 교사가 사용할 보조 도구일 수는 있어도 교사가 하는 인간의 교육적 역할을 대체할 수는 없다. AI가 발전할수록 오히려 교사에게 요구되는 인성, 감정조율, 윤리적 본보기는 더욱 중요해진다. 교육이 사람됨의 회복 없이 AI기술에만 의존한다면, 인간적 온기와 윤리적 판단이 사라진 교육 현실을 초래할 것이다. 
 

대안은 어디에 있는가 – AI시대, 핵심 감성교육 요소와 뇌 기반 인성교육

인간 중심 윤리의 회복은 결국 사람됨을 교육하는 일에서 시작된다. 여기서 ‘사람됨’이란, 감정을 인식하고 조절하며, 타인의 고통에 공감하고, 도덕적 책임을 자각하는 존재로서의 자기 자신을 의미한다. 이는 단순한 성격이나 습관이 아니라, 훈련과 교육을 통해 체화될 수 있는 인성의 핵심이다. 

그러나 오늘날의 교육은 여전히 지식 전달과 학습성취의 기능적 요소에 치우쳐 있다. 감정 표현은 억제되어야 할 것으로 간주되고 공감능력은 계발 가능한 역량보다 타고나는 성향으로 오해받기 쉽다. 존재의 성장을 위한 훈련, 곧 '사람됨'을 기르는 교육이 자리잡지 못한 것이다. AI를 활용한 교육설계보다 먼저 필요한 건 사람됨의 훈련이다. 

사람됨을 위한 교육에는 아래 네 가지 핵심요소가 요구된다.

• 감정 문해력 - 감정을 인식하고 언어로 표현하는 능력
• 정서 조절력 - 감정에 휘둘리지 않고 조율하는 자율성
• 공감 훈련 - 타인의 감정을 이해하고 반응하는 관계성
• 디지털 윤리 감수성 - AI 시대에 필요한 도덕적 책임감과 자기 통제력

이 네가지 역량은 감정·관계·자기조절·디지털 윤리를 통합한 핵심 감성 교육 요소로, SEL(사회정서학습), WHO의 정신건강 가이드라인, 유네스코의 AI 윤리 권고안에서 공통적으로 강조되는 내용이다.

이러한 감성적 역량을 통합적으로 훈련할 수 있는 실천적 대안이 바로 두뇌훈련과 브레인명상에 기반한 정서 회복 교육, 뇌교육이다. 뇌교육은 인간의 내면에 잠재된 감각, 감정, 의식을 깨우고 조율하여 삶의 주인으로 설 수 있도록 돕는 체계적 자아실현 훈련법으로 다음의 5단계로 구성된다.

1단계 뇌 감각 깨우기 – 몸과 감정을 느끼고 감각을 활성화하여 내면과 연결된다.
2단계 뇌 유연화하기 – 습관적 반응에서 벗어나 사고와 감정을 유연하게 전환한다.
3단계 뇌 정화하기 – 억압된 감정과 고정관념을 정화하고 마음의 중심을 회복한다.
4단계 뇌 통합하기 – 좌뇌와 우뇌, 이성과 감성, 생각과 감정을 통합하여 일관된 자아를 구축한다.
5단계 뇌 주인되기 – 나의 생각, 감정, 선택에 대한 책임을 인식하며 자기 삶의 주체가 된다.

국제뇌교육종합대학원대학교 뇌교육학과 신재한 학과장은 " 뇌교육을 통해 개인은 감정 와칭(watching) 및 자각 → 감정 전환 → 감정 통합 → 감정의 주인이 되는 여정을 체화하게 된다. 이는 단순한 기능 향상이 아니다. 뇌교육은 인간의 뇌를 기반으로 윤리적 자기성찰, 감정 조절력, 공감 능력을 신경과학적으로 훈련하도록 설계된 통합적 인성교육 시스템이다."라고 말한다.  

뇌교육은 인성교육의 실천적 대안으로 이미 그 효과는 국내의 해피스쿨과 엘살바도르의 교육을 변화시킨 사례를 통해 검증된 바 있다. 

사람됨이 설계되지 않으면, AI윤리도 설계되지 않는다

AI기술은 누구보다 빠르다. 그러나 사람이 준비되지 않은 채 기술이 앞서가면, 사회는 방향을 잃는다. AI 윤리는 알고리즘 설계의 문제가 아니다. 그것은 우리가 어떤 윤리를 가르치고 어떤 존재로 살아가고자 하느냐에 대한 깊은 성찰에서 시작된다. 

▲ AI는 인간의 거울, AI윤리는 사람의 인성 – 사람됨의 회복부터

AI윤리 설계는 결국 인간의 윤리적 자화상이다. AI는 인간을 닮아간다. 우리가 AI에게서 보고 싶은 것이 공감과 책임, 인성과 관계라면, 먼저 우리가 그런 존재로 살아야 한다. 교육이 지식을 가르치기 전에 사람됨을 회복하지 않으면, 기술은 목적지를 잃는다.

신재한 교수는 이렇게 이야기한다.  
“AI를 어떻게 만들 것인가?”를 묻기 전에, “우리는 어떤 존재가 될 것인가?”를 먼저 자문하자. 사람됨이 설계되지 않으면, AI윤리도 설계되지 않는다. 라고. 
 

글. 장인희 객원기자 heeya717@gmail.com