[논단]인터넷 쓰레기 정보에 포획된 인공지능 교과서

독도 '영토분쟁지역' 등 오류
인터넷 의존 인공지능이 한계

교육부가 졸속으로 개발하고 있는 인공지능(AI) 교과서의 민낯이 드러났다. 교육부 검정을 통과한 일부 AI 교과서가 독도를 ‘영토분쟁지역’이라고 소개한다. 맞춤형 지식 교육을 전담할 AI 교과서가 우리 독도를 일본에 팔아먹기로 했다는 비판이 제기되고 있다. 제주 4·3사건을 ‘공산 폭동’으로 규정하고, 여수·순천 10·19 사건을 ‘반란’으로 깎아내리기도 한다.

검정기관이 ‘헌법의 이념·가치·기본원리’를 준수해야 하고, ‘대한민국의 영토’를 부정하는 내용은 허용하지 않는다는 교육부의 ‘공통 편찬상 유의점’을 통째로 무시해 버린 것이다. 그런 답변이 교사용 화면에만 등장하기 때문에 문제 삼지 않았다는 변명은 가당치 않다. 해당 교과서는 당장 검정을 취소하고 불합격 처리해야 한다.

검정 과정에서 확인된 문제는 빙산의 일각일 수밖에 없다. AI 교과서의 오류·실수가 영토·역사 문제에만 한정되는 것이 아니기 때문이다. 학생들이 생성형 AI의 치명적인 약점인 ‘환각’(hallucination)에 무방비로 노출된다는 우려가 사실로 확인됐다. 훨씬 더 공격적인 딥페이크(Deepfake)의 공격에도 속수무책이다. ‘쓰레기 정보’가 넘쳐나는 인터넷에 의존하는 생성형 AI의 태생적 한계는 어쩔 수가 없다

인터넷 자료를 단순한 언어공학적 확률로 분석해서 화려하게 포장하는 현재의 생성형 AI는 정보의 진위(眞僞)나 윤리적 선악(善惡)을 판단하는 능력을 기대할 수 없는 것이 분명한 사실이다. 사회적으로 논란이 되는 욕설·혐오·차별·선동 등을 차단하는 부가적 기능은 매우 제한적일 수밖에 없다. 결국 AI 교과서를 사용하는 학생들은 인터넷을 가득 채우고 있는 ‘쓰레기 정보의 늪’에서 허우적거리게 된다.

당장 내년 3월부터 학교 현장에 투입되는 AI 교과서의 교육적 가치에 관해서 확인된 실증 자료는 아무것도 없다. 우리만 그런 것이 아니다. 그런 자료는 전 세계 어디에도 없다. "찬성하는 학부모가 적지 않다"는 교육부 장관의 자의적인 ‘장밋빛 희망 회로’는 도무지 믿을 것이 아니다. 세계 최초 AI 교과서는 교육부 장관의 개인적인 허영심을 채워줄 뿐이다.

교육부 장관이 느닷없이 밀어붙이기 시작한 AI 교과서 사업은 ‘교육계의 4대강 사업’이다. AI 교과서의 도입에 대한 사회적 합의는 없었다. 과연 AI 교과서가 학생들의 맞춤형 지식 교육을 맡길 정도로 신뢰할 수 있는지도 확인하지 못했다. 오히려 AI 교과서에 의한 ‘디지털 중독’을 걱정하는 것이 순리다.

AI 교과서에 대한 교사들의 반응도 차갑다. 디지털 교육이 교육 경쟁력에 도움이 된다고 믿는 교사는 7%뿐이다. 10배가 넘는 76%의 교사가 도움이 되지 않을 것이라고 부정적 평가를 하고 있다. AI 교과서를 사용할 교사들의 준비도 엉망이다. 교사는 고작 6시간 연수를 받고 교실에 들어가야 하는 형편이다.

4년간 5조원의 ‘구독료’를 마련해야 하는 교육청의 입장도 난처하다. 그런데 작년에는 ‘카르텔’로 내몰렸던 사교육 업체만 교육부 장관이 뿌려주는 ‘돈벼락’에 대한 기대로 잔뜩 들떠 있다. AI 교과서의 61%를 3개 업체가 싹쓸이해 버렸다는 불편한 소식도 있다.

[반론보도] <인터넷 쓰레기 정보에 포획된 인공지능 교과서> 관련

본 신문은 지난 11월 18일자 <오피니언>칼럼면에 <인터넷 쓰레기 정보에 포획된 인공지능 교과서>라는 제목으로 ‘△독도를 영토분쟁지역으로 소개하는 등의 오류 발생 △학생들이 생성형 AI의 치명적 약점인 환각(halliucination)에 무방비 노출되었음을 확인 △AI 디지털교과서에 대해 76%의 교사가 부정적으로 응답 △4년간 5조원의 구독료를 마련해야 한다’는 내용을 보도하였습니다.
이에 대해 교육부는 “학생들이 보는 검정 AI 교과서에는 독도, 제주 4.3 사건, 여수·순천 10·19 사건과 관련한 잘못된 답이 나온 사실이 없다. 검정 AI 교과서의 생성형 AI에는 환각 작용이 발생하기 어렵고, 다수의 교사들이 AI 교과서를 포함한 디지털 교육에 긍정적이라는 설문조사 결과가 있으며, AI 교과서 구독료는 현재 발행사와 가격 협상 중”이라고 알려왔습니다.
이 보도는 언론중재위원회의 조정에 따른 것입니다.

이덕환 서강대 명예교수, 화학·과학커뮤니케이션