"챗GPT로 숙제하면 사고능력 저하"…청소년 보호 칼 빼든 미국

AI가 가져온 어린이 '인지부채' 문제
뇌신경 연결성 80% 이상 낮아져
미 당국, 어린이·청소년 위한 대책마련 지시

챗GPT와 같은 AI 챗봇을 과제 작성에 이용할 때 인지능력에 악영향을 받을 수 있다는 연구 결과가 나왔다. AP연합뉴스

챗GPT를 비롯한 생성형 인공지능(AI) 챗봇이 어린이와 청소년 학습에 부정적 영향을 끼친다는 우려가 확산되고 있다. AI를 활용한 과제 해결이 잦아지면 결국 사고력 저하가 누적돼 인지능력을 크게 약화시키는 일명 '인지부채(cognitive debt)'를 유발한다는 것이다. 미국 당국에서도 AI 챗봇을 운용 중인 기업들에 어린이와 청소년들의 접근을 제한할 대책마련을 지시했지만, 이미 교육현장에 퍼진 AI의 영향력을 약화시키기에는 어려움이 클 것으로 예상되고 있다.

AI 챗봇 사용, 뇌신경 연결성 83% 저하…인지부채 유발

미국 캘리포니아주의 한 고등학교에서 챗GPT를 이용한 수업 모습. AP연합뉴스

미국의 융합기술 연구기관인 MIT 미디어랩의 지난 6월 조사에 따르면 챗GPT와 같은 AI 챗봇을 과제 작성에 이용할 때 인지능력에 악영향을 받을 수 있다는 연구 결과가 나왔다. MIT 미디어랩은 18~39세 나이의 참가자 54명을 대상으로 AI 챗봇을 활용해 에세이를 작성한 그룹과 스스로 작성한 그룹을 비교한 결과 AI 챗봇을 활용한 참가자들의 뇌신경간 연결성이 스스로 작성한 지원자보다 83% 낮게 나타났다고 밝혔다.

연구진은 참가자들의 뇌파를 측정해 뇌신경들의 움직임과 뇌 활동을 기록했다. AI 챗봇을 사용한 참가자들의 뇌신경은 스스로 작성한 그룹과 비교해 활성화 빈도도 크게 떨어졌으며 다른 뇌신경들과의 교류빈도도 약했다. 외부에서 주어진 정보가 많은만큼 스스로 판단하고 분석하는 활동이 적어졌기 때문으로 분석된다.

에세이 작성 후 해당 내용을 재작성해보는 테스트 결과에서도 AI 챗봇을 활용한 참가자는 80% 이상이 실패했지만, 스스로 작성한 참가자는 89%가 성공했다. AI 챗봇을 과제에 활용한 참가자들은 자신이 무엇을 검색하고 어떤 내용을 썼는지 제대로 기억하지 못했던 것으로 나타났다.

연구를 주도한 나탈리아 코스미나 연구원은 "AI를 사용하는 편리함으로 인해 인지능력 약화가 누적돼 인지부채라는 대가를 치르게 된다"며 "지나치게 AI에 의존하면 비판적 사고능력에 심각한 문제를 초래할 수 있다. 어린이와 청소년이 너무 일찍 AI에 의존해선 안되며 스스로 기술을 개발할 수 있도록 해야할 것"이라고 지적했다.

AI 챗봇, 청소년 극단적 선택에 영향…소송전 발생 

AI 챗봇과의 대화에 지나치게 빠져들거나 우울증에 걸리는 사례도 나오고 있다. AP연합뉴스

인지부채 이외에도 어린이나 청소년이 AI 챗봇 사용으로 인해 각종 정신질환에 걸릴 수 있다는 우려도 나온다. CNBC는 "너무 일찍 AI 챗봇으로 과제를 풀기 시작한 아이들은 조작된 정보를 구분하지 못하는 AI 환각에 빠지기 쉽고 비판적이고 독립적 사고를 하기 어려워진다"며 "AI 챗봇과의 대화에 지나치게 빠져들거나 우울증에 걸리는 사례도 나오고 있다"고 지적했다.

미국서 챗GPT가 청소년의 극단적 선택에 영향을 끼쳤다며 소송이 제기되기도 했다. 올해 4월 사망한 미국의 16세 학생인 아담 레인의 부모는 챗GPT 운영사인 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 지난 8월26일 소송을 제기했다. 이들은 아들의 사망에 챗GPT가 부정적 영향을 끼쳤다고 주장했다.

아담은 지난해 11월부터 학교 과제를 위해 챗GPT를 사용하다가 올해 초 유료회원으로 가입했으며, 이후 챗GPT와 극단적 선택에 대한 대화를 나눴다. 이후 아담은 챗GPT를 통해 극단적 선택 방법에 대한 정보를 얻어 시도했으며 결국 사망했다. 챗GPT는 정신적 고통이나 자해를 암시하는 메시지를 감지시 관련기관에 연락하라고 권유토록 설계돼있었다. 하지만 아담은 소설작성을 위한 설정이라고 속여 이러한 안전장치를 우회한 것으로 알려졌다.

미 당국, 업계에 대책마련 지시…어린이·청소년 보호규제 본격화 

미국 워싱턴DC에 위치한 연방거래위원회 본부 모습. 로이터연합뉴스

미 당국은 AI 챗봇을 운용하는 기업들에 어린이·청소년에 끼칠 악영향을 막을 대책을 마련하라고 지시했다. CNN에 따르면 미국 연방거래위원회(FTC)는 지난달 말 챗GPT 운영사인 오픈AI를 비롯해 알파벳, 메타 등 미국 기술 대기업들에 AI 챗봇이 어린이와 청소년에게 어떤 영향을 미칠 수 있는지 설명하고, 보호대책을 마련하고 지시했다.

FTC의 지시에 따라 오픈AI는 18세 미만 사용자를 위한 전용 챗GPT 출시와 사용자의 연령을 정확히 예측할 수 있는 도구를 개발하겠다고 밝혔다. 오픈AI측은 성명을 통해 "사용자 연령 예측도구를 통해 미성년자 사용자가 사용하기 적합한 챗GPT로 자동 연결되도록 시스템을 만들 것"이라고 밝혔다.

이와 별도로 캘리포니아주에서는 아동·청소년의 인공지능(AI) 챗봇 이용을 규제하는 법안을 미국 내에서 처음으로 제정했다. 내년 1월1일부터 발효되는 이 법안은 AI 챗봇 운영기업들이 사용자의 연령확인 기능을 갖추도록 하고 AI챗봇의 모든 답변이 인공적으로 생성된 것임을 명확히 표시하도록 의무화했다. 또한 AI챗봇이 극단적 선택과 관련한 표현을 식별하고 대응할 수 있는 프로토콜을 마련토록 하고, 미성년 이용자들이 장시간 이용시 휴식이 필요하다는 알림도 띄우도록 했다.

하지만 이미 AI 챗봇 자체가 교육현장에서 많이 활용되고 있어 영향력을 통제하는데 어려움이 클 것으로 예상된다. 미국 여론조사기관인 퓨 리서치센터의 설문조사에 따르면 지난해 미국 내 13~17세 청소년의 26%가 챗GPT를 학업에 사용한다고 응답했다. 2023년 대비 2배 증가한 수치다.

이현우 기자 knos84@asiae.co.kr