자율주행차, AI 판단 믿어도 될까

박지섭 교수팀 "음성 안내 방식 따라 신뢰 달라져"

한기대 박지섭 교수 연구팀이 자율주행차 윤리 딜레마 해결 핵심요인을 발견했다,

한국기술교육대학교(KOREATECH) 박지섭 교수 연구팀이 자율주행차 사고 상황에서 인공지능(AI) 음성 안내 방식에 따라 탑승자의 윤리적 판단과 차량에 대한 신뢰도가 달라진다는 연구 결과를 발표했다.

31일 한기대에 따르면 이번 연구는 자율주행차의 윤리적 의사결정과 인간의 심리 반응, 그리고 기술 신뢰 형성 과정 간의 상관관계를 분석한 것으로, 인간공학 분야 세계 최고 권위 학술지인 'Accident Analysis & Prevention' 7월 온라인판에 게재됐다. 해당 저널은 JCR 기준 상위 2.4%에 속한다.

연구에는 박지섭 교수 와 유영재 강사(연세대학교 정보대학원), 김헌 교수(한양대학교 ERICA 미디어학과)가 공동 참여했으며, 자율주행차가 실제로 맞닥뜨릴 수 있는 '트롤리 딜레마' 상황을 가상현실(VR) 환경에서 구현해 실험을 진행했다.

실험은 48명의 참가자를 대상으로, 도로에 갑작스레 싱크홀이 발생한 상황에서 직진(운전자 사망), 우회전(보행자 3명 위험), 좌회전(맞은편 차량 2명 위험) 중 한 가지를 5초 안에 선택하게 하는 방식으로 이뤄졌다.

연구팀은 AI 음성 에이전트가 어떤 방식으로 상황 정보를 전달하느냐에 따라 참가자들의 윤리적 선택 경향과 자율주행 시스템에 대한 신뢰도가 뚜렷하게 달라졌다고 밝혔다.

특히 "직진하면 당신이 위험합니다"와 같은 '예방 중심 메시지'는 '우회전하면 모두를 구할 수 있습니다'라는 '촉진 중심 메시지'보다 더 윤리적인 선택을 유도하고 시스템에 대한 신뢰도도 높인 것으로 나타났다.

또 AI가 전적으로 판단하는 시스템보다, 사용자가 최종 선택권을 갖는 시스템에서 차량에 대한 신뢰와 구매 의향이 높게 나타났다.

이는 자율주행차 기술의 상용화에서 인간의 자율성과 책임감 보장이 얼마나 중요한지를 보여주는 대목이다.

제1 저자인 유영재 강사는 "단 5초의 짧은 시간 안에 참가자들이 윤리적 결정을 내려야 했고, 그 과정에서 AI 안내 메시지의 방식이 큰 영향을 미쳤다"고 말했다.

박지섭 교수는 "자율주행차는 단순한 기술적 완성도가 아니라, 인간의 판단을 존중하고 지원하는 방향으로 발전해야 한다"며 "AI는 판단을 대신하는 존재가 아닌, 인간의 선택을 돕는 도구여야 한다"고 강조했다.

박 교수는 2019년 세계 최초로 제안한 '버추얼그래프(VirtualGraph, VG)' 기술과 이번 연구를 연계해, 더욱 현실적인 조건에서 자율주행차 승객의 인지·판단 구조를 정밀 분석할 수 있을 것으로 기대하고 있다.

VG는 인간의 감각과 인지 중심 설계를 통해, 기술적 한계 내에서도 뇌가 실제 물리적 자극처럼 인식하도록 만드는 크로스모달 기반의 차세대 가상현실 기술이다.

충청취재본부 이병렬 기자 lby4426@asiae.co.kr