AI 기반 ‘온라인 자살 위험 탐지’ 기술 개발

경희대병원 백종우 교수팀
"안전한 디지털환경 조성·고위험군 조기발견으로 자살예방 기대"

경희대병원은 백종우 정신건강의학과 교수팀이 인공지능(AI)을 활용해 온라인 자살 유해 콘텐츠를 조기에 탐지하는 기술을 개발했다고 25일 밝혔다. 이번 연구는 박진영 성균관대 교수, 박성준 한국자살예방협회 박사, 조경현 뉴욕대 교수와 공동 수행했다.

백종우 경희대병원 교수 연구팀이 온라인 자살 유해 콘텐츠를 조기에 탐지하는 기술을 개발했다. 우울감을 느끼는 사람을 표현한 일러스트. AI생성이미지

연구팀은 SNS와 온라인 커뮤니티 게시물 4만3244건을 분석해 정신건강의학과 전문의와 심리학자가 직접 검토한 벤치마크 데이터를 구축하고 이를 기반으로 AI 탐지 시스템을 개발했다.

개발된 시스템은 자살 관련 게시물을 위험도에 따라 불법, 유해, 잠재적 유해, 무해, 비자살 등 5단계로 자동 분류한다. 은어, 비유, 약어 등 검열 회피 표현까지 탐지하도록 설계해 기존 인력 중심 모니터링의 한계를 보완했다.

성능 평가에서 GPT-4 모델 적용 시 불법 콘텐츠 탐지 정확도 66.46%, 유해 콘텐츠 탐지 정확도 77.09%를 기록해 실제 적용 가능성을 확인했다.

백 교수는 "AI 기반 자살 유해 콘텐츠 탐지 시스템이 안전한 디지털 환경 조성과 고위험군 조기 발견에 기여할 것"이라며 "선제적이고 비용 효율적인 정책 대응과 국가 자살 예방 인프라 구축의 기반이 되길 기대한다"고 밝혔다. 연구 결과는 국제학술지 'JMIR 메디컬 인포매틱스' 2월호에 게재됐다.

박정연 기자 jy@asiae.co.kr