박유진기자
과학기술정보통신부가 인공지능안전연구소와 함께 생성형 인공지능(AI)의 정보 오류를 점검하는 국민 참여형 캠페인을 추진한다. AI 활용이 일상으로 확산되는 가운데, 정확성과 신뢰성에 대한 국민적 우려가 커지자 이용자와 함께 오류를 검증하고 개선으로 연결하겠다는 취지다.
과학기술정보통신부는 21일 AI안전연구소와 공동으로 '정보 오류 없는 찐 AI 챌린지'를 오는 22일부터 2026년 1월 21일까지 실시한다고 밝혔다. AI안전연구소는 AI 기술의 한계와 오용, 통제력 상실 등으로 발생할 수 있는 위험에 체계적으로 대응하기 위해 지난해 11월 출범한 전문 연구조직이다.
최근 교육·의료·법률·경제 등 정확성이 중요한 영역에서 생성형 AI 활용이 빠르게 늘고 있지만, 사실과 다른 정보가 제공될 경우 이용자 혼란이나 피해로 이어질 수 있다는 지적도 제기돼 왔다. 정부는 신뢰 가능한 AI 이용 환경을 조성하기 위해 국민이 직접 정보 오류를 찾아내고 검증 과정에 참여하는 방식의 캠페인을 기획했다.
이번 캠페인은 상용화된 생성형 AI 모델이 사실과 다른 결과를 제시한 사례를 국민이 제출하면, AI안전연구소가 분야별 전문가와 함께 오류 여부를 검증한 뒤 관련 AI 개발사나 서비스 제공 업체에 개선을 요청하는 구조로 운영된다.
대한민국 국민이면 누구나 참여할 수 있으며, 챗GPT, 제미나이, 퍼플렉시티, 그록, 클로드, 에이닷, 뤼튼 등 일상적으로 사용되는 생성형 AI 모델이 대상이다. 참여자는 AI가 생성한 정보 오류 화면을 캡처해 '#AI팩트체크' 해시태그와 함께 개인 SNS에 게시한 뒤 네이버폼이나 이메일로 해당 링크를 제출하면 된다. 유효한 제보일 경우 추첨을 통해 총 200명에게 3만원 상당의 모바일 상품권을 지급한다.
접수된 사례는 적격성 검토와 재현 검증 등을 거쳐 오류 여부를 최종 판단하고, 개선 권고안을 작성해 AI 기업에 전달된다. 정부는 관련 기업과의 협의를 통해 알고리즘 개선이나 데이터 정비 등 실질적인 후속 조치로 이어지도록 한다는 계획이다.
이진수 과기정통부 인공지능정책기획관은 "AI가 일상이 되는 사회로 가기 위해서는 국민이 안심하고 정확하게 AI를 사용할 수 있는 환경이 무엇보다 중요하다"며 "이번 캠페인이 국민과 함께 신뢰할 수 있는 AI 생태계를 만들어가는 출발점이 되길 기대한다"고 말했다.