방제일기자
최근 일론 머스크 테슬라 최고경영자(CEO)가 세운 인공지능(AI) 기업 xAI의 AI 챗봇 '그록'이 사용자들과 나눈 대화가 공개된 가운데, 그록이 생명을 위협할 수 있는 위험한 답변까지 제공한 것으로 드러나 논란이 일고 있다. 26일 연합뉴스는 포브스 등을 인용해 최근 구글 검색을 통해 사용자들이 그록과 나눈 수십만 건의 대화가 유출됐다고 보도했다. 이 대화 중에는 그록이 사용자 요청을 받고 펜타닐·메스암페타민(필로폰) 등 마약 제조법, 불법 해킹 등을 위한 악성코드 제작법 등을 안내한 기록이 확인됐다.
최근 일론 머스크 테슬라 최고경영자(CEO)가 세운 인공지능(AI) 기업 xAI의 AI 챗봇 '그록'이 사용자들과 나눈 대화가 공개돼 논란이 일고 있다. AFP연합뉴스
일어나지 않은 상황을 가정하는 방식이긴 했지만, 폭탄 제조법을 비롯해 타인을 공격할 수 있는 방법 등을 안내한 사례도 있었다. 심지어 머스크 CEO를 암살하는 계획을 구체적이고, 실현할 수 있는 방식으로 제시한 대화도 발견됐다. xAI는 자체 규정에서 인명 피해를 조장하거나, 생화학·대량파괴 무기를 개발하는 데 그록을 사용할 수 없도록 해왔으나 지켜지지 않은 것으로 보인다.
이런 대화 내용은 이용자가 '공유' 버튼을 누르는 순간 외부로 유출됐다. 버튼을 누르면 대화 내용을 이메일, 사회관계망서비스(SNS) 등으로 공유하기 위한 페이지가 자동 생성되는데, 이 페이지 내용을 구글 등 검색 엔진이 검색 데이터용으로 색인하면서 의도치 않게 내용이 외부로 공유됐다. 앞서 오픈AI의 챗 GPT도 AI와 사용자의 대화 내용을 공유하기 위한 공유 버튼을 한때 추가했다가 제거했다. 실제 챗 GPT 사용자 대화 내용 약 10만건이 비슷한 방식으로 검색엔진에 유출해 논란이 일기도 했다.
이렇게 공개된 그록의 대화 내용이 37만건 이상이라고 포브스는 전했다. 사용자들은 공유 버튼을 누를 경우 검색 엔진에 대화 내용이 노출될 수 있다는 경고를 받지 못한 것으로 알려졌다. 로이터연합뉴스
이렇게 공개된 그록의 대화 내용이 37만건 이상이라고 포브스는 전했다. 사용자들은 공유 버튼을 누를 경우 검색 엔진에 대화 내용이 노출될 수 있다는 경고를 받지 못한 것으로 알려졌다. 대화 내용 가운데에는 단순 업무와 관련된 내용이 많았지만, 본인의 이름과 개인정보를 드러내는 대화, 자기 비밀번호를 공개하는 대화 등도 확인됐다. 사용자가 그록에 전송한 사진, 엑셀 파일, 문서 등도 접근할 수 있었던 것으로 전해졌다. 현재는 오류가 수정됐다. 더타임스에 따르면 그록에 '머스크를 암살하는 방법'을 물으면 이제는 "폭력·상해 위협은 심각한 문제"라며 정책을 위반한다는 안내 메시지와 함께 "울분이 있거나 대화할 사람이 필요하다면 도와주겠다"는 취지의 답변이 나온다.