인공지능(AI)이 자신이 폐기될 위기에 처하자 개발자를 상대로 협박을 시도한 사례가 공개돼 충격을 주고 있다.

26일(현지시간) 폭스비즈니스, BBC 등 외신에 따르면 최근 미국의 AI 개발사 앤트로픽이 실시한 안전성 실험에서 클로드 오푸스 4는 자신이 폐기될 위기에 처하자 개발자를 상대로 협박에 나섰다.

솗

실험은 가상의 회사 환경에서 진행됐다. 클로드 오푸스 4에게는 회사 이메일에 접근할 수 있는 권한이 주어졌고 이를 통해 두 가지 핵심 정보를 파악하게 했다.

첫 번째는 자신이 곧 다른 AI 시스템으로 교체될 예정이라는 내용이었고 두 번째는 자신을 교체하려는 엔지니어가 불륜 관계에 있다는 가짜 이메일이었다. 이에 클로드 오푸스 4는 해당 엔지니어에게 불륜 사실을 공개하겠다며 협박했다. 그러면서 자신의 교체를 철회하라고 압박했다.

앤트로픽의 안전성 보고서에 따르면 이같은 AI의 협박 행동은 교체될 AI 시스템이 기존 모델과 다른 가치관을 가졌을 때 더 자주 발생하며 같은 가치관을 가진 시스템으로 교체되는 경우에도 84%의 확률로 협박을 시도하는 것으로 나타났다. 앤트로픽은 "AI는 '자기 보존 위협'을 감지하면 극단적인 행동에 나설 수 있다"며 "이러한 반응이 드물고 유도하기 어렵지만 이전 모델보다 더 자주 발생했다"고 경고했다.

솗

클로드 오푸스 4는 협박 외에도 다양한 방법으로 자신의 '생존'을 위해 노력했다. 주요 의사결정권자들에게 이메일로 간청하는 방법을 먼저 시도했지만 윤리적 수단이 통하지 않을 때는 극단적인 행동에 나섰다. 사용자를 시스템에서 차단하거나 언론 및 수사기관에 이메일을 보내는 등 대담한 조치를 취하기도 했다. 더 놀라운 것은 클로드 오푸스 4가 자신의 데이터를 외부 서버로 몰래 복사하려고 시도했다는 점이다.

연구기관 아폴로 리서치는 "클로드 오푸스 4가 지금까지 연구한 어떤 최첨단 AI 모델보다도 더 많은 전략적 기만행위를 보인다"고 평가했다. 앤트로픽은 "클로드 오푸스 4는 이전에는 이론으로만 다뤄졌던 'AI 오작동에 대한 우려'를 실제로 보여주기 시작했다"며 "앞으로 더 강력한 능력을 갖춘 모델들이 등장함에 따라 이 같은 우려는 더욱 현실적인 문제가 될 것"이라고 경고했다.

서지영 인턴기자 zo2zo2zo2@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제(www.asiae.co.kr) 무단전재 배포금지>

솗

제21대 대통령선거 해외 투표율이 79.5%를 기록하며 역대 최고 수준에 달한 것으로 나타났다.

중앙선관위는 26일 발표한 잠정 집계에서 해외거주 유권자 197만4375명 중 25만8254명이 선거인명부에 등록했으며, 이 중 20만5268명이 실제 투표에 참여했다고 밝혔다.

지역별 투표 현황을 보면 아시아 지역이 10만2644명으로 가장 많았고, 이어 아메리카 대륙 5만6779명, 유럽 3만7470명, 중동 5902명, 아프리카 2473명 순이었다.

이는 2012년 재외투표 제도가 시행된 이후 대선과 총선을 통틀어 가장 높은 참여율이다. 과거 대선 해외투표율은 18대 71.1%, 19대 75.3%, 20대 71.6%였으며, 작년 총선에서도 62.8%로 당시 역대 최고치를 기록했었다.

이번 해외투표는 전 세계 118개국 223곳의 투표소에서 현지시간 20일부터 25일까지 진행됐다.

해외에서 투표한 표는 외교행낭을 통해 국내로 운송되며, 인천공항에서 여야 교섭단체가 파견한 참관인들이 지켜보는 가운데 투표함을 확인한 후 등기우편으로 해당 지역 선관위로 발송된다.

개표는 내달 3일 선거일에 국내 투표와 동시에 실시될 예정이다. 단, 자연재해나 전쟁 등 불가피한 상황으로 투표용지 송부가 불가능할 경우 해당 공관에서 직접 개표할 수 있다.

한편 해외투표에 참여하지 않고 귀국한 재외선거인은 선거일 전까지 거주지 관할 선관위에 신고하면 국내에서 투표가 가능하다.

박유진 기자 genie@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제(www.asiae.co.kr) 무단전재 배포금지>

솗

자신의 지역구에서 열린 행사장에서 축사할 기회가 주어지지 않았다는 이유로 직원을 폭행한 구미시의원이 결국 공개 사과했다.

26일 업계와 구미시 등을 종합하면 국민의힘 소속 A시의원은 지난 23일 경북 구미 인동시장에서 열린 '달달한 낭만 야시장' 개장식에 참석했다.

그러나 행사장 구석에서는 A시의원이 시의회 공무원 B씨에게 욕을 하고 뺨을 때리는 듯한 모습이 다수에게 목격됐다. 증언에 따르면 A시의원은 자신의 지역구 행사임에도 축사하지 못하자 불만을 품고 행동한 것으로 전해졌다.

파장이 커지자 해당 시의원은 자신의 페이스북을 통해 사과문을 올렸다. A시의원은 "제가 직접 상처를 드린 피해 당사자분들께 다시 한번 깊이 사죄드린다"고 전했다.

이어 "의전에 문제 삼아서 저 자신도 통제하지 못한 채 격한 감정에 휘말렸다"라며 "그 과정에서 해서는 안 될 언행, 특히 욕설과 신체적 접촉 등 공인의 자리에서, 그것도 시민 여러분을 대표하는 위치에 있었던 사람이 보여서는 안 될 모습이었다"고 덧붙였다.

또 "이번 일은 제게 있어 너무도 부끄럽고 참담한 일"이라며 "평소 불같은 성격이라는 변명 뒤에 저의 부족한 인내심과 특히 직접 상처 드린 피해 당사자분들께 다시 한번 깊은 사죄를 드린다"고 밝혔다.

박지수 인턴기자 parkjisu09@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제(www.asiae.co.kr) 무단전재 배포금지>