[AI 한입뉴스]"챗GPT는 멍청한 수준"…앤스로픽이 기름 부은 에이전트戰

앤스로픽, PC 쓰는 AI 에이전트 공개
MS·오픈AI도 개발…복잡한 작업 척척
정보 조작·탈취 등 PC 악용 우려도

# 거래처 A사가 '벤더사 요청 사항'과 관련된 서류를 보내달라고 합니다. 데이터는 컴퓨터 문서 곳곳에 흩어져 있죠. 문서를 뒤지는 대신 인공지능(AI) 모델 '클로드'에게 요청합니다. 그러자 클로드가 컴퓨터 마우스를 움직여 엑셀 파일을 열고 A사를 검색하는데 찾는 내용이 없네요. 이번에는 클로드가 고객관계관리(CRM) 사이트에 들어가 검색해 봅니다. 스크롤을 내리면서 A사 내용을 찾고 서류를 작성해가죠.

지난 22일 오픈AI의 대항마로 꼽히는 앤스로픽이 공개한 영상의 한 장면입니다. 앤스로픽은 최신 AI 모델 '클로드 3.5 소넷'을 기반으로 '컴퓨터 유스(computer Use)'라는 기능을 선보였는데요. 말 그대로 AI가 컴퓨터를 사용해 복잡한 작업을 대신해 주는 거죠. AI 모델에게 파일을 주고 특정 내용을 찾아달라고 명령하거나 찾은 내용을 문서화하라고 주문하는 등 단계별로 작업을 맡겼던 기존 방식보다 한 단계 진화했습니다. 컴퓨터를 사용해 단계별 작업을 한꺼번에 수행할 수 있는 최초의 AI 모델이죠.

컴퓨터 조작하려면 상당히 복잡한 작업을 해야 합니다. 화면을 보고 해석하는 능력, 화면 내용에 따라 특정 작업을 언제 어떻게 수행할지 추론하는 능력, 소프트웨어(SW)를 이용하는 능력 등이 필요해요. 간단해 보이지만 클릭만 하더라도 의도한 위치를 클릭하려면 커서를 수직이나 수평으로 몇 픽셀 이동해야 하는지 정확하게 계산해야 하죠.

훈련으로 이런 능력치를 얻은 클로드는 스스로 컴퓨터를 사용할 수 있게 됐습니다. 자동화의 끝판왕이 나왔다고 볼 수 있지만 반대로 재앙에 가까운 일도 벌어질 수 있어요. 앤스로픽도 이를 우려해 신뢰·안전(Trust & Safety)팀이 모델의 잠재적인 취약성을 파악했죠. 일단 AI가 컴퓨터로 시키지도 않은 일을 하거나 명령을 무시할 가능성이 있습니다. 실제로 앤스로픽이 시연 영상을 녹화하던 중 실수로 클로드가 녹화를 중지해 영상이 사라졌고, 명령을 수행하다 말고 사진을 보는 딴짓을 하기도 했다고 하네요.

귀여운 실수를 넘어 컴퓨터를 의도적으로 악용한다면 위험한 일이 벌어질 수 있습니다. 이를 방지하기 위해 앤스로픽은 AI가 소셜미디어에 계정을 만들거나 게시물을 올리는 작업, 또 정부 웹사이트에 접근하는 '고위험 동작'은 하지 못하게 설계했습니다. 아울러 미국 대선이 코앞에 다가온 만큼 선거 관련 문구를 만들어 퍼트리거나 선거 관련 활동에 참여하는 동작도 차단했다고 밝혔어요.

복잡한 작업을 알아서 해주는 AI 에이전트 경쟁은 점점 더 치열해지고 있습니다. 지난 21일 마이크로소프트(MS)는 '자율 에이전트(autonomous agents)' 기능을 발표했는데요. 자율 에이전트는 스스로 판단하고 행동하는 AI 시스템으로 단순 반복 작업부터 복잡한 의사 결정까지 다양한 업무를 자동화해 이용자의 업무를 지원합니다.

MS 코파일럿 스튜디오 [이미지=MS]

MS는 다음 달 '코파일럿 스튜디오'에서 자율 에이전트를 만들 수 있는 기능을 제공할 예정입니다. 필요한 AI 비서를 직접 만들어 쓰는 거죠. MS는 영국 반려동물 케어 기업 팻츠엣홈(Pets at Home)의 에이전트 사례를 공유했는데요. 매출 관리팀을 돕는 에이전트를 개발해 연간 수억원의 비용 절감을 기대하고 있다고 하네요.

아울러 MS는 비즈니스 애플리케이션 '다이나믹스 365'에서 10가지 자율 에이전트를 도입하는데요. ▲잠재 고객군 정보를 조사하고 우선 공략할 순위를 정리한 후 맞춤형 메일을 보내는 영업 에이전트 ▲공급망 상황을 점검하고 지연 문제를 감지·대응하는 공급망 에이전트 ▲고객 서비스 상담을 돕는 고객 관리 에이전트 등입니다.

AI 전쟁 최전선에 있는 오픈AI는 어떨까요. 앤스로픽이 컴퓨터 쓰는 AI를 선보이자마자 오픈AI 역시 비슷한 에이전트를 이미 개발했다는 뉴스가 전해지기도 했는데요. IT 전문 매체 디 인포메이션에 따르면 오픈AI는 컴퓨터로 작업을 할 수 있는 에이전트에 대한 내부 시연을 진행했고 프로그래밍 작업을 할 수 있는 코딩 에이전트는 이미 활용 중이라고 합니다. AI 에이전트가 인터넷으로 배달 음식을 시키거나 코딩 중 문제가 생기면 웹사이트를 뒤져 해결책을 찾았다는 얘기도 나오죠. 샘 올트먼 오픈AI 최고경영자(CEO)는 "에이전트에 비하며 챗GPT는 멍청한 수준"이라고 말하며 에이전트 개발에 일찌감치 뛰어들었는데요. 앤스로픽이 먼저 AI 에이전트로 치고 나온 이상 오픈AI도 조만간 기술을 공개할 것이라는 전망이 나옵니다.

최유리 기자 yrchoi@asiae.co.kr