[두 얼굴의 AI]②방패도 진화한다…80조 시장 활짝

사이버 공격 탐지부터 보이스피싱 차단까지
정보 보호+생성 AI 활용 '두 마리 토끼 잡기'

편집자주생성형 인공지능(AI)은 두 얼굴을 갖고 있다. 약간의 속임수만 쓰면 해킹을 돕는 악성코드나 피싱메일을 작성해 준다. 반대로 프로그램의 취약점을 찾아 방어 전략을 짜는 데 도움을 주기도 한다. 한 끗 차이로 '해커 공범'이 되거나 '보안 전문가의 조수'가 되는 셈이다. 생성 AI를 이용해 보안 시스템을 뚫으려는 자와 막으려는 자, 창과 방패의 대결이 치열하다. 보안업계는 AI를 활용하면서 정보를 보호해주는 보안기술이 새로운 성장 동력이라 보고 있다.

생성형 AI 덕에 방패도 진화하고 있다. 보안 소프트웨어(SW)는 AI를 입고 날이 갈수록 교묘해지는 사이버 공격 방어에 나섰다. AI 기술이 전 세계 보안 시장 성장을 이끌 것이란 분석이다.

시장조사업체 마켓앤마켓은 AI를 활용한 사이버 보안 시장이 올해 244억달러(약 32조원)에서 2028년 606억달러(약 80조원) 규모까지 커질 것으로 내다봤다. 연평균 21.9% 성장한다는 이야기다.

AI는 보안 전문가의 '만능 조수'가 될 수 있다. AI가 찾은 취약점을 토대로 방어 전략을 짜거나 보안 조건을 입력하고 코딩을 요구할 수도 있다. AI를 보조 해커처럼 활용한 것과 종이 한 장 차이다. 좋은 의도로 활용하면 소수의 보안 관제사에게 의존해 생기는 문제를 줄이고 보다 효율적으로 대응할 수 있다.

보안기업 이글루코퍼레이션의 AI 탐지 모델 '이글루XAI'(가칭)이 대표적이다. 이글루XAI는 챗GPT와 연계해 사이버 위협에 대한 AI의 분석을 제공한다. AI가 어떤 기준에 따라 특정 행위를 정상 또는 비정상으로 탐지했는지 챗GPT처럼 설명해준다. 예를 들어 공격 유무를 판단하기 위해 페이로드(악성코드에서 핵심이 되는 부분)를 입력하면 AI가 예측한 결과와 공격의 특징 등을 알려준다. 이글루코퍼레이션은 시범 테스트를 마치고 오는 7월 이글루XAI를 정식 출시할 예정이다.

보이스피싱 방지에도 AI를 활용한다. 라온시큐어 자회사 라온화이트햇은 AI 기반 보이스피싱 예방앱 '스마트안티피싱'을 서비스 중이다. 앱을 다운받으면 AI가 스마트폰 전화, 문자, 메신저 등 데이터와 원격 제어, 자금 이체 등 주요 행위를 실시간으로 식별한다. 보이스피싱으로 판단하면 은행에 실시간 정보를 보내 이체, 대출 등을 차단한다. 전화를 강제 종료시키고 지인에게 해당 사실을 통보하기도 한다. 이런 방식으로 최근 3개월 간 약 446억원의 보이스피싱 피해를 예방했다.

AI로 정보가 새지 않도록 막는 방패 기술도 있다. 지란지교테이터는 지난 4월 'AI 필터'를 내놨다. 챗GPT에 입력한 내용을 모니터링하고 지정된 키워드나 문장, 패턴 등을 차단하는 기능이다. 조원희 지란지교데이터 대표는 "챗GPT로 인한 정보 유출을 막는 가장 쉬운 방법은 챗GPT를 차단하는 것이지만 이는 업무 효율성 향상 같은 이점을 포기하는 것"이라며 "정보를 보호하면서 챗GPT를 활용하는 방안을 모색해야 한다"고 강조했다.

파수는 기업용 AI 챗봇 개발에 나섰다. 챗GPT같은 범용 AI가 아닌 기업이나 기관 전용 챗봇 'F-PAAS(Fasoo Private AI Assistant Services)'를 내년 초 출시할 예정이다. 내부 데이터를 안전하게 보호하면서 기업 맞춤형으로 생성 AI를 이용할 수 있는 대형언어모델(LLM)을 만들겠다는 전략이다.

권현영 고려대 정보보호대학원 교수는 "AI를 어떻게 활용하는지는 사람에게 달린 것이기 때문에 창과 방패의 싸움은 계속될 것"이라고 내다봤다.