본문 바로가기
bar_progress

글자크기 설정

닫기

'블랙박스'에 가려진 치명적 위험성…인류 멸종까지 가능 [AI 안전성 위기]

시계아이콘01분 57초 소요
숏뉴스
숏 뉴스 AI 요약 기술은 핵심만 전달합니다. 전체 내용의 이해를 위해 기사 본문을 확인해주세요.

3월 우크라이나 전쟁에선 처음으로 인간의 통제 없이 적군을 공격하는 인공지능 드론이 등장했다.

우크라이나군이 공개한 영상 속 AI 드론은 러시아군 전차를 포격해 그대로 무력화시켰다.

'인류 파괴'를 목표로 한 AI 에이전트가 등장할 경우 핵무기를 연구하고 다른 AI를 동원하기 위해 트윗을 작성하는 일이 현실화될 수 있다는 전망이다.

닫기
뉴스듣기 글자크기

사고 과정 모르는 AI…예측불가 위험성
"핵 위력 가졌다"…AI 무기화·통제력 상실 경고
전문가 "기술적·제도적 안전장치 필요"

3월 우크라이나 전쟁에선 처음으로 인간의 통제 없이 적군을 공격하는 인공지능(AI) 드론이 등장했다. 우크라이나군이 공개한 영상 속 AI 드론은 러시아군 전차를 포격해 그대로 무력화시켰다. 이스라엘과 하마스 간 전쟁에선 '살상 리스트'를 만드는 AI까지 나왔다. 어떤 적을 사살하거나 건물을 타격할지 AI가 리스트를 만들고 정보요원이 결재했다. AI가 잘못된 리스트를 올릴 가능성은 10%지만 군인들은 이를 토대로 작전을 수행했다. AI가 살상무기로 활용되는 초유의 일이 벌어진 것이다. 인간의 통제를 벗어날 경우 핵무기를 넘어서는 위험을 초래할지도 모르는 일이다.

'블랙박스'에 가려진 치명적 위험성…인류 멸종까지 가능 [AI 안전성 위기] [이미지출처=DALL·E 3]
AD

AI가 급속도로 발전하면서 위험성에 대한 우려도 커지고 있다. 이미 AI발(發) 가짜 뉴스, 저작권 침해 문제 등이 대두된 가운데 더 큰 위험은 가늠하기 어려운 수면 아래 있다. AI가 점점 더 많은 의사결정에 개입하고 있지만 왜 그런 결정을 내렸는지 알 수 없는 '미지의 대상'이기 때문이다. AI 개발에서 넘지 말아야 할 ‘레드라인’을 설정하지 않으면 인류를 멸종시킬 수 있다는 경고까지 나온다.


AI는 흔히 ‘블랙박스’라고 불린다. 결과물을 내놓기까지 거친 과정이 명백하게 드러나지 않아서다. 방대한 데이터 학습과 복잡한 연산을 거치기 때문에 알고리즘 설계자조차 이 과정을 추론하기 어렵다. 언제, 어떤 결과물을 내놓을지 알 수 없다는 점에서 시한폭탄 같은 존재가 될 수 있다. AI의 판단을 인간이 정확하게 이해할 수 있는 기술인 '설명 가능한 AI'를 연구할 정도다.

'블랙박스'에 가려진 치명적 위험성…인류 멸종까지 가능 [AI 안전성 위기]

이해하기 어려운 오류는 한둘이 아니다. 챗GPT는 출시 초반 폭탄 제조법, 피싱 메일 작성법 등 유해한 답변을 내놓기 일쑤였다. 이용자들이 챗GPT로 하여금 금기를 깨도록 유도해 이른바 '탈옥'시키는 사례였다. 정확하게 어떤 원리로 탈옥하는지 알 수 없기 때문에 개발진들은 추후 가드레일을 더 촘촘하게 두는 식으로 대응했다.


이미지 생성 기능이 무기한 중단된 구글 '제미나이'도 마찬가지다. 한복을 입은 흑인 외형의 조선 시대 장군 등 사실과 다른 그림으로 물의를 일으켰다. 출시 한 달도 안 돼 생긴 오류로 해당 기능은 멈췄지만 구글은 여전히 해결 방안을 찾지 못했다. 학습한 데이터의 편향성과 이를 바로잡기 위한 기술적 조치가 초래한 결과라고 짐작할 뿐이다.


'블랙박스'에 가려진 치명적 위험성…인류 멸종까지 가능 [AI 안전성 위기] [이미지출처=게티이미지연합뉴스]

AI 발전 속도가 빨라지면서 위험의 크기도 가늠하기 어려운 상황이다. 업계에선 수년 안에 인간처럼 생각하는 범용인공지능(AGI)이 등장할 것이라는 전망을 속속 내놓고 있다. AI가 더 똑똑해진다는 것은 인간이 알 수 없는 블랙박스의 범위가 더 넓어진다는 의미이기도 하다. 크리스 메세롤 프런티어모델포럼 의장은 지난 12일 '생성형 AI 레드팀 챌린지'에서 "AI 기술이 어떤 위험성을 가졌는지는 아무도 모른다"며 "확실한 건 AI가 발전할수록 안전성이 더 낮아진다는 것"이라고 지적했다. 프런티어모델포럼은 AI의 잠재적 위험성을 파악하기 위해 오픈AI, 구글, 마이크로소프트(MS), 앤스로픽이 만든 단체다.


곳곳에선 경고가 나온다. 최근 민간 업체 글래드스턴AI 가 미국 국무부의 의뢰로 내놓은 '첨단 AI의 안전성과 보안성을 높이기 위한 방안' 보고서는 "AI가 인류를 멸종시킬 가능성이 있다"고 언급했다. 특히 AI의 위험 요소로 '무기화'와 '통제력 상실'을 꼽았다. AI가 생화학·사이버 전쟁 등에 활용될 수 있다는 것이다. AI 전문가로 구성된 비영리단체 AI안전센터(CAIS)는 '치명적인 AI 위험에 대한 개요'라는 보고서에서 AI의 발전을 핵무기의 위력에 비유했다. 보고서는 "AI가 점차 사람의 개입 없이 자율적으로 작업하는 에이전트가 되고 있다"며 "문제가 있는 목표를 정당화하고 통제에 저항하거나 인간을 속일 수도 있다"고 내다봤다. ‘인류 파괴’를 목표로 한 AI 에이전트가 등장할 경우 핵무기를 연구하고 다른 AI를 동원하기 위해 트윗을 작성하는 일이 현실화될 수 있다는 전망이다.



전문가들은 이 같은 위험에 대응이 필요하다고 강조한다. 기업이 안전하고 책임감 있는 AI를 연구개발(R&D)해야 한다는 것이다. 정부가 AI에 대한 규제와 감독 기관을 만들고 이를 위한 국제 공조를 강화해야 한다는 목소리도 나온다. 장병탁 서울대 AI연구원장은 "AI 안전성에 대한 논의는 미룰 수 없는 문제"라며 "기술적, 제도적으로 안전장치가 필요하다"고 말했다.

'AI 안정성 위기' 다른 기사도 읽어보세요
https://www.asiae.co.kr/list/project/2024042408523436830A



최유리 기자 yrchoi@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제(www.asiae.co.kr) 무단전재 배포금지>

AD
AD

당신이 궁금할 이슈 콘텐츠

AD

맞춤콘텐츠

AD

실시간 핫이슈

AD

놓칠 수 없는 이슈 픽

  • 25.04.1706:10
    정갑영 전 총장 "갈등 풀려면 경제 성장해야…해법은 교육"
    정갑영 전 총장 "갈등 풀려면 경제 성장해야…해법은 교육"

    편집자주헌법재판소가 대한민국 공동체의 분열에 제동을 걸었다. 지난 4일 윤석열 대통령 탄핵 심판 결정은 변화의 마중물이다. 고난과 역경 앞에서 좌절하지 않는 대한민국의 민주주의 회복력은 세계를 놀라게 했다. 이제는 혐오와 반목의 그림자를 걷어내고, 미래를 준비해야 할 때다. 60일도 남지 않은 제21대 대통령선거는 중요한 시험대다. 다시 갈등과 혼돈의 늪에서 헤맬 수는 없는 노릇이다. 우리 사회의 상처를 치유하고,

  • 25.04.1610:10
    김형오 "개헌으로 제왕적 대통령제 결별해야"
    김형오 "개헌으로 제왕적 대통령제 결별해야"

    편집자주헌법재판소가 대한민국 공동체의 분열에 제동을 걸었다. 지난 4일 윤석열 대통령 탄핵 심판 결정은 변화의 마중물이다. 고난과 역경 앞에서 좌절하지 않는 대한민국의 민주주의 회복력은 세계를 놀라게 했다. 이제는 혐오와 반목의 그림자를 걷어내고, 미래를 준비해야 할 때다. 60일도 남지 않은 제21대 대통령선거는 중요한 시험대다. 다시 갈등과 혼돈의 늪에서 헤맬 수는 없는 노릇이다. 우리 사회의 상처를 치유하고,

  • 25.04.1010:00
    손봉호 “헌재 결정에 승복 안하면 자해행위”
    손봉호 “헌재 결정에 승복 안하면 자해행위”

    편집자주헌법재판소가 대한민국 공동체의 분열에 제동을 걸었다. 지난 4일 윤석열 대통령 탄핵 심판 결정은 변화의 마중물이다. 고난과 역경 앞에서 좌절하지 않는 대한민국의 민주주의 회복력은 세계를 놀라게 했다. 이제는 혐오와 반목의 그림자를 걷어내고, 미래를 준비해야 할 때다. 60일도 남지 않은 제21대 대통령선거는 중요한 시험대다. 다시 갈등과 혼돈의 늪에서 헤맬 수는 없는 노릇이다. 우리 사회의 상처를 치유하고,

  • 25.04.0911:19
    정세균 "국민통합 안 되는 원인은 정치…갈등 조장 세력 단절해야"
    정세균 "국민통합 안 되는 원인은 정치…갈등 조장 세력 단절해야"

    편집자주헌법재판소가 대한민국 공동체의 분열에 제동을 걸었다. 지난 4일 윤석열 대통령 탄핵 심판 결정은 변화의 마중물이다. 고난과 역경 앞에서 좌절하지 않는 대한민국의 민주주의 회복력은 세계를 놀라게 했다. 이제는 혐오와 반목의 그림자를 걷어내고, 미래를 준비해야 할 때다. 60일도 남지 않은 제21대 대통령선거는 중요한 시험대다. 다시 갈등과 혼돈의 늪에서 헤맬 수는 없는 노릇이다. 우리 사회의 상처를 치유하고,

  • 25.04.0811:41
    양극단으로 쪼개진 사회…회복과 통합, 그 해법은
    양극단으로 쪼개진 사회…회복과 통합, 그 해법은

    "신뢰가 없으면 공동체 구성원 간에 믿음이 없으니, 나라가 바로 설 수 없다." 정치 원로인 문희상 전 국회의장은 8일 아시아경제와의 인터뷰에서 중국 춘추시대 유학자인 공자(公子)가 남긴 말을 전했다. 지난겨울 비상계엄의 충격파 속에 혼돈에 휩싸여 있던 대한민국이 나아가야 할 방향에 관한 얘기다. 문 전 의장은 "공자 말씀이 ‘정치가 무엇이냐’를 물으면 군사(국방, 안보)와 식량(경제), 믿음(공동체) 3가지를 말했다"면

  • 25.04.2107:20
    유종일 "이재명 '성장 전략 짜 달라' 전화"
    유종일 "이재명 '성장 전략 짜 달라' 전화"

    유종일 '성장과 통합' 상임공동대표가 아시아경제 유튜브 채널 'AK라디오'에 출연했다. 지난 18일 오전 9시, 서울 중구 충무로 아시아경제 스튜디오에서 1시간 20분 동안 진행된 인터뷰에서 유 대표는 "시장 원리를 거스르면 목표 달성도 못 하고 부작용만 커진다"고 말했다. 문재인 정부의 탈원전 정책을 비판하며 "원자력은 꼭 필요하다. 가급적 빨리 신규 원전을 건설해야 한다"고 소신을 밝혔다. 또 "연공서열제를 개혁해야 정

  • 25.04.1807:39
    양기대 "통합 필요한 세력 진정성 있게 껴안아야"
    양기대 "통합 필요한 세력 진정성 있게 껴안아야"

    민주당 비명(비이재명)계 전직 의원들의 모임인 '초일회' 간사인 양기대 전 국회의원이 아시아경제 유튜브 채널 'AK라디오'에 출연했다. '희망과 대안 포럼' 이사장이기도 한 양 전 의원은 "정권 교체가 중요하다"며 "제3세력 태동 가능성은 사그라들었다"고 단언했다. 그러면서 "누가 정권을 잡든 대선 이후 경제적 불평등 등에 대한 깊은 통합의 정신을 발휘해야 한다"고 강조했다. 인터뷰는 17일 오전 9시부터 10시까지 서울 중

  • 25.04.1308:00
    테슬라 폭락에 백악관 나간다는 머스크…트럼프와 멀어지나
    테슬라 폭락에 백악관 나간다는 머스크…트럼프와 멀어지나

    도널드 트럼프 대통령과 일론 머스크 테슬라 CEO 사이에 갈등의 골이 깊어지고 있다. 트럼프 대통령의 최측근이자 정부효율부 수장인 일론 머스크가 조만간 정부를 떠날 수 있다는 소식이 전해졌다. 이는 트럼프 대통령이 직접 언급한 내용으로, 지난 4일 기자회견에서 "머스크도 떠날 시점이 올 것이다. 아마 몇 달 후가 될 것 같다"라고 발언하면서 머스크의 조기 사임론이 확산되고 있다. 특히 주목할 점은 머스크가 이탈리아 극

  • 25.04.1207:00
    드론 격추하기 시작한 북한군…수세로 몰린 우크라
    드론 격추하기 시작한 북한군…수세로 몰린 우크라

    우크라이나 전쟁에 파병된 북한군이 초기 고전에도 불구하고 현대전 전술에 빠르게 적응하며 전세를 역전시키고 있는 것으로 알려졌다. 우크라이나가 점령했던 러시아 쿠르스크 지역에서 북한군을 앞세운 러시아군의 반격으로 우크라이나군이 후퇴를 거듭하면서 자국 국경 방어에 나서야 하는 상황으로 전환됐다. 초기에는 무인기(드론) 전술에 적응하지 못해 대규모 사상자가 발생했던 북한군이 짧은기간 내에 드론 대응 전술을 익

  • 25.04.0609:01
    이상돈 "국민의힘 플랜B가 없다…변화에 한계"
    이상돈 "국민의힘 플랜B가 없다…변화에 한계"

    윤석열 대통령이 헌법재판관 전원일치 8 대 0으로 파면됐다. 한국 정치사에서 박근혜 전 대통령에 이어 두 번째로 대통령이 파면됐다. 불행한 역사다. 지난 4일 오후 3시 아시아경제 유튜브 채널 'AK라디오'에 출연한 이상돈 전 의원은 "국민의힘이 플랜B가 없다"며 변화하는 데 한계가 있을 것이라고 내다봤다. 인터뷰 전문은 아래 영상을 통해 볼 수 있다. 윤 대통령이 8:0으로 파면됐다.영어로 표현하면 심플 앤드 클리어다.


다양한 채널에서 아시아경제를 만나보세요!

위로가기