권해영기자
"인공지능(AI)은 인류를 멸망시킬 위험이 있다."
최근 생성형AI를 비롯한 AI기술의 발전에 대한 관심이 높아진 가운데, 미국의 AI 과학자 수백명이 경고의 목소리를 담아 성명을 냈다. 앞서 일론 머스크 테슬라 최고경영자(CEO)를 비롯해 1000명이 넘는 인사들이 AI 개발을 6개월간 일시 중단하자는 성명을 발표한 지 두 달 만으로, 통제 가능한 AI 개발이 필요하다는 목소리가 높아지고 있다.
미국 AI 안전센터는 30일(현지시간) 발표한 22개 단어로 구성된 한 줄짜리 성명을 통해 "AI로 인한 인류의 멸망 위험을 완화하는 것은, 감염병 팬데믹(세계적 대유행)·핵전쟁 등 사회적 위험을 제거하는 것과 마찬가지로 우선 순위가 돼야만 한다"고 밝혔다. AI가 초래할 심각한 위험에 대한 논의를 시작해야 한다는 취지다.
이 성명에는 AI 분야에 종사하는 경영진, 연구원, 개발자 등 350명 이상이 서명했다. AI 열풍을 일으킨 ‘챗GPT’의 아버지인 샘 올트먼 오픈 AI CEO, 케빈 스콧 마이크로소프트(MS) 최고기술책임자(CTO), 구글의 AI 임원인 릴라 이브라힘·매리언 로저스, 안젤라 케인 전 유엔 군축 고위대표 등이 동참했다.
이번 성명은 AI 발전에 따라 거짓 정보와 사회적 편견 확산, 일자리 감소 등 부작용에 대한 우려가 커지는 가운데 나왔다. AI가 대량의 데이터를 학습한 후 인간의 반응과 대응을 모방하는 만큼 오용·악용될 경우 폐해가 심각할 것이란 전망에 힘을 보태는 성명인 것이다.
특히 챗GPT 출시 이후 AI에 대한 투자가 급증하면서 이 산업이 통제할 수 없을 정도로 성장할 수 있다는 우려가 커지고 있다. AI 반도체 시장에서 점유율 90% 안팎을 차지하는 엔비디아의 경우 AI 열풍을 타고 최근 주가가 급등, 이날 장중 한 때 시가총액이 1조 달러를 돌파하기도 했다.
현재 AI 전문가들과 각국 정부는 AI를 규제하기 위한 논의를 진행하고 있다. 앞서 올트먼 CEO는 미 의회에 출석해 "이 기술이 잘못되면 상당히 잘못될 수 있다. 이를 막기 위해 정부와 협력하고 싶다"고 밝혔다. 미국 행정부는 AI가 공공안전·개인정보·민주주의에 대한 위협이 될 수 있다며 규제 방안을 모색 중이고, 유럽연합(EU)도 ‘유럽인공지능법’ 도입을 추진 중이다.
다만 뉴욕타임스(NYT)는 "몇몇 사람들은 결국 (AI 개발) 속도를 늦추지 않는다면 수년 내 사회적으로 상당한 혼란을 일으킬 정도로 AI가 강력해질 수 있다고 믿는다"면서 "이 같은 공포는 수많은 업계 리더들이 그들이 개발 중인 기술이 심각한 위험을 갖고 있으며 엄격히 규제돼야 한다고 주장하는 일반적이지 않은 입장에 놓이게 한다"고 분석했다.