구글·MS "나쁜 AI가 회사 이미지 해칠 수 있다"…투자자에 경고

구글 계열사 딥마인드의 AI '알파스타'가 인간 프로게이머와 대결하는 모습(사진=딥마인드 유튜브 캡처).

[아시아경제 조한울 기자] 구글과 마이크로소프트(MS)가 인공지능(AI)이 결함이 있을 수 있음을 인정하고, 투자자들에게 이를 경고했다.

11일(현지시간) 와이어드, 더 버지 등에 따르면 구글과 MS가 미국증권거래소에 최근 제출한 기업실적리포트(10-K)에서 AI의 위험성을 투자자들에게 경고했다. 양사를 비롯한 유력 IT기업들이 AI를 긍정적으로 마케팅하는 것과는 상반된 결과다.

10-K 기업실적리포트는 미국의 상장 기업이 미국증권거래소에 매년 제출해야 하는 보고서다. 이 보고서에는 투자자들에게 회사가 하고 있는 사업의 현황과 최근 재무상황 등이 상세히 담긴다. MS와 구글의 모회사인 알파벳은 이 10-K 보고서에 처음으로 AI의 위험성을 언급했다.

알파벳은 지난 4일 제출한 보고서에서 "AI와 머신러닝을 통합·활용하는 새 제품과 서비스들은 새로운 윤리적·기술적·법적 문제 등을 야기하거나 이 문제들을 심화시킬 수 있다"며 "이는 자사 브랜드들에 부정적인 영향을 미치고, 자사의 매출과 실적을 악화시킬 수 있다"고 경고했다.

MS도 지난해 8월 제출한 보고서에서 "AI 알고리즘에 결함이 있을 수 있다"며 "데이터 세트가 충분하지 않거나 편향된 정보를 포함 할 수 있다"고 말했다. 회사는 또 "이런 결함들은 AI를 적용할 때 발생하는 의사 결정, 예측 또는 분석을 훼손할 수 있다"며 "이는 자사에 법적 책임을 부과하고, 브랜드 또는 평판을 하락시킬 수 있다"고 경고했다. MS는 "논쟁의 여지가 있는 인권, 사생활 보호, 고용 또는 기타 사회 문제에 AI 솔루션을 제공하는 경우에도 브랜드 또는 평판에 해를 입을 수 있다"고도 했다.

더 버지는 "이런 경고들은 가장 극단적인 사례를 언급해 향후 있을 수 있는 소송 등에서 책임을 덜기 위한 조치인 만큼 놀랄 만한 일은 아니다"라면서도 "이들 회사가 AI를 잠재적 요소로 언급한 점은 다소 이상하다"고 짚었다. 양사는 수년간 AI를 활용한 제품들을 개발해오고 있었다. 구글은 자율주행차 등을 2009년부터 개발해왔고, MS도 AI 비서인 코타나 등을 개발한 바 있다. MS는 또 챗봇 '테이'를 개발했는데, 테이는 인종차별적인 발언을 일삼아 MS는 하루도 되지 않아 서비스를 중단했다.

더 버지는 AI를 향한 부정적인 여론 역시 최근 높아진 점을 언급했다. 구글은 미국 국방부와 협업해 드론이 차량과 건물 등 물체를 식별하는 AI를 개발하려 했으나 이를 둘러싸고 구글 내외부에서 잡음이 끊이지 않았다. 이에 MS는 얼굴인식 소프트웨어를 규제해야 한다고 나섰으며, 구글은 정책입안자, 학계와 연계해 AI 윤리 등을 연구하는 사업을 시작했다. 이에 더 버지는 "투자자들에게 미리 경고하는 것은 공정해 보인다"고 평가했다.

조한울 기자 hanul0023@asiae.co.kr