AI 의사가 실수하면 누구의 책임일까?…"윤리적 문제 논의해야"

[아시아경제 안하늘 기자]#. 인공지능(AI)이 권고한대로 치료를 했는데, 알고 보니 데이터 오류로 인한 잘못된 처방이었다. 이에 따라 환자는 큰 부작용을 호소하고 있다. 누구의 책임일까?

2030년 AI가 인간을 뛰어넘는 '특이점'이 온다는 전망아래 AI에 대한 윤리적 이슈도 부상하고 있다. AI의 활용 범위를 어디까지 확대해야 하는지, 그로 인해 발생하는 문제를 어떻게 처리할 것인지에 대한 사회적 공감대가 형성될 필요가 있다는 주장이다.

한국정보화진흥원(NIA)은 15일 AI 로봇의 윤리와 관련된 글로벌 이슈를 분석하고 정책 방향을 제시한 '미래신호 탐지 기법으로 본 인공지능 윤리 이슈' 보고서를 발간했다.

AI의 지능이 인간을 넘어설 수 있다는 전망과 이에 따른 우려에 대해 일반인 뿐 아니라 글로벌 IT업계 수장들도 이견이 있는 상황이다.

엘론 머스크 테슬라 최고경영자(CEO)는 "AI 연구는 우리가 악마를 소환하는 것이나 마찬가지"라며 부정적인 견해를 드러낸 반면 에릭 슈미트 전 구글 CEO는 "AI는 인간을 돕기 위한 기술로, 겁먹지 말고 잠재력을 활용해야한다"고 말한 바 있다.

아직까지 AI의 윤리적 이슈 및 미래 예측에 대해 과학자, 법학자 등 전문가 집단의 주도로 논의가 진행되고 있는 상황이다. 특히 미디어에 드러나는 대중의 인식과 기대에 대한 분석 및 정책 반영은 부족하다.

이에 NIA에서는 빅데이터 분석과 미래신호 탐지 기법을 활용해 ①안전성·신뢰성 ② 프라이버시 침해 ③기술 오남용 ④책임성 ⑤인간 고유성 혼란 ⑥AI 포비아 등 AI 6대 윤리 이슈를 도출했다.

안전성·신뢰성에 대해서는 알고리즘의 불완전성과 내재적 모순으로 인한 불안감과 도덕적 이슈가 주로 거론됐다. 이에 미국과 일본에서는 안전성 보장을 위한 위험요소 사전 식별 및 인증을 통한 규제안을 논의 중이다.

프라이버시 침해 및 빅브라더 논란 문제를 해결하기 위해서는 EU를 중심으로 프라이버시 침해 가능성 방지를 위한 데이터 보호 및 감독방안 논의되고 있다.

기술 오남용 분야는 사용자의 오남용에 따른 윤리적 문제가 주요 내용으로 도출됐다. 현재 각 국에서는 군사·치안 로봇의 사용범위에 대한 논의를 시작했으나, 사용자의 오남용 책임에 대한 논의는 부재한 상황이라고 NIA는 지적했다.

책임성에 대해서는 AI, 로봇의 자율적 의사결정권에 대한 우려와 책임소재를 어떻게 정할 것인지가 핵심 문제로 전망된다. 이에 대해서는 국제기구, 각국 정부, 학계에서 다양한 법제도 논의와 연구가 활발히 추진 중이다.

인간 존재에 대한 가치 혼란과 고유성 침해에 대한 우려도 심각한 문제다. 일본 정부는 이에 대해 AI 창작물에 대한 규제 차원의 대응을 하고 있다.

초인적 지능이 탑재된 기계에 대한 공포감과 거부감으로 나타나는 AI 포비아는 최종 보호장치 적용에 대한 논의가 시작된 상황이다.

NIA 관계자는 "우리나라도 이 같은 이슈에 대해 선제적 대응이 필요하며, 기술개발과 산업육성뿐 아니라 급격한 사회경제적 변화와 역기능 방지에 대한 정책 비중을 높여야 할 시점"이라며 "IT뿐 아니라 고용, 복지, 교육 등 다양한 분야에 관련된 윤리적 문제에 대한 범국가 차원의 협력기구 마련 필요하다"고 말했다.

안하늘 기자 ahn708@asiae.co.kr