AI 윤리성과 안전한 사용, 솔트룩스 컨소시엄이 책임진다

인공지능(AI)이 빠르게 발하면서 부작용에 대한 사회적 불안과 우려의 목소리가 커지고 있다. 부적절한 답변과 저작권 침해 논란에 이어 가짜뉴스와 딥페이크 콘텐츠 같은 악용 사례가 급증하면서 '믿을 수 있는 AI'를 위한 노력이 곳곳에서 이어지고 있다.

유럽연합은 AI 규제법을 세계 최초로 가결했으며, 유엔은 안전한 AI를 위한 국제적 합의를 촉구하는 결의안을 만장일치로 채택했다. 21일 과학기술정보통신부는 '새로운 디지털 질서 정립 추진계획'을 발표하며 AI의 안전성 및 신뢰·윤리 확보를 핵심 과제 중 하나로 채택했다.

AI 기업 솔트룩스는 컨소시엄을 통해 2024년 제1차 정보통신·방송 기술개발사업 및 표준개발지원사업 신규지원 대상과제인 ‘사회적, 윤리적 학습을 위한 데이터 특성 및 생성 AI 모델의 윤리성 향상 연구’에 선정됐다고 23일 밝혔다.

AI 및 데이터 부문 가운데 차세대 생성 AI 기술 개발 사업에 속하는 국책과제다. 생성형 AI의 사회·윤리성 강화를 위한 모델 성능 향상 기술을 개발하는 것을 목표로 한다. 특히 AI의 사회적 판단에 대한 연구는 세계 최초로 시도하는 것으로 사업비는 약 49억원 규모다.

솔트룩스 컨소시엄에는 건국대(김학수 교수), 서강대(구명완 교수), 서울대(천현득 교수), 성균관대(고영중 교수), 카이스트(김기응 교수), 한국전자기술연구원(김산 선임연구원), KT(장두성 상무), 다이퀘스트(김경선 연구소장) 등 AI 분야 국내 최고 전문가가 참여한다. AI 및 딥러닝 분야의 공학 연구진 외에도 철학·인문학·사회과학 등 다학제 연구진이 참여해 생성 AI의 사회·윤리성 강화를 위한 최적의 팀을 꾸렸다는 평가를 받고 있다.

과제 세부 목표는 ▲다양한 보편적 특성과 도메인의 특징에 부합하는 생성 AI 사회·윤리성 가이드라인 수립 ▲지속 및 확장 가능한 사회·윤리 종합 대응 서비스 플랫폼 핵심 기술 개발 ▲연구 산출물 공개 및 실증을 통한 확산 등이다. 생성 AI 모델 및 서비스 개발자 누구나 활용할 수 있는 Ethics-GenAIOps 오픈 플랫폼을 개방하고 100만 명 이상 사용자를 확보할 계획이다.

솔트룩스 김재은 랩장은 "범국가적 연구개발 프로젝트 ‘엑소브레인’에 이어 본 과제를 수행하면서 국가 AI 기술의 혁신을 다시 한번 이루기 위해 컨소시엄 전체가 뜻을 모았다"고 말했다. 이어 "사람과 기계가 지식 소통하는 세상을 목표하는 기업으로서 앞으로도 바람직한 디지털 질서 정립을 위해 힘쓸 것"이라고 덧붙였다.