KAIST "인공지능 ‘편향성’ 바로잡을 모델 훈련기술 개발“

인공지능이 미치는 사회적 영역이 넓어지는 가운데 최근 인공지능에 다양한 편향성 문제가 부각되며, 이를 고려한 머신러닝 학습의 필요성도 커진다.

일례로 인공지능은 범죄자의 재범 예측을 위해 사용되는 콤파스 시스템(머신러닝 학습) 기반의 학습 모델에서 인종별로 서로 다른 재범 확률을 부여하는 편향성을 보였다.

또 채용, 대출시스템 등 사회적 중요 영역에서도 인공지능의 편향성 문제가 드러나면서 ‘공정성’을 고려한 머신러닝 학습의 필요성이 대두되는 실정이다.

이와 관련해 KAIST는 교내 전기 및 전자공학부 황의종 교수 연구팀이 학습상황과 달라진 새로운 분포의 테스트 데이터에 대해서도 편향되지 않은 판단을 내릴 수 있게 하는 새로운 인공지능 모델 훈련 기술을 개발했다고 30일 밝혔다.

(왼쪽부터) KAIST 전기 및 전자공학부 노유지 박사과정과 KAIST 전기 및 전자공학부 황의종 교수. KAIST 제공

기존에도 세계 각국 연구자들은 인공지능의 공정성을 높이기 위한 다양한 학습 방법론을 제안했다. 또 이들 제안 대부분은 인공지능 모델을 훈련시킬 때 사용되는 데이터와 실제 테스트 상황에서 사용될 데이터가 같은 분포를 갖는다고 가정한 공통점을 보였다.

하지만 실제 상황에서는 이러한 가정이 대체로 성립하지 않아, 다양한 애플리케이션에서 학습 데이터와 테스트 데이터 사이에서 편향성이 관측되는 한계를 보였다.

테스트 환경에서 데이터의 정답 레이블과 특정 그룹 정보 간의 편향 패턴이 변경되면, 사전에 공정하게 학습했던 인공지능 모델의 공정성이 훼손돼 악화된 편향성을 가질 수 있다는 것이다.

일례로 과거에 특정 인종 위주로 채용하던 기관이 이제는 인종에 관계없이 채용한다면, 과거의 데이터를 기반으로 공정하게 학습된 인공지능 채용 모델이 현대의 데이터에는 오히려 불공정하다는 판단으로 이어질 수 있었다.

이는 황 교수 연구팀의 연구 결과가 의미를 갖는 배경이기도 하다.

우선 연구팀은 문제해결을 위해 `상관관계 변화(correlation shifts)' 개념을 도입, 기존의 공정성을 위한 학습 알고리즘이 가진 정확성과 공정성 성능에 대한 근본적 한계를 이론적으로 분석했다.

예컨대 연구팀은 특정 인종만 주로 채용한 기업의 과거 데이터의 경우 인종과 채용의 상관관계가 강해 추후 인공지능이 공정한 모델을 학습하더라도 현재의 약한 상관관계로 정확·공정한 채용 예측이 어렵다는 것에 주목했다.

또 이러한 이론적 분석을 바탕으로 새로운 학습 데이터 샘플링 기법을 제안, 테스트 때 데이터의 편향 패턴이 변화해도 모델을 공정하게 학습할 수 있도록 하는 새로운 학습 프레임워크를 제안했다.

이는 우세했던 특정 인종 데이터의 비중을 상대적으로 줄임으로써 채용과의 상관관계를 낮출 수 있는 구조다.

제안된 기법의 주된 이점은 데이터 전처리만 하기 때문에 기존에 제안된 알고리즘 기반의 학습기법(공정성)을 그대로 활용하면서 개선할 수 있다는 데 있다.

이미 사용 중인 학습 알고리즘이 상관관계 변화에 취약할 때 연구팀이 제안한 기법을 병행함으로써 문제를 해결할 수 있다는 것이 핵심이다.

제1 저자인 KAIST 전기 및 전자공학부 노유지 박사과정 학생은 "연구팀의 제안이 인공지능 기술의 실제 적용 환경에서 모델을 더욱 신뢰하고, 공정한 판단을 기대할 수 있게 하는 역할을 할 것으로 기대한다?고 말했다.

한편 연구팀의 연구 성과물은 지난 7월 미국 하와이에서 열린 머신러닝 최고권위 국제학술 대회인 `국제 머신러닝 학회'에서도 발표됐다.

연구에는 노유지 박사과정이 제1 저자, 황의종 KAIST 교수가 교신 저자, 서창호 KAIST 교수와 이강욱 위스콘신-매디슨대 교수가 공동 저자로 참여했다.

글자크기 설정