김희윤기자
인공지능(AI )도입 이후 조직에서 가장 빠르게 사라진 것은 반복 업무가 아니다. 사라진 것은 "누가 결정했는가"에 대한 질문이다. 회의실에서는 점점 더 자주 "AI가 그렇게 말했습니다"라는 말이 등장한다. 이 한 문장은 효율적인 언어처럼 보이지만, 실제로는 책임과 권한의 경계를 흐리는 신호다.
미국 기업 현장을 보면 이 차이는 점점 더 분명해지고 있다. 같은 생성형 AI, 같은 추천 시스템, 같은 자동화 도구를 써도 어떤 조직은 성과를 내고, 어떤 조직은 혼란과 불신만 키운다. 흥미로운 점은 그 차이가 기술 수준이나 데이터양에서 나오지 않는다는 것이다. 핵심은 AI를 조직 안에서 어떤 위치에 두느냐, 다시 말해 거버넌스의 문제다.
성과를 내는 조직은 AI를 명확히 '보조 도구'로 정의한다. AI는 분석하고 제안하지만, 판단하지는 않는다. 의사결정의 마지막 단계에는 항상 인간이 있고, 책임의 귀속도 분명하다. 이런 조직에서는 "AI가 그렇게 말했다"는 표현이 결코 최종 근거가 되지 않는다. 오히려 그 문장은 질문의 출발점이다. 왜 그런 추천이 나왔는지, 어떤 가정을 전제로 했는지, 그리고 그 가정이 현재 상황에서도 유효한지를 따진다.
반면 AI에 쓰이는 조직에서는 경계선이 흐려진다. 초기에는 효율을 위해 도입한 AI가 어느 순간 판단의 근거로 승격된다. 관리자는 AI의 결과를 '객관적 판단'으로 포장해 의사결정을 정당화하고, 구성원은 그 결과에 이의를 제기하기 어려워진다. AI는 중립적인 도구처럼 보이지만, 실제로는 조직 권력을 재배치하는 장치가 된다.
이 과정에서 중요한 질문 하나가 빠진다. 누가 AI를 설정하고, 누가 그 결과를 해석하며, 누가 책임을 지는가. AI 모델의 파라미터를 조정하는 사람, 데이터 범위를 정하는 사람, 결과를 보고서로 요약하는 사람이 누구인지에 따라 같은 AI도 전혀 다른 조직 문화를 만든다. AI가 관리자 손에 독점되면 통제는 강화되고, 현업에 열려 있으면 실험과 학습이 늘어난다. 기술은 같아도 결과는 조직 설계에 따라 극단적으로 갈린다.
최근 미국에서 나타나는 또 하나의 변화는 AI 검증 노동의 증가다. AI가 보고서를 작성하고, 계약서를 요약하고, 고객 응대를 자동화할수록 이를 다시 확인하고 수정하는 작업은 사라지지 않는다. 오히려 늘어난다. 문제는 이 검증 책임이 명확히 정의되지 않는다는 점이다. 기업은 AI로 비용을 절감했다고 말하지만, 현장에서는 검증과 수정이라는 보이지 않는 노동이 개인에게 전가된다. 생산성 향상의 통계와 체감이 어긋나는 이유다.
'AI가 그렇게 말했다'는 문장이 효율로 포장되면서, 인간의 의사결정의 책임과 권한의 경계가 실시간으로 흐려지고 있다. 구글 제미나이 생성 이미지.
이 때문에 일부 미국 기업들은 AI 활용 성과를 재정의하고 있다. 이제 "AI를 얼마나 적극적으로 사용했는가"는 더 이상 좋은 평가 기준이 아니다. 대신 "AI를 어디까지 믿었고, 어디서 멈췄는가"가 중요해진다. AI의 제안을 그대로 따른 사람이 아니라, 그 한계를 인식하고 보완한 사람이 더 높은 평가를 받는다. AI 활용 능력은 곧 판단 능력과 책임 감각으로 다시 정의된다.
규제 환경에서도 이 문제는 점점 전면에 등장하고 있다. 미국 연방거래위원회와 소비자금융보호국은 단순히 알고리즘의 정확성을 문제 삼기보다, 책임 구조가 불분명한 자동화 의사결정 자체를 위험 요소로 보기 시작했다. 왜 이런 결과가 나왔는지 설명할 수 없는 시스템보다, 그 결과에 누가 책임지는지 알 수 없는 구조가 더 위험하다는 인식 때문이다.
한국 기업과 조직에도 이 문제는 결코 남의 이야기가 아니다. 빠른 의사결정과 효율을 중시하는 문화 속에서 AI는 '중간 단계를 생략해주는 도구'로 매력적으로 보인다. 하지만 그만큼 AI의 판단이 쉽게 상위 기준으로 올라설 위험도 크다. 특히 평가, 인사, 성과 관리 영역에서 AI의 권위는 빠르게 제도화될 수 있다.
결국 AI 시대의 조직 경쟁력은 기술 도입 속도가 아니라 경계 설정 능력에서 갈린다. AI가 할 수 있는 것과 해서는 안 되는 것을 구분하고, 자동화할 영역과 인간 판단을 남겨둘 영역을 설계하며, 무엇보다 실패했을 때 책임이 어디로 돌아가는지를 명확히 하는 조직만이 AI를 '쓰는' 조직이 된다.
AI는 스스로 조직을 지배하지 않는다. 다만 판단을 위임하고 책임을 회피하려는 조직을 조용히 드러낼 뿐이다. 앞으로 더 많은 조직이 AI를 도입할수록, 진짜 차별화는 기술이 아니라 질문에서 시작될 것이다.
손윤석 미국 노터데임대 교수