"직접 길러요" 소름끼치는 농부의 정체…리뷰 900개 잘 나가던 쇼핑몰 영업정지

상품광고·수상이력 합성
항의 빗발치자 판매 중단 조치
별다른 대책이나 규제 없어

"저 정○○이 재배와 수확 모두 직접 합니다."

최근 한 온라인 쇼핑몰에서 인공지능(AI)으로 만든 이미지로 소비자를 속여 논란이 일고 있다. 향후 새로운 사기 수단으로 활용될 가능성이 높아진 만큼 대책 마련이 시급하다는 지적이 나온다.

온라인 쇼핑몰에 입점한 한 과일 업체에서 올린 이미지가 AI로 생성된 것으로 보이며 소비자들의 항의가 이어졌다. 현재는 판매 중단된 상태다. 네이버 스마트스토어 화면

11일 네이버 스마트스토어와 카카오톡 쇼핑하기 등에 따르면 한 입점 과일 업체에서 자신인 것처럼 설명하는 홍보 문구와 농부의 사진, 상품의 품질로 대상을 받았다는 수상 이력을 올렸다. 얼핏 보기에는 실제인 것처럼 보이지만 자세히 보면 뾰족한 손과 이질감이 드는 손톱 모양 등 모두 합성이었다. 수상 이력 역시 허위로 김천시에서는 ‘샤인머스캣 품평회'를 개최한 적이 없었다. 해당 업체의 리뷰는 900개 이상 달릴 정도로 많은 판매가 이뤄졌지만, 허위광고라는 의혹이 제기되자 쇼핑몰들은 판매를 중지시켰다.

네이버 쇼핑에서는 상품 자체에는 문제가 없었던 것으로 확인했지만 잘못된 마케팅 방식으로 판매가 이뤄졌다고 판단했다. 네이버 쇼핑 관계자는 "이용자들로부터 신고가 있어 살펴본 결과 허위 상장과 같은 부분은 내부 정책 위반 사항이다. 판매자에게 소명 요청을 하고 영업 중단하도록 조치했다"며 "AI로 생성된 이미지를 활용하는 사례는 많지만 그 자체가 문제가 되는 것은 아니기 때문에 막을 수는 없다. 다만 이를 통해 소비자를 속이거나 상품, 정보 전달에 있어서 악용되는 경우는 지양될 수 있도록 모니터링과 신고 채널을 통해 관리해나갈 예정"이라고 설명했다.

카카오 관계자는 “이용자 신고 접수 후 해당 업체의 판매를 즉시 중단시켰고 앞으로 관련해 모니터링을 강화해 나갈 예정“이라며 “AI로 생성된 이미지를 활용하는 경우 별도로 문구를 표기하도록 하는 지침을 내부적으로 논의하고 있다”고 말했다.

AI로 생성된 이미지를 홍보나 마케팅에 활용하는 경우 불법은 아니다. 다만 전자상거래법 21조에서는 거짓 또는 과장된 사실을 알리거나 기만적 방법을 사용하여 소비자를 유인 또는 소비자와 거래하거나 청약 철회 등 또는 계약의 해지를 방해하는 행위를 금지하고 있다. 현재까지 AI로 생성된 이미지를 이용했다는 이유만으로 처벌받은 사례는 없다.

법무법인 트리니티의 전민재 변호사는 "소비자의 결정에 영향을 미칠 수 있는 사항에 대해 허위 및 기만의 수단으로 사용된 것으로 판단될 경우 전자상거래법에 위반될 수 있다"며 "AI 이미지 등의 기술이 앞으로 또 하나의 새로운 사기 수단으로 활용될 가능성이 있어 소비자의 주의가 필요하다"고 당부했다.

전문가들은 별도의 가이드라인이나 규제가 필요하다고 한목소리를 냈다. 이영애 인천대 소비자학과 교수는 "표시광고법의 경우에는 기만의 의도가 없더라도 오해할 여지가 있는 경우 허위과장광고에 해당해 법률 위반이 될 수 있다"며 "AI와 같은 기술이 어디까지 활용될지 가늠하기 어려운 상황에서 소비자가 오인해서 선택행위를 하지 않을 수 있는 플랫폼 내부의 가이드라인이 마련돼야 한다"고 강조했다.

이은희 인하대 소비자학과 교수는 "소비자가 정보가 충분히 제공된 상태에서 선택행위를 할 수 있도록 연출된 이미지라고 표시를 할 수 있는 입법 조치가 이뤄질 필요가 있다"며 "하루빨리 표시 광고의 정화가 이뤄지지 않을 경우 더 많은 소비자 피해가 발생할 수밖에 없다"고 말했다.

염다연 기자 allsalt@asiae.co.kr