[사이언스 포럼] 자동화의 완성은 인간의 몫

▲차두원 한국과학기술기획평가원 연구위원

　테슬라 모델S 오토파일럿을 이용하던 운전자 사망 사고 후 미국뿐 아니라, 전 세계적으로 자율주행차에 대한 안전성에 대한 논란이 제기되고 있다. 그러나 엄밀히 말하면 모델S에 사용된 오토파일럿은 자율주행차라고 이야기하기에는 다소 무리가 있다. 오토파일럿은 교통흐름에 맞춰 앞차와의 차간 거리 유지, 차선유지와 변경, 자동주차 등을 지원하는 2500달러짜리 운전 보조 시스템이다.
　미국교통성이 정의한 자동차 자동화 수준인 0부터 4단계 가운데 2단계에 속한다. 우리가 흔히 말하는 자율주행차, 도로상황을 파악하고 모든 위험상황을 스스로 대처하며 목적지까지 주행하는 완전자율주행차는 최종 4단계다. 다수 국내외 언론들의 기사는 일반인들에게 완전자율주행차에 대한 잘못된 정보를 전달할 수도 있다. 다행인 것은 이번 사고가 자율주행차 상용화에 대한 부정적 주장들보다 안전 향상에 대한 논의를 확산시켰고 개발업체들에게는 보다 더 완벽한 자율주행차 개발을 위한 경종을 울리고 있다는 것이다.

　테슬라는 운전자가 만약에 사태에 대비할 수 있도록 오토파일럿을 이용하는 운전자는 항상 전방을 주시하고 운전대에 손을 올려놓을 것을 권장하고 있다. 운전자가 운전대에 손을 올리지 않고 오토파일럿 기능을 사용하면 디스플레이에서 문자경고를 띄우고 경고알람도 끊임없이 울린다. 주기적으로 운전대 압력을 체크해 손을 뗐다고 인식하면 차량 속도를 낮추도록 프로그램되어 있다. 그러나 문제는 많은 운전자들이 이러한 경고를 무시하면서 오토파일럿을 사용한다는 것이다.

　유튜브에 보면 오토파일럿을 마치 4단계 완전자율주행차과 같이 사용하는 모습을 담은 철없는 운전자들이 업로드한 동영상들을 볼 수 있다. 일일이 단속할 수도 없다. 테슬라는 밝은 하늘 때문에 오토파일럿 센서가 트레일러의 하얀색 면을 인식하지 못한 것으로 사고 원인을 발표했다. 아직은 완벽하지 못한 시스템도 문제였지만 운전자가 브레이크를 인위적으로도 밟지 않았다는 것은 운전에 집중하지 않고 다른 무엇엔가 집중을 했을 확률이 높다. 해외 언론들에 따르면 사고차량에서는 해리포터가 틀어진 DVD 플레이어가 작동되고 있었다고 한다.

　테슬라는 운전자들이 안전 관련 매뉴얼의 경고 내용에 그리 복종적이지 않을 것이란 사용자특성을 알면서도 제품을 판매하고 있다. 그러나 운전자 부주의에 의한 사고가 발생하면 책임은 운전자에게 있다. 내비게이션의 예를 들어 보자. 내비게이션 시스템을 켜면 "주행 중 동영상을 보거나 조작하지 말라"는 메시지가 뜬다. 운전자가 운전에 집중하고 사고 위험이 매우 높은 전방주시를 방해하지 않게 하기 위해서다. 스마트폰, DMB 등 모두 마찬가지다. 이들을 운전 중 활용하거나 시청하다 사고가 나면 운전자 책임이다.

　시스템 설계 원칙 가운데 풀 푸르프(fool proof) 원칙이 있다. 누가 사용하더라도 실수 없이 안전하게 시스템 성능을 수행하도록 하는 설계로 안전을 확보하는 방식이다. 자동화의 수준이 높아질수록 사용자인 인간의 역할은 반비례해서 줄어든다. 오토파일럿은 풀 푸르프 설계 원칙을 적용하지 않았고 완전자율주행차도 아니다. 당연히 안전한 시스템 사용을 위한 인간의 역할이 남아 있다.

　자율주행차뿐만 아니라 다양한 분야에서 로봇 등 자동화 수준이 높은 제품과 서비스가 점차 우리의 생활 속으로 들어오고 있다. 그러나 분명한 것은 아무리 자동화 수준이 높아지더라도 인간은 시스템 일부로서의 역할에 충실해야 한다는 것이다. 기술을 과신하는 것도 문제지만, 기술을 정확히 이해하고 때론 기술을 겸손하게 사용해야 한다는 의미다. 또한 누군가는 기술을 쉽게 이해하고 활용하지만, 누군가는 기술을 이해하지 못하고 오해를 하면서 활용하는 경우도 있다. 새로운 기술에 대한 법과 제도에 대한 연구도 중요하지만, 사용자 행태와 특성에 대한 연구는 반드시 함께 수행되어야 한다.
　차두원 한국과학기술기획평가원 연구위원