차량 최초 사망 사고가 발생한 이유[인공 지능]끝까지 인간인줄 모르고 Uber AI

 출처 : Yahoo! Japan (구글 번역 후 쓰기 주의)

평화박 | 오미림대 기자 118 (금) 6:52 (사진 아프리카)

보행자를 들어올려 AI는 끝내 그걸 인간이라고 인식하지 못했다.미국 국가교통안전위원회(NTSB)는 2018년 3월에 미국 애리조나주 피닉스 교외에서 일어난 우바(Uber) 자율주행차량에 의한 보행자 사망사고에 보고서를 발표했다.미국 내에서는 이 밖에 테슬라의 자율주행 차량에 의한 2건의 사망 사고가 밝혀지고 있지만 모두 희생된 사람은 운전하던 운전자들이다. 자율주행차량의 사망사고로 보행자가 희생된 것은 이 사건이 처음이었다.440 페이지에 이르는 보고서는, 우바의 AI는 도로에 보행자가 있는지 없는지, 처음부터 상정하지 않았기 때문에, 끝까지 「보행자」라고 인식하지 않았던 것이 밝혀졌다.또 급브레이크도 작동하지 않는 등 다양한 시스템 결함의 연쇄가 있었던 것으로 지적되고 있다.한편 이 사망사고 여파로 피닉스 외곽의 다른 도시에서는 구글 계열 자율주행차를 상대로 주민들 간의 ‘격돌’ 움직임까지 보도됐다.도로를 횡단하는 보행자는 뜻밖에도 자동 운전 자동차의 안전성의 논의는 그런 데서 거듭할 필요가 있는 것 같다.

●440쪽짜리

국가교통안전위원회가 5일 공개한 사고보고서는 43건 440쪽에 이른다.

사고의 개요는 발생 후 2개월인 2018년 5월에 중간보고가 발표되었다. 이번 보고서는 사고 원인과 대응 등 자세한 내용도 공개돼 있다.사고가 일어난 것은 2018년 3월 18일 일요일 밤.애리조나주의 주도 피닉스에서 차로 20분 정도의 교외, 템피시. 이날 밤 9시58분 49세의 일레인 헤르츠버그는 자전거를 누른 채 4차로의 노스밀 애비뉴를 걸어서 건너려 했다.횡단보도가 있는 교차로에서 100m쯤 앞길. 길을 건너 끝나기 전 헤르츠버그 씨 오른쪽에서 온 우바의 자율주행차량에 치여 있다.자율주행차는 2017년형 볼보 XC90을 우바가 개조한 것으로 일대에서 시험주행 중이던 헤르츠버그씨는 이송된 병원에서 사망이 확인된다.우바 운전석에 있던 테스트 드라이버, 44세는 펠라 바스케스씨에게 부상은 없었다.이번에 공개된 보고서에 따르면 우바 차의 AI 시스템이 헤르츠버그 씨를 잡는 이 5.6초 전. 시속 44마일(약 71km)에서 헤르츠버그 씨와의 거리는 1km 정도다. 이 때는 헤르츠버그씨를”자동차”라고 인식하고 있다.그리고 5.2초전에 이번은 헤르츠버그씨를 분류 불명의 「그 외」라고 인식. 그 다음 2.7초 전까지 자동차와 기타 사이로 AI의 분류가 오락가락한다. 2.6초 전. AI는 헤르츠버그 씨를 처음으로 자전거로 인식했다. 하지만 헤르츠버그씨를”정지”상태라고 인식해, 우바 차량의 진행 방향을 향하고 있지 않다고 판정하고 있다. 그 거리는 벌써 500m 정도. 1.2초전에 헤르츠버그씨를 「」라고 인식한 후, 우바차와의 충돌을 처음으로 인식. 위험을 감지하여 작동제어시스템을 시작하세요.1초 뒤 0.2초 전 감속이 시작될 때 드라이버 농구스산 경보로 위험을 알린다. 이미 헤르츠버그와의 거리는 35m 정도.바스케스 씨가 핸들을 손에 자동 운전을 종료시킨 0.02초 전.그러나 우바차 헤르츠버그에게 시속 39마일(약 63km)로 . 그리고 바스케스 씨가 브레이크를 밟은 것은 0.7초였다.

● 인터넷 동영상 시청

결국 우바차는 헤르츠버그를 인간(보행자)으로 인식하지 못했다.이에 대해 보고서는 이같이 밝혔다.

시스템 디자인이 차도에 있는 보행자를 상정하지 않았기 때문이다.

노상 보행자는 보도에 있는 것-그런 가정에서 우바의 AI차량 시스템 개발되고 있었던 것이다, 라고 게다가 「자동차」 「기타」 「자전거」로 분류가 빈번히 흔들려, 그 때마다 다른”정지하고 있는”대상으로 파악했기 때문에, 헤르츠버그씨가 차도를 가로질러 우바 차량의 진행 방향으로”이동”하고 있는지를 인식할 수 없었다고 한다.또 충돌 직전 우바차가 위험을 감지하는데 천천히 시작돼 경보를 울릴 때까지 1초가량 공백이 있다.이는 오탐을 방지할 수 있는 우회한 사양이 시간 동안 시스템이 위험가반이 아닌지를 검증한 뒤 해결경로를 산정하거나 동승하는 인간 운전자가 자율주행에서 수동운전으로 전환한다는 가정으로 설정된 시간이라는 것.하지만 드라이버 바스케스 씨는 이 시점에서도 핸들 조작은 하지 않았다.보고서는 장해는 없었다, 라고 하고 있다. 이어 차량 내부에 장착된 카메라는 충돌까지 하며 농구스 씨의 모습도 포착했다.차내 설치 카메라는 바스케스씨가 자주 운전석 아래를 살피는 모습을 포착했다.안전 확보를 위한 드라이버는 곁눈질은 커녕, 우바차의 운전석에서”플루”시청하고 있었던 것이다.

●시스템 혁신과 실험주행 재개

우바는 2016년 9월부터 동부 펜실베이니아주 피츠버그에서 자율주행 자동차 실험 주행을 시작했다. 사고 1년 전 2017년 2월부터 남서부 애리조나 템피에 실험주행의 거점을 확대한 동 시는 300명에 이르는 테스트 드라이버로 실험주행을 전개하고 있었다.우바는 사망 사고를 받고, 각지의 자동 운전의 주행 실험을 중지 애리조나 프로젝트는 폐쇄했다.하지만 템피시에 인접하는 캘리포니아주 챈들러시에서는 이 사망 사고도 한 원인이 되어, 역시 실험 주행을 하고 있던 구글계의 웨이모 자율주행차에 주민에 의한 간섭과 공격이 잇따르는 소동이 벌어졌다.※ 참조: 웨이모의 자율주행자동차를 주민들이 (0105 2019 신문지 학적)했을 때, 흥분한 자율주행자동차의 실험주행은 2018년 12월에 피츠버그에서 재개. 사망사고로 판명된 시스템의 문제점에 대해서도 보행자 검지 시스템을 추가하는 등 수정을 실시한다.하지만 사람을 사람으로 인식하지 못하는 AI에 의해 사람의 목숨을 빼앗겼다는 사실은 남아 있다.(※2019년 11월 7일자 「신문지 학적」에서 가필·수정 후에 전재)

저자: 평화박 오미림대 교수기자

오미린 대학 교양학군 교수(미디어·저널리즘) 기자. 와세다 대학졸업 후, 아사히 신문 입사. 사회부 실리콘밸리 주재 과학 그룹 데스크, 편집 위원, IT 전문 기자(디지털 어오차자)를 담당. 2019년 4월부터 현직. 저서에서는 「악의 AI론, 당신은 여기까지 지배되고 있다. “믿지 마라 민주주의를 단절하는 가짜 뉴스의 정체” “아사히 신문 기자의 인터넷 정보 활용 방법”(모두 아사히 신서), 역서로 “당신이 미디어! 소셜 새로운 시대의 정보기술” “블로그 세계를 바꾸는 개인 미디어”(댄 길모어의 아사히 신문 출판), 공동으로 “미디어는 누구의 것인가-‘책과 신문의 대학 ‘강의록'(슈웨이 사신서).