자율주행자동차 - 트롤리 딜레마

                                                                                ▲트롤리 딜레마

최근 구글, 테슬라 자율주행 자동차 사고가 잇따르며 세계적인 이목이 쏠리고 있다. 주변 상황 인지 능력이 사람과 기계 중 어느 쪽이 높은지에 대해서 여전히 연구결과가 엇갈리고 있는 가운데, 이번 호에서는 이러한 배경을 바탕으로 기술적 문제 못지않게 중요한 문제로 떠오르는 철학적 문제인 자율주행 자동차에서의 ‘트롤리 딜레마’에 대해 알아보고자 한다.

트롤리 딜레마

‘트롤리 딜레마’란 사고 상황을 설정하고 도덕적 견해를 묻는 철학적 명제이다. 브레이크가 고장난 열차 ‘트롤리’가 달려오는 상황에서 선로에 다섯 사람이 있고 당신이 바꿀 수 있는 다른 선로에는 한 명이 있다면 선로를 바꿀 것인가 말 것인가를 묻는 질문은로 극단적으로 말하면 “다수와 소수, 누구를 죽일 것인가?”를 선택하는 것이다. 2015년 MIT의 Technology review에 실린 “자율주행자동차가 누군가를 죽이도록 설계되어야 하는 이유”라는 논문은 이 트롤리 딜레마를 바탕으로 문제를 제기하고 있다. 이 논문에서 판단을 하는 주체는 자율주행자동차이고 판단의 대상이 되는 것은 다수의 보행자, 소수의 보행자, 탑승자의 세 가지이다. 연구자들은 테스트 프로그램을 통해 자율주행 자동차가 처한 다양한 사고 시나리오를 제시하는데, 응답자는 각각의 시나리오에서 어느 쪽을 선택해도 생명 희생이 불가피한 두 가지의 행동 중 하나를 선택해야 한다. 테스트 결과, 전반적으로 젊은 다수의 사람들, 즉 ‘더 높은 사회적 가치’를 지닌 것으로 여겨지는 사람들을 살려야 한다는 의견이 강세를 이루고 있으나 스스로는 그렇게 프로그래밍된 차를 타지 않겠다는 의견이 주를 이루었다.하지만 다수의 의견이 바로 선이라거나 법이 되지는 않는다. 자율주행 자동차의 도입을 위해서는 위와 같은 도덕적 가치문제에 대한 지속적인 사회적 합의가 필요하며 사고 발생시 책임소재를 명확히 하기 위한 법과 제도의 정비도 선행되어야 할 것이다.

                                                             ▲WHY THE CARS MUST BE PROGRANNED TO KILL

Why the cars must be programmed to kill

타이틀 입력 부분 공리주의 철학사상과 관련된 이 명제는 또 다른 식으로도 나타난다. 철로를 변경하는 것이 아니라 내 옆에 있는 사람을 철 로에 밀어 넣으면 열차를 멈출 수 있을 때 한 사람을 죽여 다섯 명의 사람들을 구할 것인가라는 질문이다. 이런 트롤리 딜레마에 관련된 질문에 정답은 없다. 그럼에도 사람들은 각기 판단을 통해 답변을 이끌어 냈다. 그럼 자율주행 자동차가 트롤리 딜레마와 같은 상황에 빠졌을 때, 누가 이런 판단을 내릴 것인가?