자율주행차의 윤리학

>

>

주행 중에 브레이크 있는 자율주행차를 상상해 보자. 집으로 달리면 보행자 5명을 치게 되고 핸들을 꺾으면 보행자 1명을 치게 된다. 이 경우 자율주행차는 어떤 프로그램을 가지고 있어야 하는 걸까요? 당연히 핸들을 꺾는 판단을 하는 프로그램이 다수의 공감을 얻는 것입니다. 그런데 핸들을 꺾어 다치는 사람이 보행자가 아니라 자동차를 타는 것이라면요? 자율주행차는 보행자와 탑승자 중 어느 쪽을 보호해야 합니까?  이 질문은 2016년 6월 과학저널 사이언스에 실린 논문에서 나왔다. 「자율 주행차의 딜레마」라고 하는 제목의 이 논문은, 위와 같은 질문으로 앙케이트를 실시했습니다. 이 설문에선 많은 사람들(78%)이 보행자를 보호하는 것이 매우 윤리적이라고 답했다. 하지만 관심을 끄는 것은 이후 질문이었다.  그렇다면 자동차 탑승자보다 보행자의 안전을 우선시하는 자율주행차를 구입합니까? 라고 깨달았는지, 많은 사람들이 그것을 구입하지 않는다고 대답했습니다. 이성적인 판단으로는 대다수 보행자가 우선이지만 그 차의 탑승자가 지나치게 과도한 과도한 가족일 경우에는 반드시 딜레마에 빠지게 된다.  그렇다면 자동차 제조사의 판단은 어떤 것일까요. 얼마 전 메르세데스벤츠의 한 임원은 보행자보다 자동차 탑승자의 안전을 우선한다고 말했다가 언론에 맞았다. 제조업체 입장에서는 당연한 결론이지만 그런 발언은 논란을 불러일으키기 십상이다. 당시 영국 일간 데일리메일도 이런 기사를 내보냈다.  메르세데스벤츠는자율주행차가방향을바꿔탑승자가다칠위험을감수하기보다는아이를끌것이라고인정했다.심각한것은비판은과한대책이없다는점이에요. 독일 연방부는 문재를 피할 수 없는 상황에서 자율주행차가 어떤 선택을 해야 옳은지 결정할 수 없다는 공식 입장을 밝히고 있다. 다만 심증은 분명한 것처럼 보인다. 자율주행차 알고리즘을 조사하는 MIT의 라판 교수가 한 말이 그 심증을 대변한다.  사람들은 과부들을 희생시키는 차를 사지 않지만 다른 사람들이 그런 차를 사면 된다고 생각합니다.    아마도 자율주행차는 공리주의를 표방한다. 다수의 행복이라는 공리주의는 모든 판단에서 계산 가능성을 전제로 한다. 그 계산이란 손해보다 이익이 많은지를 측정하는 것입니다. 그래서 공리주의는 도덕철학이라기보다는 도덕과학임을 자인한다.  윤리적 물증을 이익과 손해의 관점에서만 해석하면 가무과인 간단하다. 자율주행차뿐 아니라 4차 산업혁명의 다양한 초동기술에 접목해야 할 도덕적 알고리즘을 적용하는 데도 용이하다. 모든 사물을 통해 광범위한 데이터를 수집할 수 있는 빅데이터 기술은 고란 공리주의적 판단에 수치화된 물증을 제시할 수 있기 때문이다.  보행자와 탑승자 중 어느 쪽을 돕는 것이 이득인지를 판단하고, 장애인과 비장애인 중 어느 쪽을 돕는 것이 이득인지를 판단한다. 어쩌면, 아랍인인지 미국인인지, 인종을 구분하는 데이터치가 있을지도 모르고, 유명인이나 일반 시민 가운데, 어느 것을 살리는 것이 이익인지, 수치화된 데이터를 나타낼 수도 있을 것이다.  2017년 8월 23일 독일은 세계 최초로 자율주행차에 대한 윤리지침을 발표했다. 독일 연방교통부가 14명의 과학자와 법률 전문가로 구성된 디지털 인프라 담당 윤리위원회는 자율주행 기술이 지켜야 할 20가지 지침을 마련했다.  이 지침에서 주목할 점은 인권에 대해 표준화된 지침은 불가능하다는 얘기였다. 나이, 성별, 인종, 장애의 우선순위를 따지면 안 된다는 것을 의미한다. 즉, 아이를 구하기 위해 노인을 것은 올바른 판단이 될 수 없다. 고롱도츠의 가이드라인은 인간의 존엄에 대해 공리주의적 판단을 차단했다는 점에서 의미가 있다.  한 가지 아쉬운 점은 트롤리 딜레마에 대해서는 판단을 유보했다. 정의란 무엇인가의 저자 마이클 센델이 자주 인용해 널리 알려진 딜레마가 일명 트롤리 딜레마다. 지금까지 트롤리 딜레마는 대학의 정치철학 강의과인 시민을 위한 교양서적에서만 읽을 수 있는 지적 유희라고 생각했다. 그런데 4차 산업혁명이 모든 것을 현실로 만들어버렸다. 지금 우리는 그런 윤리적 딜레마를 프로그래밍해야 합니다. 당장 자율주행차가 등장하기 때문이다. 결말 이 위원회가 고심 끝에 내린 결론은 앞으로의 일이다.  차량 시스템은 인간의 결정에 따라야 한다.인간의 결정을 대신해야 할 자율주행차에 인간의 결정을 따르라는 다소 황당한 결론이긴 하지만 어쨌든 인간의 존엄과 가치판단이라는 철학적 난제를 아직은 기계에 양보할 수 없다는 의지의 표명처럼 보인다.    쉽게 계산할 수 있는 것은 맛의 가장 큰 장점이다. 수치화된 데이터로 무장한 공리주의는 4차 산업혁명에 깊이 관여할지도 모른다. 그러나 우리는 이익과 손해를 계산할 뿐 존재의 가치와 존엄을 계산할 수 없다는 것을 안다. 알고는 있지만, 자율주행차 알고리즘에 입력할 수 있을 정도로 증명할 수 없었습니다. 결말의 자율주행차 딜레마는 기술적인 딜레마가 아니라 철학적 딜레마다.  철학이라고 하면 마치 19세기와 20세기 정도에 머문 견해를 하게 된다. 그만큼 철학이 멀리 있지 않을까요? 자율주행 인공지능 빅데이터가 펼쳐지는 세상이지만 아직도 한국은 아리스토텔레스과의 벤담 칸트 롤스 같은 고전 읽기 수준의 철학을 말한다. 그런 철학자들은 드론이 무슨 뜻인지도 모른다.  지금은 이들이 남긴 철학적 유산을 4차 산업혁명에 맞춰 고도화시켜야 한다. 가상현실과 증강현실이 인간사회에 미치는 영향을 탐구해야 하며, 사물인터넷과 빅데이터가 인권을 침해하는 것이 아니라 인권을 침해할 수 있어야 하며, 로봇과 인공지능이 인간을 대체하는 것이 아니라 인간을 풍요롭게 해야 합니다.  철학적 난제를 피할수록 역시 윤리적 딜레마를 계산하기 쉬운 공리주의에 양보할수록 자율주행차와 4차 산업혁명은 인간에게 재앙이 될 것이다.다른 것

>