곧 완전 자율주행차 시대가 올 것 같습니다.
현재까지 자율주행차는 부분 자율주행과 조건부 자율주행차, 즉 레벨2와 레벨3에 머물렀지만 혼다자동차가 2021년 세계 최초로 레벨3 자율주행차를 대량 생산했고 테슬라도 21년 안에 레벨5 자율주행 기술을 완성하겠다는 계획을 발표했습니다.
자율주행차 5단계인 현대차도 2021년까지 스마트시티 내 4단계 수준의 도심형 자율주행 시스템을 상용화하고 2030년까지는 완전 자율주행 기술을 상용화할 계획이라고 합니다.
현대차의 자율주행 이런 자율주행차 시대가 도래하면서 자율주행차의 트롤리 딜레마가 화제가 되고 있습니다.
예를 들어 자율주행 중인 차량이 운행 중 탑승자의 생명이 위험한 상황에 놓인 경우에는 당연히 이를 피하려고 핸들을 돌릴 텐데, 이 경우 핸들을 돌리는 방향에 있던 보행자가 있다면 자율주행 시스템은 어느 쪽을 선택해야 할까요?
또 직진하면 앞에 있는 대형트럭과 부딪힐 위기에 처해서 왼쪽이나 오른쪽으로 핸들을 돌려야 하는데 왼쪽에는 아이가, 오른쪽에는 노인이 있으면 어느 방향으로 핸들을 돌려야 하나요?
트롤리 딜레마는 이와 마찬가지로 다수를 구하기 위해 소수를 희생해도 되는지를 판이 있어야 하는 문제 상황을 가리키는 말입니다.트롤리 딜레마의 문제는 다음과 같습니다.
브레이크가 고장난 전철이 질주하고 있습니다.
브레이크가 고장난 트롤리 기차인데 기차(트롤리)가 질주하는 방향의 레일 위에는 5명의 인부가 일을 하는데 기차가 방향을 바꾸지 않고 그대로 달리면 5명의 인부는 죽게 됩니다.
유일한 방법은 전철의 방향을 바꾸는 것이지만, 다른 방향의 레일 위에도 1명의 작업자가 일하고 있습니다. 그래도 전철 방향을 바꾸시겠습니까?
트롤리 딜레마 트롤리 문제는 영국의 윤리철학자 필리파 푸트가 제안한 것으로 응답자의 89%가 방향을 바꿔야 한다고 답했다고 합니다.
즉, 요약하자면 5명을 살리기 위해 1명을 죽여도 되는가의 문제가 바로 트롤리의 딜레마입니다.
최대다수의 행복을 목적으로 하는 공리주의적 관점에서는 당연히 1명을 희생하더라도 5명을 구해야 하지만 정해진 답은 아닙니다. 정답은 없는 문제입니다.
이 트롤리의 딜레마에서 파생되는 문제도 있습니다.
당신은 육교 위에서 전철이 달리는 모습을 지켜보고 있습니다. 그런데, 이 열차는 역시 브레이크가 고장나서 무서운 속도로 달리고 있습니다만, 달리는 방향의 레일 위에는 5명의 작업자가 일하고 있습니다.
방향을 바꿀 레일도 없기 때문에 뭔가 무거운 것을 떨어뜨리고 전철을 멈춰야 합니다. 그런데, 육교 위에는 뚱뚱한 사람이 1명 있는데, 이 사람을 육교 아래로 밀 경우 전철을 멈출 수 있습니다.
이 경우, 당신은 뚱뚱한 사람을 눌러 5명을 구합니까?
트롤리의 딜레마 파생 문제 이 문제는 미국 철학자 주디스 톰슨이 트롤리의 딜레마에 이어 추가적으로 제기한 문제입니다.
기존의 트롤리 딜레마와 마찬가지로 1명을 희생해서 5명을 구하는 것이나, 이 문제에 대해서는 응답자의 78%가 뚱뚱한 사람을 육교 아래로 밀어서는 안 된다고 대답했다는 것입니다.
두 문제의 답변이 완전히 상반되는데 공리주의에 따르면 당연히 한 명을 희생해서 다섯 명을 살려야 합니다.
그러나 두 질문의 차이점은 트롤리 딜레마에서 한 사람의 죽음은 행위자의 의도와 상관없이 어쩔 수 없는 결과이지만 파생 문제에서는 행위자의 직접적인 행위로 한 사람의 죽음이 발생한다는 점이 다릅니다.
실제로 파생문제와 같은 상황이 발생하면 대부분의 사람들은 5명이 죽도록 방치할 가능성이 매우 높습니다.
신경윤리학자 조슈아에 따르면 이는 사람을 직접 죽일 때는 사람의 뇌에 사악한 부정적 반응이 나타나기 때문이라고 합니다.
이처럼 사람의 경우에도 쉽게 결정할 수 없는 윤리적 선택을 과연 인공지능이 어떻게 할 것인지에 대한 문제가 자율주행차에 남아 있는 것입니다.
즉 트롤리 딜레마는 자율주행차가 실제 상용화되기 위해서는 기술뿐만 아니라 윤리적 가치까지 판단해야 하는데, 이는 사실상 불가능하기 때문에 무사고에 이를 정도의 기술을 개발하거나 전용차로 등 통제된 환경을 구축해 변수를 최소화해야 함을 시사하고 있습니다.