로봇 3원칙과 자율주행자동차 한국교통연구원 ‘월간교통’ 2022년 6월호 2022년 6월 20일 한우진 (교통평론가, 미래철도DB운영자) [email protected]
로봇 3원 법칙이라는 게 있어. 로버트 하인라인, 아서 클라크와 함께 SF3대 작가로 불렸던 아이작 아시모프가 1942년 제창한 원칙이다. 1. 로봇은 인간을 다치게 해서는 안 되며 인간이 해를 입는 것을 방관해서는 안 된다.
2. 원칙 1을 위반하지 않는 한 로봇은 인간의 명령을 따라야 한다.
3. 원칙 1과 2를 위반하지 않는 한 로봇은 스스로를 보호해야 한다.아시모프는 로봇이 일상화된 미래세계를 상상하면서 이런 원칙을 제시했지만 사실 풀어 쓰면 사람이 사용하는 기계에 일반적으로 적용할 수 있음을 알 수 있다. 인간을 해치지 않게 한다는 것은 기계의 안전성을 의미하고, 인간의 명령을 따른다는 것은 기계가 정해진 기능을 제대로 해야 한다는 것이다. 마지막으로 스스로를 보호한다는 것은 결국 고장이 잘 나지 않도록 튼튼하게 해야 한다는 뜻이다.
이처럼 로봇 3원 규칙은 이해하기 쉽고 기존에 쓰던 개념과도 연속성이 있어 많은 사람들이 쉽게 받아들일 수 있었다. 인공지능처럼 미래의 기계를 만들려는 사람들에게 큰 영감을 준 것은 물론이다.
자율주행차, 어떤 원칙으로 만들어져야 할까?반면 현재 교통분야에서 가장 주목받고 있는 ‘로봇’이라면 자율주행차를 꼽을 수 있다. 자율주행 자동차를 만들 때도 명확한 원칙이 필요하며 로봇 3원 규칙이 그 힌트가 될 수 있다.
그러나 자율주행차에 실제 로봇 3원 규칙을 적용하면 여러 난관이 생긴다. 일단 인간에게 상처를 주지 말라고 했으니 자율주행차는 교통법규를 준수하고 최대한 안전하게 운전할 것이다. 하지만 때로는 확실히 인간이 다치는 상황이 오기도 한다. 기계가 모든 것을 예측하고 피할 수는 없기 때문이다. 이때 자율주행자동차는 어떤 선택을 할까.
갑자기 나타난 보행자를 피하려고 급격한 조향을 할 경우 차량이 전봇대에 부딪혀 운전자가 죽을 수도 있다. 그렇다면 자율주행차는 그저 보행자를 치는 것을 선택하는 것일까? 어느 쪽의 생명을 선택할지 결정하는 기준은 무엇인가?
실제 아시모프 원작 영화 ‘아이, 로봇’에서는 로봇이 물에 빠진 아이와 주인공(윌 스미스 분) 중 주인공을 구했다. 당시 주인공은 아이를 구하라고 명령했지만 로봇은 이를 무시했다. 주인공의 생존 확률이 높았기 때문이다.
마찬가지로 자율주행자동차는 어떤 판단을 내릴까. 생존 확률을 어떻게 계산할 수 있는가? 자신의 주인인 운전자가 중요한가, 차보다 약자인 보행자가 중요한가? 이쯤 되면 공학을 떠나 철학 문제에 돌입하게 된다.
제2원칙도 모호하기는 마찬가지다. 인간의 명령을 따르라는데 인간의 기준은 무엇인가. 자율주행차 소유자 뿐인가? 주차장에서 잠시 차를 빼달라는 다른 운전자의 말을 들어야 하나. 그 사람이 속이고 있는지도 몰라. 자동차 회사와 정부 기관의 의견이 다를 때는 누구를 따라야 하는가. 역시 쉽게 결정하기 어려운 문제다.
여기에 자율주행차가 네트워크를 형성하면서 전략적 사고를 할 수 있게 되면 상황은 더욱 복잡해진다. 1원칙에 따르면 인간을 다치게 해서는 안 된다지만 이를 극단적으로 확장하면 전 세계 모든 자율주행 자동차가 멈춰버릴 수도 있다. 자동차가 주행하면 어떤 형태로든 교통사고가 발생하지만 아예 움직이지 않으면 사고도 발생하지 않는다는 논리다. 이러한 논리의 폭주를 방지할 수 있는가?
로봇 3원칙이 이처럼 모순과 이야기거리를 만들어내는 이유는 학계나 표준화 기구에서 엄밀히 정의한 것이 아니라 작가가 상상력을 바탕으로 만들어낸 것이기 때문이다. 그만큼 한계가 있을 수밖에 없다. 작가 자신조차도 로봇 3원칙이 서로 충돌했고, 그 속에서 갈등하는 로봇과 인간의 이야기를 많이 남겼다.
교통혁명을 일으키는 핵심 아이템 ‘자율주행차’ 최근 이어지고 있는 반도체 부족 사태(쇼티지)는 우리 자동차가 이미 얼마나 지능화되어 있는지를 깨닫는 계기가 됐다. 여기에 앞서 소개한 네트워크로 연결된 자동차라는 개념은 이미 ‘커넥티드카’ 형태로 우리 앞에 바짝 다가섰다.
자율주행차는 향후 교통의 모습을 근본부터 바꿀 ‘핵심 아이템’으로 꼽힌다. 자율주행차 시대의 특징은 운전이라는 판단을 기계에 넘기게 된다는 점이다. 그러나 생명을 다룬다는 자동차의 특성은 변하지 않는다. 결국 기계가 사람의 생명을 다루는 시대가 다가오고 있는 셈이다.
그동안 자동차는 부작용도 있었지만 인류문명을 크게 발전시켜 왔다. 앞으로도 이 같은 긍정적 역할을 지속하려면 자율주행차에 대한 명확한 원칙이 세워져야 한다. 그리고 이것은 로봇 3원 법칙처럼 누구나 쉽게 이해할 수 있다면 더 좋을 것이다. 빠르게 발전하는 자율주행차 기술에 맞춰 그에 대한 명쾌한 원칙도 함께 확립되길 기대한다.*
https://vo.la/Fcy4GM 월간교통 2022-06 저자 한국교통연구원 발간일자 2022-06-20 발행기관 한국교통연구원 언어/쪽수 국문/80Page(s) 키워드 월간교통, 새정부, 교통정책, 국정과제, 정책제언, 광역도시교통, 도로교통, 항공교통, 물류, 지역균형발전, 전기차, 자율주행자동차, 차선폭, 설계기준, 피지컬인터넷 로드맵, 모빌리티 가격 5,000 구매 다운로드 월간교통 2022년 6월호.pdf주요내용 목차 최신자료/인…vo.la 세종특별자치시청대로 370