자율주행, 우려되는 부분은?

완벽한 자율주행이 가능하느냐의 문제보다 급한 것은?

자율주행시스템에 대한 논란은 꾸준하다. 하지만, 시대의 흐름을 살펴보자면 자율주행은 우리의 삶의 흐름에서 거부할 수 없는 큰 흐름이다. 지금껏 부분적으로 일부 보조적인 역할을 통해 자율주행을 선보이기도 했던 자동차가 이제는 다양한 이름으로 행해지고 있다. 특히, 테슬라(Tesla) 모터스의 이야기는 병주고 약주고 하는 혼란을 야기했다.

지난 7월 초에 세계최초로 자율주행으로 인한 사망사고가 발생했다. 내용은 고속도로를 달리고 있던 테슬라 모터스의 모델 S 차량을 '오토파일럿' 자율주행기능을 사용해 주행하던 중, 좌회전 하던 트럭의 옆면을 들이받으면서 발생한 사망사고이다. 테슬라에서는 이를 '첫번째 자율주행 사망사고' 로 공표하는 동시에, 자율주행 알고리즘이 베타테스트 단계이며 완벽하지는 않다고 덧붙여 설명을 했으며, 자율주행 상황에서라도 급변하는 상황에 대처할 수 있도록 운전자가 최소한의 주의를 기울여야 한다는 것이다. 이에 대해서 일부 업체에서는 테슬라가 아직 완성되지 않은 시스템을 성급히 시장에 내보낸 것은 아니냐는 주장을 하기도 했다.

하지만, 이어서 7월 중순경에는 이 '오토파일럿' 기능에 의해 운전자가 목숨을 구한 경우도 생겼다. 폐색전증을 앓고 있던 남성이 운전 중 극심한 통증을 느껴 테슬라 모델 X의 오토파일럿 기능을 이용해서 35km 떨어진 응급실까지 자율주행을 하여 무사히 도착하여 목숨을 건졌다는 내용을 보면, 아직까지 자율주행기능이 완벽하지는 않다고 하더라도 인간의 삶이 윤택해질 수 있다는 방향으로 흘러가고 있음은 알 수가 있다. 

지금 우리는 자율주행 기능이 완벽하느냐 아니냐, 자율주행이 시각센서를 바탕으로 만들어져야 하느냐 다른 센서에 의한 자율주행이 이루어져야 하느냐를 이야기하는 것이 아니다.

자율주행이 완벽에 가까워질수록, 자율주행을 담당하는 인공지능(AI)의 비중이 커져갈 것이고, 인간과 마찬가지로 어느 하나를 선택해야만 하는 상황에 처했을 경우 어떤 판단을 내리도록 할 것인지에 대한 알고리즘에 대한 토론이 선행되어야 한다는 것이다.

2004년 7월 30일에 국내 개봉한 SF 영화 '아이, 로봇' 을 보면 이에 대한 고민이 인간만의 고민은 아니게 될 것이라는 생각을 하게 된다. 이 영화의 줄거리는 근 미래인 2035년, 지능을 갖춘 로봇에게 생활의 편의를 제공받으며 편리한 삶을 살아가게 되며, 인간의 안전을 최우선으로 하는 '로봇 3원칙'이 내장된 로봇을 신뢰받는 인간의 동반자로 여긴다.

하지만, '끔찍한 사고' 이후에 로봇데 대한 적대감을 갖고 있던 윌 스미스(델 스프너 형사)는 로봇과 관련된 숨은 음모가 있다고 믿고 이를 파헤치는 내용이다. 

이 영화 '아이, 로봇' 에서는 당연하게도 인공지능이 발달된 시대인만큼, 자동차 주행도 자율주행을 할 수 있게 된다. 사실 이렇게 자율주행이 가능한 차량에서 통제된 도로시스템과 함께 고속으로의 주행이 가능하게끔 그려진다. 그리고, 이 장면에서 우리는 자율주행에서 우리가 놓치고 있는 부분은 무엇인지에 대해 생각하게끔 만들고 있다.

1. 자율주행을 하고 있는 차량 사이에서 수동운동을 하게 될 경우

이러한 경우에 과연, 다른 시스템은 제멋대로 통제를 따르지 않는 차량의 정보까지 함께 판단하여 자율주행이 가능한 것인가? 즉, 사고를 방지할 수 있을 것인가에 대한 의문이 든다. 물론, 이때에는 이미 대다수가 자율주행을 하고 있다는 가정 하에 할 수 있는 이야기이다.

2. 누구를 구할 것인가?

분명, 1의 상황에서처럼 돌발상황은 도로위에서 언제든지 펼쳐질 수 있다. 그런 상황에서 인공지능은 과연 누구를 먼저 구하게 될 것인가에 대해 생각해보아야 한다. 이것은, 현재 테스트되고 있으며 사용되고 있는 '자율주행' 이 누구를 먼저 구하게 될 것인가에 대해서 생각하게 만든다.

극중 델 스프너 형사(윌 스미스)가 로봇에 대해 적대적인 감정을 갖게 된 것에는 우연히 발생한 교통사고에서 자신보다 다른 차에 타고 있는 아이를 구해달라고 로봇에게 '명령' 했지만, 이 인공지능 로봇은 확률로만 계산하여 어린 여자아이보다 스프너 형사가 생존할 가능성이 높았기에 '스프너' 형사를 구조한다. 이때부터 스프너 형사(윌스미스)는 로봇을 신뢰하지 못한다.

돌발상황에서 누구를 구할 것인가?

앞서 언급한대로, 도로위에서는 언제라도 돌발상황이 생길 수 있다. 예를 들면 차량의 제어 및 조작이 원활치 못해 인도를 덮쳐야만 운전자가 살 수 있는 상황을 가정해보자. 이러한 상황에서 자율주행의 인공지능 시스템은 인도위의 다른 많은 사람들을 다치게 하더라도 '운전자'를 구할 것인지, 운전자의 안전은 보장하지 못하더라도 다수의 많은 '타인'을 구할 것인지에 대한 갈등을 하게 될 것이며, 이것은 처음 알고리즘을 주입하게 될 인간에 의해 좌지우지 될 것이라고 보여진다.

로봇의 3원칙을 살펴보면 다음과 같다.

1. 로봇은 인간을 다치게 해선 안되며, 행동하지 않음으로써 인간이 다치도록 방관해서도 안된다.

2. 법칙 1에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야만 한다.

3. 법칙 1,2에 위배되지 않는 한 로봇은 스스로를 보호해야만 한다.

과연 자율주행에서는 어떤 원칙이 세워지게 될 것인가에 대해 고민을 해봐야 한다. 물론, 많은 다른 사람이 다치지 않는 경우라면 당연히 운전자를 보호하는 시스템을 하게 되겠지만, 다수의 사람들과 운전자 및 탑승객 중 누구를 구해야 할 것인지에 대한 것은 인공지능이 아닌 '인간' 이 고민하고 정해주어야 할 문제이기 때문이다.

현재도 우리는 도로 위에서 무수히 많은 돌발상황과 함께 다양한 대처를 해나가고 있다. 자율주행 시스템에서 이런 돌발상황에서의 갈등이 생기게 된다면 과연 어떤 판단을 하게 될 것인가? 인간은 기계와 달리 언제라도 통제 불가능한 돌발상황이 발생할 수 있기에 충분히 이런 부분에 대한 이야기가 오가야 한다.

이를테면, 자율주행 3원칙 말이다. 인명은 누구에게나 소중하기에 쉽지 않은 고민이다.