자율주행차가 브레이크 고장으로 멈출 수 없는 상황에 놓였다. 왼쪽으로 핸들을 꺾으면 보행자 한 명이 사망하고, 오른쪽으로 가면 탑승자인 나 자신이 목숨을 잃는다. 이것은 더 이상 공상과학 소설 속 가상의 상황이 아니다. 자율주행 기술이 고도화될수록 우리는 이런 극단적 선택의 순간을 AI에게 맡겨야 한다. 그렇다면 누가, 어떤 기준으로, 이 기계의 도덕적 판단을 설계할 것인가.
고전 철학 문제의 재림
1967년 영국 철학자 필리파 풋이 제시한 트롤리 딜레마는 반세기가 넘도록 윤리학계를 괴롭혀왔다. 제어 불능 상태의 전차가 다섯 명을 향해 달려갈 때, 선로 전환 스위치를 당겨 한 명만 희생시키는 선택이 정당한가. 이 오래된 사고실험은 자율주행차 시대에 들어 현실적 난제로 돌아왔다. MIT 미디어랩의 '모럴 머신' 실험은 233개국 230만 명으로부터 4천만 건의 선택을 수집했다. 동물보다는 사람, 소수보다는 다수, 노인보다는 젊은이를 구해야 한다는 응답이 많았지만, 문화권마다 우선순위가 달랐다. 한국을 포함한 동아시아 국가들은 연령보다 교통 규칙 준수 여부를 더 중요하게 여겼다.
그러나 전차 딜레마와 자율주행차 딜레마 사이에는 결정적 차이가 있다. 인간 운전자라면 공포 속에서 반사적으로 핸들을 꺾을 것이고, 법은 이런 긴급 상황의 본능적 행위에 대해 책임을 끝까지 묻지 않을 수도 있다. 하지만 자율주행차의 선택은 이미 사전에 설계된 알고리즘이다. '만약 A라면 B를 선택하라'는 조건문으로 구현된 순간, 그것은 더 이상 즉흥적 판단이 아니라 누군가의 의도적 결정이 된다.
시장이 내린 판결
독일 정부는 2017년 세계 최초로 자율주행차 윤리 가이드라인을 발표했다. 인명 피해 회피가 재산 피해보다 항상 우선이며, 연령·성별·신체 특성에 따라 생명을 차등 평가해서는 안 된다는 원칙이었다. 지극히 칸트적인, 인간 존엄성을 최우선에 둔 기준이다. 하지만 이런 원칙이 실제 자율주행차 제조에 그대로 적용될까.
현실은 다르다. 한 연구에 따르면 대다수 사람들은 설문조사에서 "사회 전체의 희생을 최소화하는 공리주의적 자율주행차가 필요하다"고 답했다. 그러나 정작 자신이 그런 차를 살 것이냐는 질문에는 망설였다. 왜 돈을 내고 나를 희생시킬 수 있는 차를 사야 하는가. 제조사 입장에서 선택은 명확하다. A안(탑승자 최우선 보호)으로 출시하면 소비자들이 산다. B안(피해 최소화)으로 출시하면 시장에서 외면받는다. 결국 시장논리가 윤리적 판단을 압도한다.
하버드대 철학자 마이클 샌델은 시장이 원래 속하지 않았던 영역으로 팽창하면서 도덕적 가치가 밀려나는 현상을 경고했다. 시장은 효율적 자원 배분을 추구할 뿐, 선택의 도덕적 가치를 따지지 않는다. 자율주행차 제조사가 던질 수 있는 유일한 질문은 "어떤 알고리즘이 더 많이 팔릴까"일 뿐이다. 보행자의 생명은 '운이 나쁜 것'으로 치부된다.
누구의 손에 쥐어진 운전대인가
문제는 이것이 단순히 자율주행차에만 국한되지 않는다는 점이다. 채용 알고리즘, 대출 심사 AI, 사법 판결 보조 시스템까지, 우리는 점점 더 많은 의사결정을 기계에 위임하고 있다. 그리고 그 기계의 판단 기준을 설계하는 것은 대부분 시장의 수요와 공급이다. 알고리즘 속에는 누군가의 가치관이 코드로 새겨진다. 그것이 정의로운 것인지, 공정한 것인지, 인간 존엄성을 지키는 것인지는 부차적 문제가 된다.
자율주행이 확산될수록 핵심 질문은 '얼마나 더 편리한가'에서 '누가, 어떤 기준으로, 어떤 책임을 지는가'로 이동한다. 기계가 주행을 맡는 시대에 책임의 운전대는 과연 누구의 손에 쥐어져 있어야 하는가. 샌델이 강조했듯, 우리에게 필요한 것은 시장논리를 넘어선 공개적 토론이다. 무엇이 시장에 속한 영역이고 무엇이 시장과 거리를 두어야 할 영역인지, 어떤 가치를 우선할 것인지를 함께 숙고해야 한다.
자율주행차는 지금 우리에게 묻고 있다. AI의 양심은 제조사가 정할 것인가, 시장이 정할 것인가, 아니면 우리 모두가 함께 만들어갈 것인가. 도로 위의 알고리즘에 새겨질 가치는 결국 우리 사회가 어떤 공동체를 원하는지에 대한 답이 될 것이다.
