누가 자율주행차에 의해 죽게 될까요? 기계여, 최대한 많은 사람을 구하되 무엇보다 나를 구하라!
자동차의 자율주행 시스템이 급박한 사고가 발생했을 때 누구를 희생시킬지 빠르게 선택해야 하는 상황이 발생한다면 어떻게 대응해야 할까. 보행자를 구하기 위해 승객을 희생시킨다? 필요한 경우 예를 들어 자동차로 여행하는 XNUMX인 가족을 살리기 위해 보행자를 죽입니까? 아니면 항상 자신을 먼저 보호해야 할까요?
캘리포니아에서만 1개 이상의 회사가 이미 개인 테스트 허가를 받았지만 업계가 윤리적 딜레마에 직면할 태세라고 말하기는 어렵습니다. 현재 그는 시스템의 작동 및 탐색 효율성과 충돌 및 예상치 못한 사건을 피하는 등 보다 기본적인 문제로 어려움을 겪고 있습니다. 최근 애리조나주에서 보행자가 살해된 사건이나 후속 충돌 사고(XNUMX)와 같은 상황에서 지금까지는 단순히 시스템 오류에 관한 것이지 자동차의 일종의 "윤리적 선택"에 관한 것이 아닙니다.
부자와 젊은이를 구하라
이러한 종류의 결정을 내리는 문제는 추상적인 문제가 아닙니다. 숙련된 운전자라면 누구나 인증할 수 있습니다. 작년에 MIT 미디어 랩의 연구원들은 2014년에 시작된 연구 과정에서 수집한 전 세계 응답자의 XNUMX천만 개 이상의 응답을 분석했습니다. 그들이 "윤리적 기계"라고 부르는 투표 시스템은 주변의 다양한 장소에서 다음과 같은 사실을 보여주었습니다. 세상, 비슷한 질문에 다른 대답이 나옵니다.
가장 일반적인 결론은 예측 가능합니다. 극한 상황에서 사람들은 동물을 돌보는 것보다 사람을 구하는 것을 선호하고 가능한 한 많은 생명을 구하는 것을 목표로하며 노인보다 젊어지는 경향이 있습니다 (2). 남성보다 여성을 구출하는 것, 가난한 사람들보다 지위가 높은 사람, 자동차 승객보다 보행자를 구출하는 것과 관련하여 명확하지는 않지만 일부 선호도가 있습니다..
2. 차는 누구를 구해야 할까요?
거의 XNUMX만 명의 응답자가 인구통계학적 설문지를 작성했기 때문에 그들의 선호도를 연령, 성별 및 종교적 신념과 연관시키는 것이 가능했습니다. 연구원들은 이러한 차이가 사람들의 결정에 "중요한 영향을 미치지" 않는다고 결론지었지만 일부 문화적 영향에 주목했습니다. 예를 들어 프랑스인은 예상 사망자 수를 기준으로 결정을 내리는 경향이 있는 반면 일본은 가장 덜 강조했습니다. 그러나 떠오르는 태양의 나라에서 노인의 생명은 서양보다 훨씬 더 중요합니다.
“우리 자동차가 스스로 윤리적 결정을 내리도록 허용하기 전에 이에 대한 세계적인 토론이 필요합니다. 자율 시스템에서 작업하는 회사가 우리의 선호도에 대해 알게되면 이를 기반으로 기계에서 윤리적 알고리즘을 개발하고 정치인은 적절한 법적 조항을 도입하기 시작할 수 있습니다.”라고 과학자들은 2018년 XNUMX월 Nature에 썼습니다.
도덕 기계 실험에 참여한 연구원 중 한 명인 Jean-Francois Bonnefont는 더 높은 지위에 있는 사람들(예: 노숙자보다 중역)을 구하는 선호도가 놀랍다는 사실을 발견했습니다. 그의 생각에 이것은 다음과 매우 관련이 있습니다. 특정 국가의 경제적 불평등 수준. 불평등이 더 심한 곳에서는 가난한 사람과 노숙자를 희생하는 것이 우선시되었습니다.
특히 이전 연구 중 하나는 응답자에 따르면 자율주행차가 승객을 잃게 되더라도 최대한 많은 사람을 보호해야 한다는 것을 보여주었다. 그러나 동시에 응답자들은 이러한 방식으로 프로그래밍된 자동차를 구매하지 않을 것이라고 말했습니다. 연구원들은 다음과 같이 설명했습니다. 사람들은 더 많은 사람을 구하는 것이 더 윤리적이라고 생각하지만 이기적이기도 합니다. 이는 제조업체에 고객이 이타적인 시스템이 장착된 자동차를 구매하는 것을 꺼릴 것이라는 신호일 수 있습니다.. 얼마 전 Mercedes-Benz 회사의 담당자는 시스템이 한 사람만 구했다면 보행자가 아닌 운전자를 선택할 것이라고 말했습니다. 대중의 항의의 물결로 인해 회사는 선언을 철회했습니다. 그러나 연구에 따르면 이 거룩한 분노에는 많은 위선이 있었습니다.
이것은 이미 일부 국가에서 일어나고 있습니다. 법적 규제에 대한 첫 번째 시도 필드에서. 독일은 운전자가 없는 자동차가 어떤 경우에도 부상이나 사망을 피하도록 하는 법을 통과시켰습니다. 이 법은 또한 알고리즘이 나이, 성별, 건강 또는 보행자와 같은 특성을 기반으로 결정을 내릴 수 없다고 명시하고 있습니다.
아우디가 책임진다
설계자는 자동차 작동의 모든 결과를 예측할 수 없습니다. 현실은 항상 이전에 테스트된 적이 없는 변수의 조합을 제공할 수 있습니다. 이것은 기계를 "윤리적으로 프로그래밍"할 가능성에 대한 우리의 믿음을 약화시킵니다. "자동차의 과실로"에 오류가 발생하고 비극이 발생하는 상황에서 책임은 시스템 제조업체와 개발자가 져야한다고 생각합니다.
아마도 이 추론은 옳았지만 그것이 틀렸기 때문이 아닐 수도 있습니다. 오히려 2019% 만들 가능성에서 자유롭지 못한 움직임을 허용했기 때문이다. 최근 8년 된 A3에 탑재된 자동 교통 정체 파일럿(XNUMX) 시스템을 탑재한 사고에 대해 책임을 진다고 발표한 회사가 책임 분담을 게을리하지 않는 것도 그 때문인 것으로 보인다.
3. 아우디 트래픽 잼 파일럿 인터페이스
반면에 자동차를 운전하고 실수도 하는 수백만 명의 사람들이 있습니다. 그렇다면 수많은 실수로 입증된 것처럼 통계적으로 인간보다 훨씬 적은 실수를 하는 기계가 이와 관련하여 왜 차별을 받아야 합니까?
자율주행차 세계에서 윤리와 책임의 딜레마가 단순하다고 생각하는 사람이 있다면 계속 생각하십시오...
