트롤리 딜레마

개념
- 윤리학의 사고 실험으로, 필리파 푸트가 제시하고 주디스 자비스 톰슨 및 이후의 피터 엉거와 프란세스 캄이 체계적으로 분석된 신경윤리학의 문제 - 상황에 따른 이성적 판단 VS 윤리적 판단의 문제 - 동일한 상황에서 이성적 판단 VS 윤리적 판단 중 어느것이 옳은가의 문제

Ⅰ. 신경윤리학의 대표적 딜레마 트롤리 딜레마 개요

가. 트롤리 딜레마의 정의

-윤리학의 사고 실험으로, 필리파 푸트가 제시하고 주디스 자비스 톰슨 및 이후의 피터 엉거와 프란세스 캄이 체계적으로 분석된 신경윤리학의 문제

-상황에 따른 이성적 판단 VS 윤리적 판단의 문제

-동일한 상황에서 이성적 판단 VS 윤리적 판단 중 어느것이 옳은가의 문제

Ⅱ. 트롤리 신드롬의 사례

         가. 트롤리 딜레마 사례에 관한 질문

-다음에 대해서 동일한 사람의 집단에게 물었다

구분

설명

사례1

트롤리는 선로를 따라 달려오고 있고, 선로에는 다섯 사람이 있다. 당신은 선로 밖에 서 있고 다섯 사람을 구하기 위해서는 선로변환기를 당기면 되지만 그렇게 되면 다른 선로에 있는 다른 한 사람이 죽게 된다. 선로변환기를 당기는 행위는 도덕적으로 허용 가능한가?

사례2

트롤리는 선로를 따라 달려오고 있고, 선로에는 다섯 사람이 있다. 당신은 선로 밖에 언덕 위에 서 있고, 바로 옆에는 상당히 무거운 사람이 한명 서 있다. 다섯 사람을 구하는 유일한 방법은 옆에 서 있는 사람을 선로 위로 밀쳐서 그 무게로 트롤리를 멈추게 하는 것인데, 이는 도덕적으로 허용 가능한가?

- 트롤리 : 흙이나 바위 등을 운반하는 일종의 화차

나. 트롤리 딜레마 사례에 관한 답변

구분

설명

사례1

피실험자들의 85% 도덕적으로 허용 가능하다 고 답변

사례2

피실험자들의 12% 도덕적으로 허용 가능하다 고 답변

       다. 트롤리 딜레마에 대한 답변의 이유

하버드 대학의 심리학자 조슈아 그린(Joshua Greene)은 이 두 가지 상황을 제시 받은 피험자들의 뇌 활동도를 fMRI(기능성 자기공명영상)를 이용해 조사 비교

구분

정의

판단관점

사례1

스위치만 조작해서 결정을 내리는 경우에는 전전두엽에 활성이 상승

이성적 문제

사례2

무언가 살냄새 나고 피냄새 나는 적극적 행동이 필요한 경우에는 편도체(amygdala) 부위의 활성

정서적 문제

 

Ⅲ. 트롤리 딜레마와 유사한 신경윤리학 문제 사례

-인공지능 및 원격제어와 관련된 알고리즘의 작성시 트롤리 딜레마의 문제를 어떻게 처리해야 할지 ISSUE 사항임 (이성적 판단 VS 윤리적 판단)

구분

정의

연관 기술

사례1

드론 조작 병사는 수백 수천 명의 사람을 죽일 수 있는 포탄을 쏠 때도 감성적 판단이 개입할 여지가 없어졌고, 오로지 명령을 수행했을 뿐이라는 데에 윤리적 갈등을 미루어버림

무기로서의 드론 제어

사례2

자율주행 자동차의 제어문제

고속이동 차량 앞에 다수의 사람등장(어린아이 포함). 회피 어려우며 회피시 운전자 사망위험 큼. 차량은 전방의 다수의 사람과 운전자중 희생자를 골라야 함

자율주행 자동차의 긴급상황 제어

-정서적 판단의 개입이 줄거나 인공지능같이 정서적 판단 없는 기계에 의한 판단의 경우 상황에 따라 윤리적인 문제가 발생가능하며 이를 기계의 알고리즘으로 이성적으로만 해결할 경우 보편적 윤리와 상충함

 

Ⅳ. 도적적 판단의 기준

-생물학자 마크 하우저는 사람의 도덕적 판단은 이성이나 이론보다는 직관이나 감정의 영향을 받고 있다고 주장

구분

설명

행동의 원리

행동함으로써 일어난 폐해(가령 누군가의 죽음)는 행동하지 않아 일어난 폐해보다 더 비도덕적이라고 판단받는다

의도의 원리

의도적으로 한 행동이 의도적이지 않은 행동보다 더 비도덕적이라고 판단받는다

접촉의 원리

직접적 신체 접촉이 수반되는 위해가 그렇지 않은 위해보다 더 비도덕적이라고 판단받는다.

Ⅴ. 현대 사회의 인간의 문제

이슈

정보 혁명을 겪고 있는 21세기에는 점점 더 사람과 사람의 직접적 만남과 교류가 줄어들고, 모든 것은 기계라는 인터페이스를 통해 이루어집니다.(SNS) 이런 환경의 변화 속에서 정서적 뇌가 판단과 결정에 관여할 기회가 점점 더 줄어들고 있다는 것은 분명 우려

현대인 스스로가 이러한 인터페이스를 통한 만남을 선호하고 있다는 것입니다. 사회가 복잡해지고 이해관계가 얽혀갈수록, 사람들은 신속하고 손쉬운 결정을 내리기를 원합니다. 그런 와중에 감성적 판단까지 끼어들어 상황을 복잡하게 만든다면 더욱 스트레스가 가중

사람들이 감성적 판단을 배척하고, 이성적 판단만을 신봉하는 것입니다. 이를 위해 우리 스스로 서로 간에 벽을 쌓고 있는 것이고요. 해고 통지가 핸드폰 문자 메시지로 전해지고, 암 선고가 이메일로 보내짐

Ⅵ. 모랄 머신(Moral Machine)의 개념

-MIT 공대 lyad Rahwan의 Scalable Cooperation 그룹이 개발한 온라인 플랫폼으로 도덕적 딜레마를 발생시키고 사람들이 두 가지 결과 사이에서 내린 정보를 수집하여 분석.

-시나리오는 트롤리 딜레마의 다양한 사례를 활용하며, 수집된 정보는 향후 기계학습이 갖추고 있어야 할 도덕적 가치를 부여하는 데 이용됨

댓글