[자료조사] 자율주행자동차와 윤리적 쟁점
[선택에 따른 윤리적 딜레마]
1. 인공지능 자율주행차 시대가 열림에 따라 이에 대한 논의가 활발
: 프로그래머 | 정부의 정책 결정자에 의해 짜인 프로그램대로 움직이기 떄문
: 우리의 논의에 달린 문제임
[윤리적 논의를 담은 연구]
# 2015년 MIT 저널에 소개된 프랑스 툴루즈 경제대 연구원 J.F 보네퐁의 논문
: 다수의 사람들은 설령 운전자가 희생되더라도 다수를 구하는 것이 좋다고 응답
# 2018년 10월 24일 세계적인 과학저널 ‘네이처’에서는 233개 국가, 230만명을 대상으로 한 조사 결과
-연구팀은 탑승자와 보행자의 성별과 숫자, 애완동물 동승 등 조건으로 13가지 시나리오 만듬
-1. 상황에 따른 응답자의 선택?
; 남성<여성,
; 성인 남성<어린이나 임산부,
동물<사람,
소수 < 다수,
노인 < 젊은 사람,
무단 횡단자 < 준법자
-2. 동서양 응답자의 선택 경향도 다르게 나옴
#서구권
: 사람 수가 많을 경우, 어린 아이나 몸이 약한 사람을 구하는 쪽 선호
#동양권
: 보행자와 교통 규칙을 지키는 쪽이 더 안전해야 한다는 선택
Q. 다수의 사람들이 옳다고 판단한 쪽이 절대적으로 옳은 선택인가?
상황에 닥쳤을 때 내리는 본능에 의한 즉각적인 결정
vs
멀리서 상황을 바라보며 내리는 결정
let, 실제로 상황이 발생할 경우
인공지능의 도덕적 판단 != 인간의 심적 상태
지금의 응답 != 상황에 속하게 되었을 때 본인의 본응이 내리는 결정
Q. AI는 지금까지 방대한 데이터의 축적이나 인간의 지시에 의해 움직이고 있었지만,
현재는 ‘딥러닝’이라고 하는 판단까지 스스로 학습하는 능력이 개발되고 있다.
향후 AI는 도덕관을 포함한 판단조차 ‘학습’을 할 수 있을까?
# ‘광차 문제’에 대해 자동차 회사들의 반응
아우디 측 관계자)
첫머리의 MIT 실험에 대해 "가치가 있다"고 전제
-> "자율주행차가 사고를 낼 확률은 기존보다 낮아지겠지만 로봇이 관련된 사건에는 더 주의를 기울일 필요가 있다“
볼보 측 관계자)
”당사 개발의 자율주행차에 대해 모든 책임을 지겠다“고 공약
일본의 상황)
자율주행차의 6개 레벨 중 운전자가 필요 없고 완전히 AI가 운전을 맡는 것은 레벨 4 이상.
시시각각 변하는 경치 속, 사람이나 표지판, 도로, 주위의 가게, 가로수 등
다양한 것을 한순간에 식별·판단하고, 그것들에 대해 적절한 반응을 해야 함
= 매우 고도의 지능과 정보처리 능력이 필요
AI의 윤리적 쟁점
AI 자체를 윤리적 행위자로서 수행 행위의 윤리성과 관련짓는 것 x,
AI를 제작하는 설계자와 활용하는 소비자를 중심으로 AI가 산출하는 '결과물'을 관련짓는 것
; 자율주행차의 AI윤리는 자율주행차라는 널리 사용되는 용어에도 불구하고
'자동차가 자율적으로 결정'하는 상황에 대한 윤리적 판단과는 무관
자율주행차 AI의 알고리즘을 설계하는 사람들
그 자동차를 생산하는 사람들
그 자동차를 사용하는 사람들
그 자동차가 운행하는 환경 속 보행자들의 윤리적 판단과 그들에게 미치는 영향
...
등과 관련
# 알고리즘 설계 시 '윤리적 판단' 미리 결정돼야
실제) 기술적으로 불완전한 3단계, 4단계 자율주행차가 여러 경로로 조금씩 도입되며
사회 전체의 교통 시스템에 점진적으로 통합되는 방식일 수밖에
=> (-) 교통사고 증가
따라서,
자율주행차 알고리즘은 어떤 조건 아래에서 어떤 판단-행동을 하는지 '미리 결정'해 두는 방식으로 설계.
사고가 일어나는 찰나)
인간의 직관적 판단-행동에 의해 좌우되는 기존 자동차
<->
진정한 의미의 자율주행차는 사고 상황에서 인간의 개입 없이 판단-행동해야
즉 대중적으로 잘 알려진 선택의 문제
: '자율주행차가 운전자와 보행자 중 어느 한 사람밖에 구할 수 없다면 어떤 사람을 구하도록 프로그램해야 하는가'의 문제
: 설계 과정에서 미리 결정이 이루어져야.
=
자율주행차가 운전자와 보행자 중 누구를 살릴 것인지 윤리적 고민을 하는 상황과는 전혀 관련 x.
그보다는 자율주행차의 도입방식과 제도적 관리방안에 대한 사회적 판단, 실천에 밀접하게 관련
자율주행차의 AI 윤리를 논의할 때 이 트롤리 문제는 이론 윤리학적 쟁점 해소를 기다릴 사안 x
사회적 차원)
우리가 자율주행차를 도입해야 할지 /
도입한다면 어떤 조건에서 어떤 방식으로 운행해야 할지 /
자율주행차와 관련된 사고 상황에 작동할 알고리즘 설계 시 어떤 제도적 조건을 부과할지
=> 실천 윤리적 문제
결국 AI 윤리는 추상적인 이론 논의를 배경 ->
구체적인 문제를 차근차근 사회적 논의->
우리 사회에서 존중되는 여러 이론적 가치를 반영하는 방식으로 해결돼야
=
AI 윤리를 위한 실천적 노력이 필요하다.
출처 : 뉴스H(http://www.newshyu.com)
AI타임스(http://www.aitimes.com)
참고)
*본 윤리 가이드라인은 자율주행차 운행에 관련된 윤리적 명제에 대한 결론을 내리는 것보다는,
상용화에 걸림돌이 될 수 있는 윤리적 문제의 방지를 위한 방향을 제시한다는 차원에서 제정의 의의가 있음