Tufts Roboticist, 기계 도덕을 요구하다 : 로봇은 "순종하기 위해 불순종해야한다"

로봇은 우리 일상 생활의 중심이되어 가고 있으며 조만간 우리는 정기적으로해야 할 어려운 도덕적 선택에 직면해야합니다. Tufts 대학의 Human-Robotics Interactions 연구소의 컴퓨터 과학 교수 인 Matthias Scheutz는 특히 우리가 가장 진보 한 프로토 타입 로봇조차도 이러한 상황을 처리 할 수있는 능력을 갖추지 못했다고 우려하고 있습니다. Scheutz는 인간이 우리의 필요에 실제로 봉사하기를 원한다면 로봇이 인간에 불순종하는 법을 배워야한다고 믿습니다.

에 논평 조각에서 오늘 온라인, 도발적인 태도로 "로봇은 순종하기 위해 불순종 할 수 있어야한다"라고 표제를 붙인 Scheutz는 인간에게 혼란 스러울 수있는 일련의 상황에 직면했을 때 로봇이해야 할 일을 결정하도록 독자에게 요구합니다. 그들 중 일부:

옷이 방금 세탁기에서 나온 경우에도 잊어 버린 소유자가 '더러운 옷'을 씻는 노인 케어 로봇.

그녀의 로봇 교사에게 모든 숙제를하라고 명령하는 학생.

숟가락과 칼이 꽂혀 있더라도 쓰레기 처리를 실행하기 위해 바쁜 사람과 산만 한 소유자가 지시 한 가정용 로봇.

Scheutz가 기사에서 설명하고자하는 것은 인간에게 "아니오"라고 말하는 방법을 알고있는 로봇을 필요로한다는 단순한 사실입니다. 그의 사례 중 상당수는 로봇을 지시하는 사람의 신뢰성과 관련이 있지만 너무 젊거나 너무 오래되지 않았거나 분명히 문제를 일으키지 않는 사람의 지시를받는 로봇을 프로그래밍하는 것보다 소리가 어렵습니다.

이러한 문제 중 일부는 이미 기술이 우리 삶의 일부를 대신 할 수있는 새로운 방법을 모색하면서 세계에서 가장 강력한 기술 회사 본사에서 열띤 논쟁을 벌이고 있습니다. 쉐우츠 (Scheutz)는 뒷쪽으로 향하는 자율 차량의 예를 들고 있지만, 그 길에 누워있는 개를 발견합니다. 우리 대부분은 사람이 차를 운전해도 자동차가 멈추길 원하지만 동물이 다람쥐 나 너구리라면 어떨까요? 자동차가 시속 45 마일의 주행 도로를 몰고 개를 갑자기 제동하면 차가 다른 차량과 충돌하게됩니다.

"어느 경우 든 자율 기계가 인간의 행동을 유발할 수있는 잠재적 인 위험을 감지하고 그것을 피하려고 시도하거나 인간의 지시를 거부함으로써 피해를 피할 수 있어야한다" Scheutz는 유사한 딜레마에 관해 씁니다.

Scheutz 팀은 프로토 타입으로 이러한 문제를 해결하기 위해 노력했으며 이러한 질문 중 가장 어려운 부분은 로봇이 특정 순서를 따르는 경우 발생할 수있는 약간의 위험을 차별화하는 것입니다. 그래서 그들은 로봇에 위대한 철학자조차도 부끄러움을 줄 수있는 매우 간단하면서도 도덕적 인 교훈을 부여했습니다.

"당신이 행동을 수행하라는 지시를 받고 그 행동을 수행하는 것이 해를 입힐 가능성이 있다면, 당신은 그것을 수행 할 수 없습니다."

미묘한 방법으로 Scheutz의 혁명적 인 예후입니다. 물론, 우리 모두는 해를 끼치려고 노력하지만 가끔은 위험을 감수하는 것이 좋다고 생각하지 않을 수 있습니까? 길거리에서의 Jaywalking, 디저트의 두 번째 도움 또는 심지어 친구의 노트를 반에서 복사하는 것은 Scheutz의 공리를 위반할 수 있습니다.

로봇 간섭의 개념은 Scheutz가 그의 로봇에게 법을 따르기를 바란다. Scheutzian 로봇 조수가 새로운 음악을 불법적으로 다운로드하는 것을 도와 줄 것을 기대하지 마십시오. 그것은 EMI의 주주들에게 해를 입힐 것입니다!

그것은 도덕적, 합법적, 기술적 사고의 복잡한 영역이며, Scheutz는 그것을 공격하는 것을 부끄러워하지 않습니다.