자치적 무기가 불법 명령에 "반대"할 것인가?

Baynazar Mohammad Nazar는 천장이 붕괴되기 시작할 때 수술대에서 의식을 잃었습니다. 4 명의 아버지가 다리에 총을 맞고 전날 병원을 찾은 후 2 일 그의 두 번째 수술을 받고 부상을 치료했습니다. 미국인들이 건물을 파괴하기 시작했을 때, 그에게 일하는 의사들은 할 수있는 한 빨리 스스로 벗어날 수 밖에 없었습니다.

앤드류 퀼티 외교 정책 운영 테이블에 파편으로 덮인 그의 시체 사진이 포함 된 기사에서 Baynazar의 삶과 죽음에 대한 이야기. 바 나자르는 10 월 2 일 아프가니스탄의 쿤두즈에서 국경없는 의사 (MSF라고도 함)가 병원을 강타했을 때 미국이 사망 한 31 명 중 한 명이었다.

고위, 민간인 사상자 파업 이후, 정치인과 전문가들은 그러한 일이 어떻게 일어날 수 있는지, 그것이 다시 일어나지 않도록하기 위해 할 수있는 일을 묻습니다. 때때로 "살인 로봇 (killer robots)"이라고 불리는 자율 무기 체계의 지지자들 중 하나는 인기있는 주장은 인간의 실수 (또는 악의)가 전시 중 범한 범죄의 상당 부분을 담당하고 있다는 것입니다. 그들은 이론적으로 로봇이 표적을 잡는 데있어서보다 정확할 수 있으며, 인간보다 실수를 덜 일으킬 수 있다고 말한다.

"사실, 인간의 판단은 전쟁의 열기 속에서 기술 지표의 신뢰성이 떨어질 수 있습니다."라고 미국 해군 전쟁 대학의 교수 인 Michael N. Schmitt는 말합니다. "달리 믿는 사람들은 전쟁의 안개를 경험하지 않았다."

'아프가니스탄의 MSF 병원에서의 미국 공습은 주로 인간의 실수로 야기되었다'http://t.co/X9TGIA81aD pic.twitter.com/TUwit97206

- 전신 뉴스 (@TelegraphNews) 2015 년 11 월 25 일

그러면 문제는: 쿤두즈 병원 폭격과 같은 파업을 불가능하게 만들거나 적어도 덜 가능성이있는 인간 행동을 제한하기 위해 전쟁 도구를 프로그램 할 수 있습니까?

아마도 아닙니다 - 적어도 가까운 장래에. 그러나 일부 인공 지능 프로그래머들은 인간에게 부정이라고 말할 수있는 로봇을 설계했습니다. 실험 설계는 간단합니다. 인간은 로봇이 테이블에서 앞으로 걷도록 지시합니다.이 로봇은 처음에는 로봇이 거부합니다. 인간이 로봇에게 잡으라고 말하면 로봇은 그 명령을 받아들입니다.

전쟁 범죄이기 때문에 병원에 대한 공습을 수행 할 수 없다는 것을 승무원에게 알리는 반 자치 공격 헬리콥터에서 먼 길이다. 그러나 기본 전제는 대체로 동일하다. 다른 사람들이 지적했듯이, 로봇에서의 이런 종류의 개발에 대한 인간의 불안은 공상 과학 소설에서 흔히 볼 수 있습니다. HAL-9000은 우주 정거장 밖의 사람을 우주에 고정시킬 때 "나는 할 수 없습니다"라고 생각합니다. 2001: 우주 오딧세이.

Kunduz 파업의 세부 사항에 관해서는, 공격 주변의 많은 사실들이 논쟁 중이다. MSF는 미국 정부가 반대하는 독립적 인 조사를 요구하고 대신 자체 검토를 약속했다.

한 미국 조사의 일부는 이달 초에 공개되었으며, 파업에 책임이있는 인적 및 기계적 오류를 발견했습니다. 그러나 이번 주 초에 두 명의 봉사단 원이 보고서의 발견과 모순이되었다. 그들은 파업이 실수가 아니었다 고 말한다. 그들의 회계에서, AP 미국 특수 작전 부대는 파키스탄이 탈레반 지휘 통제 센터로 사용되고 있었기 때문에 파업을 촉구했다.

공식 버전에서는 기계 고장으로 AC-130 건쉽의 승무원이 처음에 빈 필드에 대한 좌표를 얻었습니다. 그 후 승무원들은 주어진 물리적 묘사에 맞는 건물을 찾아 화재를 일으켰습니다. 장비가 재조정 될 때, 그들은 목표물에 대한 정확한 좌표를 승무원에게 주었지만, 승무원은 계속해서 병원에서 계속해서 발사했습니다.

컴퓨터가 궁극적으로 정확하고 인간이 그것을 무시했다는 사실이 밝혀지면 무기 체계에서 더 큰 자치권을지지하는 사람들에게 어느 정도의 신뢰감을 부여합니다. 즉 미국의 테러와의 전쟁은 군대 나 CIA가 "옳은"목표물에 부딪히면서 많은 민간인을 살해 한 사례로 산재 해있다. 자동화는 나쁜 지능을 해결하지 못할 것이며 도덕성을 근사화하려는 시도는 전쟁 범죄를 끝내지 않을 것입니다.

미국에는 전쟁의 정의를 바꾸기로되어있는 미국인을 해를 끼치 지 않고 제거함으로써 전쟁과 자동화를 소독하는 강력한 유혹이 있습니다. 무인 항공기에 대한 오바마의 선호도와 무인 항공기가 지금까지 만들어진 가장 정밀한 무기라는 동반자들에 대한 보장은 그러한 목표의 가장 명백한 징후입니다. 오바마 당선자는 2012 년 구글 행 아웃에서 "그들은 알 카에다와 그 계열사에 대해 정밀하고 정밀한 공격을 가했다.

그러나 2013 정부 연구는 이러한 주장을 대조합니다. 아프가니스탄의 무인 비행기가 무인 차량보다 10 배나 많은 민간인 사망자를 낸 것으로 나타났습니다. "드론은 전투기보다 민간인을 피할 때 마술처럼 뛰어나다"고이 연구의 공동 저자 인 사라 홀윈 스키 (Sarah Holewinski)는 말했다. 수호자. "조종사 비행 제트기가 민간인 보호에 관한 명확한 지침과 훈련을 받았을 때 민간인 사상자 비율을 낮출 수있었습니다."

군대는 인간 - 로봇 팀 구성 시스템을 개발하는 데 수백만 달러를 쓰고 유인 무기 또는 무인 무기로 수행되는 선교 사이의 경계를 더욱 어지럽게 만듭니다. 밥 일 (Bob Work) 국방부 장관은 국방부 과학 (DoD) 과학 블로그에서 "인간 - 기계 전투 팀 구성에서 우리가 원하는 것은 군대 전술과 같은 것들을 한 차원 높은 수준으로 끌어 올리는 것이다. "F-35는 4 명의 무인 윙맨과 전투에 참여할 수 있습니까?"

인간 조종사가 테이블을 걷는 것과 비슷한 명령을 주면 그 윙맨은 아무런 대답을하지 않겠습니까? 병원이나 학교를 파괴하라는 명령은? 전쟁의 안개는 어느 경우에도 적용될 것입니다. 우리가 기계를 무효화하기로 결정한다면, "인간 실수"라는 말은 미래의 갈등에서 더욱 무서운 용어 중 하나가 될 것입니다.