UC 버클리의 새로운 센터가 A.I. 묵시

버클리 대학 (University of California Berkeley)은 악의적 인 인공 지능으로 인류를 파괴하는 것을 방지하기 위해 노력하는 평판 좋은 기관들에 그 이름을 올렸습니다. 월요일에 발표 된 새로운 인간 - 호환 인공 지능 센터 (Center for Human-Compatible Artificial Intelligence)는 A.I. 유익한 것으로 남아 있으며 또한 A.I. 묵시.

버클리 자신의 A.I. 전문가, Stuart Russell 교수가 벤처 기업을 이끌고 있습니다. 열린 자선 사업은 센터에 550 만 달러의 교부금을 제공했으며, 다른 것들은 잘랐다. Berkeley, Cornell University 및 University of Michigan의 여러 전문가가 공동 연구 책임자로 활동할 것입니다.

코넬 교수 바트 셀맨 (Bart Selman) 역 센터에 대해서, A. 우리는 할까요 공포, 그리고 왜 세계가 핸드백에 지옥으로 향하고 있지 않은지 - 아직.

Human-Compatible A.I. 센터에서 성취하고자하는 것은 무엇입니까?

이 센터는 비교적 새로운 개발입니다. 사람들은 투자를합니다. 예를 들어 미래의 생명 연구소는 테슬라 출신의 엘론 머스크 (Elon Musk)의 투자를 통해 미래의 삶에 관한 질문과 삶과 사회의 미래에 대한 위협에 대처합니다. 버클리의 새로운 센터는 그러한 기관의 또 다른 예입니다.

우리 사회에서 인공 지능과 컴퓨팅의 변화하는 역할에 영감을 받았습니다. 이러한 기술은 우리 사회로 옮겨 가고 있으며 우리에게 영향을 미칠 것입니다. 이 기관들은 가능한 부정적인 영향을 연구하기 위해 연구원들을 모으거나 부정적인 영향이 없는지 확인하는 방법입니다.

센터의 바로 그 제목은 A.I. 인류는 본질적으로 양립 할 수 없다. 그것이 당신의 견해입니까?

그것은 사람들이 가지고있는 첫 번째 반응입니다. 이러한 것들은 양립 할 수 없습니다. 우리는 실제로 적절한주의 사항과 적절한 지침 및 연구를 통해 이해 관계를 일치시키고 이러한 기술이 유용하다는 것을 확신 할 수 있다고 믿습니다. 일체 포함. 기술은 엄청난 긍정적 인면을 가지고 있으며, 사회의 목표는 긍정적 인면을 유지하는 것입니다. 연구소에 참여한 연구자들은 이것이 가능하다고 믿습니다.

둠즈맨 관점을 채택 할 수 있다면 A.I.- 유도 심판의 시나리오는 어떻게 생겼을까요?

분명한 위험은 인공 지능의 군대 개발 일 것입니다. 하나는 국가 간 무기 무기 경쟁으로 이어질 수있는 것입니다. 자율 무기, 자국의 무인 항공기는 각기 다른 국가에서 서로를 적대시하여 개발했습니다. 그것이 내가 알 수있는 가장 구체적인 위험입니다. 나는 A.를 생각해. 예를 들어 사회에서의 규칙적인 역할을 위해자가 운전용 자동차 용으로 개발 된 제품은 매우 유용 할 것입니다. 그러나 군사적 측면은 걱정스러운 요소입니다.

그것은 이미 힘든 전투입니까?

국가들이 실제로이 문제를 고려하고 있습니다. 어떤면에서 그것은 어려운 전투입니다. 군대는 A.I.을 개발하기 위해 앞으로 나아갈 것입니다. 과학 기술. 그러나 예를 들어, 생물 무기가 아마도 가장 잘 알려진 사례 일 것이라는 합의가있었습니다. 어느 시점에 모든 국가가 모든 국가에 도움이된다고 결정한 경우 아니 대규모로 생물 무기를 개발하는 것. 우리는 모든 사람들이 단점이 너무 커서 전체적인 A.I.에 들어갈 수 없음을 국가들이 깨닫기를 희망합니다. 무기 경쟁.

양측이이 기술을 개발하면 누구도 앞서 나가지 않습니다.

센터에 대해 알아야 할 것이 있습니까, 아니면 악의에 찬 A. 일반적으로?

긍정적 인 측면을 제공하는 것이 중요합니다. 위험을 강조하는 것은 쉽습니다. 물론 그것이 부분적으로이 센터가 설립 된 이유 중 하나입니다. 그러나 많은 연구원이이 위험을 관리 할 수 ​​있다고 느끼고, 부작용이 엄청날 것이라고 지적하는 것도 중요합니다.

당신은 이미 최후 심판의 시각을 보냈습니다. A.I의 잠재적 인 긍정적 인 용도는 무엇입니까? 너 정말 흥분되는거야?

긍정적 인 측면은 우리가이 기술을 지원받는 사회가 될 것입니다. 예를 들어, 중국어와 영어 간 동시 음성 번역 - 사람들이 모국어로 이야기하는 것처럼 전세계 사람들과 대화 할 수있는 곳. 노인 간병: 사람들이 독립적으로 생활 할 수 있도록 돕는 가사 보조 로봇을 갖추고 있기 때문에 사람들은 집에서 원하는만큼 오래 머물 수 있습니다.

그것은 아마도 일반적으로 인생에 상당한 영향을 미칠 것입니다. - 고용에 관한 것, 우리가 우선 순위를 정하는 것.

예. 계속되는 토론의 일종 인 취업 논쟁이 있습니다. 모든 사람을 지원할 수있는 충분한 자원이있을 것이므로 모든 사람들이 이러한 발전으로부터 어떻게 이익을 얻을 수 있는지에 관한 문제가 있습니다. 그것이 의미하는 바가 무엇인지, 사람들이 어떤 종류의 일을 할 것인지 다시 깨닫게 될 것입니다. 그러나 원칙적으로 사람들은 더 많은 자유와 더 많은 활동을 할 시간을 갖게 될 것입니다. 왜냐하면 기계는 더 많은 평범한, 작업 타입 물건. 시간이 좀 걸리지 만 사회가 적응하고 천천히 이러한 변화를 반영 할 것이라고 믿습니다.

이 인터뷰는 명확성과 간결성을 위해 편집되었습니다.