OpenAI : Elon Musk의 이전 회사는 새로운 A.I. 연대

2016 년 엘론 머스크 (Elon Musk)가 공동 창안 한 인공 지능을 연구하는 비영리 단체 인 오픈 아이 (OpenAI)는 무스크가 방향을 놓고 의견이 분열 된 후에도 큰 발전을 이루고있다. 연구원은 게임을하고, 뉴스 기사를 작성하고, 획기적인 수준의 기량을 갖춘 물리적 인 물체를 움직일 수있는 시스템을 개발했습니다.

OpenAI는 그 연구에 대해 논란을 일으켰습니다. 지난주에는 제한된 프롬프트로 텍스트를 생성 할 수있는 언어 모델 인 GTP2의 개발을 발표했습니다. 인간이 작성한 "마일리 사이러스 (Miley Cyrus)는 오늘 Abercrombie와 Fitch (Hollywood Boulevard)에서 도둑 맞은 채로 잡혔습니다."이 시스템은 "이 19 세의 가수가 카메라에서 매장 밖으로 나왔다는 사실에 계속해서 경호원에 의해."

또한 짧은 프롬프트를 기반으로 유니콘을 말하는 것에 대한이 독창적 인 이야기를 만들었습니다.

"나는 1 년 이상 OpenAI와 긴밀히 연계되어 있지도 않았고, 경영진이나 이사회 감독도 없었습니다."라고 Musk는 주말 트위터에 댓글을 달았습니다. "나는 Tesla (특히) & SpaceX에서 고통스럽게 많은 엔지니어링 및 제조 문제를 해결하는 데 집중해야했습니다. 또한 테슬라는 OpenAI와 같은 사람들을 위해 경쟁하고 있었고 OpenAI 팀이하고 싶어하는 것에 동의하지 않았습니다. 모든 것을 추가하고 좋은 방법으로 길을 나누는 것이 낫습니다."

이 회사는 원래 Musk이 A.I.를 활용하려는 목표를 달성하는 이상적인 방법으로 보였습니다. 인류의 이익을 위해. 기업가는 슈퍼 스마트 기계가 제기 한 문명의 "근본적인 위험"에 대해 "우리가 음식, 마약, 항공기 및 자동차를 운영하는 것처럼"규제하도록 정부에 촉구했다.

머스크는 초기에이 회사를 설립하기 위해 천만 달러를 약속했으며, 사명은 "안전한 인공 지능으로의 길을 발견하고 제정하는"것에 중점을 둡니다.

OpenAI 간부 인 Greg Brockman이 공유하는 프로그램과 같은 기사를 만드는 프로그램이 상대적으로 적은 수의 사람들에 의해 덜 익숙한 대중의 의견에 영향을 미치는 데 어떻게 사용될 수 있는지 보는 것은 어렵지 않습니다.

OpenAI 직원이이 AI 작성 샘플을 인쇄하여 휴지통으로 게시했습니다. http://t.co/PT8CMSU2AR pic.twitter.com/PuXEzxL7Xd

- Greg Brockman (@gdb) 2019 년 2 월 14 일

"이 기술의 악의적 인 애플리케이션에 대한 우리의 우려로 인해, 우리는 훈련 된 모델을 공개하지 않을 것"이라고 블로그 포스트에서 설명했다. "책임있는 공개 실험으로 우리는 대신 연구자가 실험 할 수있는 훨씬 작은 모델과 기술 논문을 발표 할 것입니다."

이 발표로 인해이 기술은 가짜 뉴스를 생성하는 데 사용될 수 있다는 우려가있었습니다. 분석 인도 올해 말 인도 총선을 앞두고, A.I. 민주주의 과정에 큰 타격을 줄 수있다. OpenAI의 연구자들은 합성 오디오 및 비디오 제작에 관한 연구와 더불어 "대중은 온라인에서 찾은 텍스트에 대해 회의적 일 필요가 있습니다."

Ryan Lowe, A.I. 과학자이자 이전 OpenAI 인턴은이 통과 된 중기 게시물에서 가짜 뉴스를 간결하게 만드는 데 사용되는 이와 같은 프로그램의 위협을 요약했습니다.

… 자동화 된 시스템은 (1) 수천 명의 인력을 고용 할 자원이없는 나쁜 행위자가 대규모의 잘못된 정보 캠페인을 수행 할 수있게한다. 그리고 (2) 국가 행위자들이 이미 운영하고있는 그릇된 캠페인의 규모를 크게 증가시킨다.

OpenAI의 모든 연구가 그렇게 논란이있는 것은 아닙니다. Dactyl은 2018 년 7 월에 공개되었으며 실세계의 물체를 조작하기 위해 실제 물리학에 적응할 수 있습니다. 로봇 핸드는 24 자유도로 매우 복잡하지만 시스템은 3 개의 RGB 카메라와 로봇 핸드의 좌표를 사용하여 주변의 오브젝트를 쉽게 이동할 수 있습니다.

로봇 핸드는 비디오 게임에서 인간을 때리는 데 사용되는 범용 강화 학습 알고리즘을 이용합니다. "OpenAI Five"팀은 전문가 팀과 대면했습니다. 도타 2 이 시스템은 180 년 동안의 게임에서 128,000 개의 프로세서 코어와 256 개의 그래픽 프로세서를 사용하여 교육을 받았다. 그것은 전직 전문가와 트위터 깃발의 인간 팀을 이긴다지만, 프로 선수들에 대해서는 실패했다.

사향이 사용했습니다. 도타 2 Neuralink에 관심을 끌기위한 성냥, A.I.와 공생 관계를 형성하려는 그의 계획. 인간 두뇌를 연결하고 로봇 탈취를 피함으로써:

@OpenAI의 위대한 작품. 인간 / 인공위성 공생을 가능하게하려면 곧 신경 인터페이스가 필요합니다.

- Elon Musk (@elonmusk) 2018 년 8 월 6 일

OpenAI는 텍스트 생성기 발표에서 6 개월 후에 광범위한 전략에 대해 논의 할 계획이라고 밝혔다. 회사는 인공 지능의 위험성에 대한 미묘한 토론을 촉구하기를 희망합니다. 이는 무스크가 계획 한 재앙 시나리오 중 일부를 피할 수있는 움직임입니다. 그러나 회사는 심지어 텍스트 생성기를 보류하는 것이 "오늘날 올바른 결정"이라는 것을 "확신 할 수 없다"는 것을 인정합니다. AI의 위험성에 대해 경고하는 두 주요 단체간에 이미 분열이 형성되어 있기 때문에 입법자가 쉽지는 않을 것입니다 솔루션 개발 시간.