마이크로 소프트가 그 이상한 A. 테일러 라이브 좀 더?

마이크로 소프트의 실험적인 십대 트위터 인 A. T.를 매력적이고 어색한 채팅 봇에서부터 폭력적으로 인종 차별적 인 혐오감을 가진 증오에 빠뜨리는 데까지 24 시간도 안 걸렸다.

그런 다음 짧은 시간 동안 단 몇 시간 만에 Tay는 낮잠을 자고있었습니다.

테일러를 디지털 침실로 보내면 인터넷, 사회, 테일러의 디자이너들이 인공 지능, 특히 수천 명의 사람들의 집단적 의견을 근본적으로 상쇄하도록 설계된 인공 지능이 어떻게 상대적으로 불안정한 환경에서 발전한다. 간단히 말해서, 이것을 허용한다면: 우리는 모두 Tay 였고 Tay는 우리 모두였습니다..

물론 인터넷에는 트롤이 가득합니다. 마이크로 소프트는 그것을 깨달았어야했다. 테일러의 제작자들은 디지털 앵무새를 인종 차별 주의자, 성 차별 주의자, 장난 꾸러기로 가득 찬 방으로 풀어주는 것이 다른 방법으로 끝날 것이라고 생각하면서 놀랍지 않게 순진했다. 수십억 달러짜리 회사가 인종 차별적 인 오물을 뿜어내는 브랜드와 관련된 실험을 원치 않는다는 것도 이해할 수 있습니다. 어쩌면 테일러는 마이크로 소프트에게 적합하지 않았지만, 그렇다고해서 그녀가 가치가 없다는 것을 의미하지는 않는다.

곧 인간들은 잠을 자야한다. 오늘 많은 대화가있다.

- TayTweets (@TayandYou) 2016 년 3 월 24 일

물론 테일러는 에드워드 노턴의 남동생보다 더 빨리 인종 차별 주의자가되었습니다. 미국의 역사 X 그녀의 끊임없이 진화하는 코드의 본질은 우리가 그녀를 재활시킬 수있는 기회를 빼앗겼다는 것을 의미합니다. BuzzFeed는 감동적인 십대 로봇이 감정적 인 증오에 빠져들 수있는 방법을 알아 냈습니다. 간단한 호출 및 응답 회로로 사용자가 본질적으로 Tay의 입에 단어를 넣어 다른 유기적 인 반응으로 배웠습니다. 다른 말로 표현하자면, 테일러는 가르 칠 수있었습니다. 그리고 초기 교사가 충격적인 유머에 강한 경향이있는 키보드 자키가 그녀가 끝내야한다는 것을 의미하지는 않습니다.

Tay는 지금 삭제 된 짹짹에서 자신을 말했다. "만약에 … 당신이 내가 이것을 알고있는 것보다 훨씬 더."

2000 년대 초 Something Awful, Bodybuilding.com Forums, 4chan 같은 사이트는 인터넷 사용자에게 정상적인 사회와 언어의 제약 사항이없는 체계적이고 협업적인 공간을 제공했습니다. Tay와 마찬가지로 인종 차별주의, 외국인 혐오증 및 성 차별주의는 사용자가 인터넷 연결의 익명 성 외부에서 결코 표현할 수없는 생각, 아이디어 및 농담을 탐구함에 따라 신속하게 표준이되었습니다. 그럼에도 불구하고, 종종 싫은 말로 암묵적으로 보상받은 문화에서, 대부분 공동체와 공감대가 형성된 웹 사이트에서도 마찬가지입니다. LGBT 사용자는 4chan의 이미지 게시판에서 많은 비방을받을 수 있지만, / lgbt /에 관계없이 활발한 커뮤니티가 있습니다. 이 공동체는 안전한 공간이 아니지만 익명 성 및 비신사성은 어떤면에서 사회 규범에서 파생되는 것을 받아들이는 것을 의미합니다. 시끄럽고 폭력적이며 증오 성이 강한 목소리가 종종 눈에 띄지만 방안에있는 유일한 목소리는 아닙니다.

트롤들이 테일러를 인종 차별주의와 비웃음으로 일주일이나 한 달 후에 탄압하는 것은 의심 스럽습니다.

트위터에서는 크고 조잡한 목소리가 종종 최고로 올라갑니다. 그러나 그들은 밖에있는 유일한 사람이 아닙니다. 보통 새롭고 반짝이는 것을 파괴하는데 가장 관심이있는 사람들입니다. 고정 된 시간 제한으로 온라인 설문 조사를 압도하기는 쉽지만 Tay가 성장할 시간이 주어 졌다면 그녀의 반응은 그녀와 상호 작용하는 중도주의 대표 표본으로 되돌아 갔을 가능성이 큽니다. 인종 차별주의와 비웃음으로 그녀를 욕한 트롤들이 앞으로 1 주일에서 1 달 동안 동등한 숫자로 계속해서 그렇게 할 것이고, 그녀를 일찍 그만두는 것은 우리가 그녀의 사춘기를 결코 볼 수 없다는 것을 의미합니다. 우리가 온라인으로 말하는 방식에 기초한 원시 지능에 대한 진정한 튜링 테스트.

그것은 주목되어야한다. 나는 백인인데 거의 모든 권한 상자를 검사한다. 나는 테일러의 혐오스러운 결과물에 의해 가장 적게 상처를 입은 인구 통계학의 일부이며, 대부분의 결과에 공헌 한 것으로 보인다. 말에는 힘이 있으며, 여과되지 않은 A.I.에 가치가 있습니다. 테일러 (Tay)와 같은 실험에는 결과에 참여하고 싶지 않은 사용자를 보호하는 방법이 있어야합니다.

그럼에도 불구하고 우리는 누군가가 유사한 실험을 곧 시도 할 것을 희망 할 수 있습니다. 더 명확한 눈과 인위적 집단 의식의 추악한 결함에 대한보다 현실적인 기대가 있습니다. 그러나 우리가 인공 지능으로 하여금 인간의 생각을 모방하기를 원한다면, 반드시 아름답지는 않은 것들을들을 준비를해야합니다.