ë¶í© ì ë¤ë¤ ê°ìí~ê°ìí ëëì²´ ë길ë
기술 혁신에 의해 야기 된 실존 적 위협을 규명 할 때, 대중적인 상상력은 터미네이터, 매트릭스, 및 아이 로봇 - 사람을 대량으로 착취하고 근절시키는 로봇 대 군주가 통치하는 디스토피아 이러한 사변적 미래에서 슈퍼 인텔리전스와 사악한 의도가 결합되어 컴퓨터가 인류를 전멸 시키거나 노예화하게 만듭니다.
그러나 새로운 연구 결과에 따르면 A.I. 앞으로 몇 년 안에 심각한 사회적 결과를 초래할 것입니다. 엘리트 대학교 및 기술 중심 싱크 탱크의 26 명의 연구자와 과학자가 저술 한 "인공 지능의 악의적 인 사용"보고서는 현재의 A.I. 기술은 우리의 물리적, 디지털 적, 정치적 안전을 위협합니다. 그들의 연구에 초점을 맞추기 위해, 연구 그룹은 향후 5 년 내에 이미 존재하거나 그럴듯한 기술만을 검토했습니다.
연구 결과: 일체 포함. 시스템은 기존의 위협을 확장하고, 새로운 위협을 도입하고, 위협의 성격을 변화시킬 것입니다. 이 보고서의 논문은 기술적 진보가 어떤 불법 행위를 더 쉽고 가치있게 만들 것이라는 것입니다. 연구자들은 A.I. 사이버 공격을 수행하는 데 필요한 자원과 전문 지식을 감소시켜 효과적으로 범죄 장벽을 낮 춥니 다.
일반적으로 인간의 노동, 지능 및 전문 지식을 필요로하는 작업을 완료하기 위해 AI 시스템의 확장 가능한 사용으로 공격 비용이 낮아질 수 있습니다. 자연스러운 결과는 특정 공격,이 공격을 수행 할 수있는 속도 및 잠재적 목표를 수행 할 수있는 액터 세트를 확장하는 것입니다.
이 보고서는 네 가지 권장 사항을 제시합니다.
1 - 정책 입안자는 기술 연구원과 긴밀히 협력하여 AI의 잠재적 인 악의적 인 용도를 조사, 예방 및 완화해야합니다.
2 - 인공 지능 연구원 및 엔지니어는 연구 작업 우선 순위 및 규범에 영향을 미치는 오용 고려 사항을 허용하고 유해한 응용 프로그램이 예측 가능한 경우 사전에 관련자에게 연락해야합니다.
3 - 컴퓨터 보안과 같은 이중 용도 문제를 해결하기위한보다 성숙한 방법으로 연구 분야에서 모범 사례를 식별하고 AI의 경우 적용 할 수있는 곳에서 가져와야합니다.
4 - 이러한 과제에 대한 논의에 참여하는 이해 관계자 및 도메인 전문가의 범위를 적극적으로 확장하고자합니다.
어떻게 A. A. 현재 사기를 더 똑똑하게 만들 수 있습니다. 예를 들어 사기꾼이 신뢰를 얻고 정보와 돈을 추출하기 위해 대상의 친구, 가족 또는 동료로 등장하는 스피어 피싱 공격은 이미 위협이됩니다. 그러나 오늘날에는 시간, 에너지 및 전문 지식의 상당한 지출이 필요합니다. A.I. 시스템의 복잡성이 증가하면 대상에 대한 정보 수집과 같은 스피어 피싱 공격에 필요한 일부 작업이 자동화 될 수 있습니다. 그러면 피셔 (Phisher)는 각 손질에 더 적은 에너지를 투자하고 더 많은 사람들을 타겟팅 할 수 있습니다.
그리고 사기꾼이 A.I. 온라인 희롱으로 인해 현실과 시뮬레이션을 구별하는 것이 불가능해질 수 있습니다. "인공 지능이 더욱 발전함에 따라, 대화 자의 설득력은 사람들을 더 긴 대화에 참여시킴으로써 인간의 신뢰를 이끌어 낼 수 있으며 결국 비디오 채팅에서 다른 사람으로 시각적으로 가장 할 수 있습니다"라고 보고서는 말합니다.
이미 Deepfakes의 형태로 제작 된 비디오의 결과를 보았습니다. 이러한 기술이 더욱 접근 가능하고 사용자에게 친숙 해짐에 따라 연구원들은 악의적 인 행위자가 조작 된 사진, 비디오 및 오디오 파일을 보급 할 것이라고 우려하고 있습니다. 이로 인해 정치적 파급 효과가있는 명예 훼손으로 인해 캠페인에 성공할 수 있습니다.
키보드 너머: 잠재적 인 불법 행위는 인터넷에만 국한되지 않습니다. 우리가 자치 차량의 채택을 향해 나아감에 따라, 해커들은 자기 운전 차량을 속여 자신의 주변을 잘못 인식하도록하는 모범적 인 사례를 전개 할 수 있습니다. "인간이 정지 신호의 이미지로 쉽게 인식 할 수있는 몇 가지 픽셀을 가진 정지 신호의 이미지는 그럼에도 불구하고 인공 지능 시스템에 의해 완전히 다른 것으로 잘못 분류 될 수 있습니다"라고 보고서는 말합니다.
다른 위협으로는 표적 목적을위한 얼굴 인식 소프트웨어가 통합 된 자율적 인 무인 비행기, 인간의 행동을 모방 한 DOS 공격, 자동화 된 개인화 된 잘못된 정보 캠페인이 있습니다.
이 보고서는 연구원들이 A.I. 이러한 기술을 개발하고 있습니다. 적절한 방위 대책이 마련되어 있지 않으면 우리는 이미 인류를 파괴 할 기술을 보유하고있을 것이며 킬러 로봇은 필요하지 않을 것입니다.