알고리즘 전쟁

군대에서 인공 지능을 사용하는 경우 공상 과학 소설의 악몽이 즉시 깨어나 인류를 파괴하기 위해 반항하고 치명적인 AI가 일어납니다. 불행하게도 "적이 우리를 따라잡을 것"이라는 군대와 지도자들의 두려움은 전쟁 알고리즘의 개발에서도 마찬가지로 강합니다.

알고리즘 전쟁많은 사람들의 의견으로는 우리가 알고 있는 전장의 모습을 근본적으로 바꿀 수 있습니다. 주로 전쟁이 더 빨라지고 사람들이 결정을 내리는 능력보다 훨씬 앞서게 될 것이기 때문입니다. 미국 장군 잭 샤나한 (1) 미국 합동 인공 지능 센터 소장은 인공 지능을 무기고에 도입하기 전에 이러한 시스템이 여전히 인간의 통제하에 있고 스스로 전쟁을 시작하지 않도록 해야 한다고 강조합니다.

"적이 기계와 알고리즘을 가지고 있다면 우리는 이 싸움에서 패할 것입니다."

운전 능력 알고리즘 전쟁 세 가지 주요 영역에서 컴퓨터 기술의 발전을 기반으로 합니다. 첫 번째 컴퓨팅 파워의 수십 년간의 기하급수적 성장이것은 기계 학습의 성능을 크게 향상시켰습니다. 두번째 자원의 빠른 성장 "빅 데이터", 즉 기계 학습에 적합한 거대하고 일반적으로 자동화되고 관리되며 지속적으로 생성되는 데이터 세트입니다. 세 번째 우려 클라우드 컴퓨팅 기술의 급속한 발전, 이를 통해 컴퓨터는 쉽게 데이터 리소스에 액세스하고 처리하여 문제를 해결할 수 있습니다.

전쟁 알고리즘전문가가 정의한 대로 먼저 다음과 같이 표현해야 합니다. 컴퓨터 코드. 둘째, 정보를 수집하고 선택을 할 수 있는 플랫폼의 결과여야 합니다. 인간 개입. 셋째, 명백해 보이지만 반드시 그런 것은 아닙니다. 다른 용도로 의도된 기술이 전쟁에서 유용할 수 있는지 여부가 명확해지는 것은 행동을 통해서만 가능하기 때문에 조건에서 작동할 수 있어야 합니다. 무력 충돌.

위의 방향과 상호 작용에 대한 분석은 다음을 보여줍니다. 알고리즘 전쟁 예를 들어 별도의 기술이 아닙니다. 에너지 무기 또는 극초음속 미사일. 그 효과는 광범위하며 적대 행위에서 점차 보편화되고 있습니다. 처음으로 군용 차량 그들은 지능화되어 잠재적으로 이를 구현하는 방어력을 보다 효율적이고 효과적으로 만듭니다. 이러한 지능형 기계에는 잘 이해해야 하는 명확한 한계가 있습니다.

샤나한은 지난 가을 전 구글 CEO 에릭 슈미트, 구글 국제담당 부사장 켄트 워커와의 인터뷰에서 이렇게 말했다. "".

미국 국가안보회의(NSC)의 AI 관련 초안 보고서는 중국을 50회 이상 언급하면서 2030년까지 AI 분야에서 세계 리더가 되겠다는 중국의 공식 목표를 강조했다.또한보십시오: ).

앞서 언급한 Shanakhan Center가 Microsoft Research Director인 Eric Horwitz, AWS CEO Andy Jassa, Google Cloud 수석 연구원 Andrew Moore. 최종 보고서는 2020년 XNUMX월에 발행될 예정입니다.

구글 직원 항의

몇 년 전에 펜타곤이 관여했습니다. 알고리즘 전쟁 Google을 비롯한 기술 회사 및 Clarifai와 같은 스타트업과의 협업을 기반으로 하는 Maven 프로젝트의 여러 AI 관련 프로젝트. 주로 작업에 관한 것이었습니다. 인공 지능개체 식별을 용이하게 합니다.

2018년 봄 Google이 프로젝트에 참여했다는 사실이 알려지자 수천 명의 Mountain View 거인 직원이 적대 행위에 회사의 개입에 항의하는 공개 서한에 서명했습니다. 몇 달 간의 노동 불안 이후 Google은 AI에 대한 자체 규칙 집합을 채택했습니다.여기에는 이벤트 참여 금지가 포함됩니다.

Google은 또한 2019년 말까지 Project Maven 계약을 완료하기로 약속했습니다. Google의 종료는 Project Maven을 종료하지 않았습니다. Peter Thiel의 Palantir에서 구입했습니다. 공군과 미 해병대는 메이븐 프로젝트의 일환으로 글로벌 호크와 같은 특수 무인 항공기를 사용할 계획이며 각각 최대 100kmXNUMX를 시각적으로 모니터링합니다.

Project Maven 주변에서 일어나는 일을 계기로 미군에 자체 클라우드가 시급히 필요하다는 것이 분명해졌습니다. 이것은 Shanahan이 회의에서 말한 것입니다. 이것은 비디오 영상과 시스템 업데이트를 현장 곳곳에 흩어져 있는 군사 시설로 트럭으로 운반해야 했을 때 분명했습니다. 건물에서 통합 클라우드 컴퓨팅, Jedi 군대, Microsoft, Amazon, Oracle 및 IBM을 위한 통합 IT 인프라 프로젝트의 일부로 이러한 유형의 문제를 해결하는 데 도움이 될 것입니다. Google은 윤리 강령 때문이 아닙니다.

Shanahan의 진술에서 군대의 위대한 AI 혁명이 이제 막 시작되었다는 것이 분명합니다. 그리고 미군에서 그 중심의 역할이 커지고 있습니다. 이것은 예상 JAIC 예산에서 분명히 볼 수 있습니다. 2019년에는 총액이 90천만 달러에 조금 못 미쳤습니다. 2020년에는 이미 414억 10만 달러, 즉 펜타곤의 AI 예산 4억 달러의 약 XNUMX%가 될 것입니다.

기계는 항복한 군인을 인식합니다.

미군은 이미 들어오는 미사일을 공격하기 위해 미 해군 함정에 사용되는 일종의 자율 무기인 Phalanx(2)와 같은 시스템을 갖추고 있습니다. 미사일이 감지되면 자동으로 켜지고 경로에 있는 모든 것을 파괴합니다. Ford에 따르면 그는 각 목표물을 통과하고 살펴보지 않고도 XNUMX초 안에 XNUMX~XNUMX개의 미사일로 공격할 수 있습니다.

또 다른 예는 상업용 무인 시스템인 반자율 Harpy(3)입니다. 하피는 적의 레이더를 파괴하는 데 사용됩니다. 예를 들어, 2003년 미국이 공중 레이더 요격 시스템을 갖춘 이라크를 공격했을 때, 이스라엘제 드론은 미국인들이 이라크 영공으로 안전하게 날아갈 수 있도록 이를 찾아 파괴하는 데 도움을 주었습니다.

3. IAI Harpy 시스템의 드론 출시

자율 무기의 또 다른 잘 알려진 예는 다음과 같습니다. 한국형 삼성 SGR-1 시스템, 남북한 사이의 비무장 지대에 위치하고 최대 XNUMXkm 거리에서 침입자를 식별하고 발사하도록 설계되었습니다. 설명에 따르면 시스템은 손의 위치나 손에 든 무기의 위치 인식을 기반으로 "항복하는 사람과 항복하지 않는 사람을 구별할 수 있다"고 한다.

4. 삼성 SGR-1 시스템에 의한 항복군 탐지 시연

미국인들은 뒤쳐지는 것을 두려워한다

현재 전 세계적으로 최소 30개국이 AI의 개발 및 활용 수준이 다른 자동 무기를 사용하고 있다. 중국, 러시아, 미국은 인공 지능을 세계에서 미래의 위치를 ​​구축하는 데 없어서는 안 될 요소로 보고 있습니다. 블라디미르 푸틴 러시아 대통령은 2017년 2030월 학생들에게 “AI 경주에서 이기는 사람이 세계를 지배하게 될 것”이라고 말했다. 시진핑 중화인민공화국 주석은 언론에서 이렇게 세간의 이목을 끄는 발언을 한 적은 없지만, XNUMX년까지 중국이 AI 분야에서 지배적인 세력이 될 것을 촉구하는 지시의 주요 동인입니다.

미국에서는 인공 지능이 제기하는 새로운 도전에 대처할 수 있는 장비가 극도로 부족하다는 것을 보여주는 "위성 효과"에 대한 우려가 커지고 있습니다. 그리고 이것은 지배의 위협을 받는 국가가 다른 방식, 즉 전쟁을 통해 적의 전략적 이점을 제거하기를 원할 수 있기 때문에 평화에 위험할 수 있습니다.

Maven 프로젝트의 원래 목적은 이슬람 ISIS 전투기를 찾는 데 도움을 주는 것이었지만 군사 인공 지능 시스템의 추가 개발에 대한 중요성은 엄청납니다. 레코더, 모니터 및 센서(모바일, 비행 포함)를 기반으로 하는 전자전은 AI 알고리즘을 통해서만 효과적으로 사용할 수 있는 수많은 이기종 데이터 흐름과 관련이 있습니다.

하이브리드 전장이 되었습니다. 군사용 IoT, 전술 및 전략적 위협과 기회를 평가하기 위한 중요한 정보가 풍부합니다. 이 데이터를 실시간으로 관리할 수 있다는 것은 큰 이점이 있지만 이 정보로부터 배우지 못하면 재앙이 될 수 있습니다. 여러 영역에서 작동하는 다양한 플랫폼의 정보 흐름을 신속하게 처리하는 기능은 두 가지 주요 군사적 이점을 제공합니다. 속도 i 범위. 인공 지능을 통해 전장의 역동적인 상황을 실시간으로 분석하고 아군에 대한 위험을 최소화하면서 신속하고 최적의 타격을 가할 수 있습니다.

이 새로운 전장은 또한 어디에나 있습니다. AI는 최근 몇 년 동안 많은 관심을 받고 있는 소위 드론 떼의 중심에 있습니다. 유비쿼터스 센서의 도움으로 드론이 적대적인 지형을 탐색할 수 있을 뿐만 아니라 궁극적으로 정교한 전투 전술을 가능하게 하는 추가 무기와 함께 다양한 유형의 무인 항공기가 여러 지역에서 작동하는 복잡한 구성을 형성하여 즉시 적응할 수 있습니다. 적. 전장을 이용하고 변화하는 상황을 보고하기 위한 기동.

AI 지원 표적 지정 및 탐색의 발전은 또한 표적 탐지, 추적 및 식별 방법을 개선함으로써 특히 미사일 방어와 같은 광범위한 전술 및 전략적 방어 시스템의 효율성에 대한 전망을 개선하고 있습니다.

핵 및 재래식 무기를 연구하는 데 사용되는 시뮬레이션 및 게임 도구의 성능을 지속적으로 향상시킵니다. 대량 모델링 및 시뮬레이션은 전투 제어 및 복잡한 임무를 위한 대상 시스템의 포괄적인 다중 도메인 시스템을 개발하는 데 필수적입니다. AI는 또한 다자간 상호 작용을 강화합니다(5). AI를 통해 플레이어는 게임 변수를 추가 및 수정하여 동적 조건(무기, 동맹 참여, 추가 부대 등)이 성능 및 의사 결정에 어떤 영향을 미칠 수 있는지 탐색할 수 있습니다.

군대의 경우 물체 식별은 AI의 자연스러운 출발점입니다. 첫째, 미사일, 부대 이동 및 기타 정보 관련 데이터와 같은 군사적 중요 대상을 찾기 위해 위성 및 드론에서 수집되는 점점 더 많은 이미지 및 정보에 대한 종합적이고 신속한 분석이 필요합니다. 오늘날 전장은 바다, 땅, 하늘, 우주, 사이버 공간 등 모든 지형을 전 세계적으로 아우릅니다.

사이버 공간본질적으로 디지털 도메인으로서 자연스럽게 AI 애플리케이션에 적합합니다. 공격적인 측면에서 AI는 개별 네트워크 노드 또는 개별 계정을 찾고 대상으로 삼아 정보를 수집, 방해 또는 잘못 알릴 수 있습니다. 내부 인프라 및 명령 네트워크에 대한 사이버 공격은 재앙이 될 수 있습니다. 방어에 관한 한 AI는 그러한 침입을 탐지하고 민간 및 군사 운영 체제에서 파괴적인 이상 징후를 찾는 데 도움을 줄 수 있습니다.

예상 및 위험한 속도

그러나 빠른 의사 결정과 즉각적인 실행은 도움이 되지 않을 수 있습니다. 효과적인 위기 관리를 위한. 전장에서의 인공지능과 자율 시스템의 장점은 우리가 역사에서 알 수 있듯이 종종 위기를 예방하거나 관리하는 수단으로 성공했던 외교를 위한 시간을 허용하지 않을 수 있습니다. 실제로는 속도 저하, 일시 중지 및 협상 시간이 특히 핵무기가 위태로울 때 승리 또는 적어도 재앙을 피하는 열쇠가 될 수 있습니다.

전쟁과 평화에 대한 결정을 예측 분석에 맡길 수 없습니다. 데이터가 과학, 경제, 물류 및 예측 목적으로 사용되는 방식에는 근본적인 차이가 있습니다. 인간의 행동.

어떤 사람들은 AI를 상호 전략적 민감성을 약화시켜 전쟁의 위험을 증가시키는 힘으로 인식할 수 있습니다. 실수로 또는 의도적으로 손상된 데이터로 인해 AI 시스템이 잘못된 대상을 잘못 식별하고 대상으로 지정하는 등의 의도하지 않은 작업을 수행할 수 있습니다. 전쟁 알고리즘 개발의 경우에 가정된 행동 속도는 위기의 합리적인 관리를 방해하는 시기상조 또는 불필요한 단계적 확대를 의미할 수 있습니다. 반면에 알고리즘도 빠르다고 예상되기 때문에 기다리거나 설명하지 않습니다.

불안한 측면 인공지능 알고리즘의 기능 최근 MT에서도 발표했습니다. 전문가조차도 AI가 출력에서 ​​보는 결과로 이어지는 방법을 정확히 알지 못합니다.

전쟁 알고리즘의 경우, 우리는 자연과 그들이 자연을 "생각"하는 방식에 대해 무지할 수 없습니다. 우리는 "우리" 또는 "그들의" 인공 지능이 마침내 게임을 결정할 때라고 결정했기 때문에 한밤중에 핵 플레어로 깨어나고 싶지 않습니다.