공포의 내각
기계의 부상과 인공 지능의 권력 장악. 총체적인 감시와 사회적 통제의 세계. 핵전쟁과 문명의 퇴보. 수년 전에 그려졌던 미래에 대한 많은 어두운 비전이 오늘 일어났어야 했습니다. 그러는 동안 우리는 뒤를 돌아보며 그들이 거기에 없었던 것 같습니다. 확실합니까?
상당히 틀에 박힌 대중적인 레퍼토리가 있습니다. 디스토피아적 예언 (미래의 검은 비전에 대해). 자연 환경 및 자원의 파괴와 관련된 가장 일반적인 것 외에도 최신 기술이 대인 커뮤니케이션, 관계 및 사회를 손상시키고 있다고 널리 알려져 있습니다.
가상 공간은 세상의 실제 참여를 기만적으로 대체할 것입니다. 다른 디스토피아적 견해는 기술 발전을 사회적 불평등을 증가시키고 권력과 부를 소그룹의 손에 집중시키는 방법으로 봅니다. 현대 기술의 높은 요구는 특권층의 좁은 집단에 지식과 기술을 집중시키고 사람들에 대한 감시를 강화하며 사생활을 파괴합니다.
많은 미래학자에 따르면 높은 생산성과 더 많은 가시적 선택은 스트레스를 유발하고 일자리를 위태롭게 하며 세상에 대해 점점 더 물질주의적으로 만듦으로써 인간 삶의 질을 해칠 수 있습니다.
유명한 기술 "디스토피아" 중 하나, 제임스 글릭, 하나의 중요한 문제를 해결하지 못하고 많은 새로운 문제를 야기하는 고전적인 발명품으로 TV 리모컨의 겉보기에 사소해 보이는 예를 제공합니다. Gleick, 기술 역사가 인용 에드워드 테너, 리모콘을 사용하여 채널을 전환하는 가능성과 단순성이 주로 시청자의 주의를 분산시키는 역할을 한다고 씁니다.
사람들은 자신이 시청하는 채널에 대해 만족하기는커녕 점점 더 불만스러워하고 있습니다. 필요를 충족시키는 대신 끝없는 실망감이 있습니다.
자동차가 우리를 예약 상태로 유지할까요?
피할 수 없고 곧 오게 될 이 일을 통제할 수 있을까요? 인공지능 이상? 이것이 사실이라면 많은 디스토피아 비전이 주장하는 것처럼 그렇지 않습니다. (1).
우리보다 몇 배나 강한 것을 통제하기란 어렵다. 작업 수가 증가했습니다. XNUMX년 전만 해도 사람의 목소리와 얼굴에서 감정을 읽을 수 있는 사람이 우리보다 훨씬 더 정확할 것이라고 아무도 믿지 않았을 것입니다. 한편, 현재 훈련된 알고리즘은 이미 얼굴 표정, 음색 및 말하는 방식을 분석하여 이를 수행할 수 있습니다.
컴퓨터는 그림을 그리고, 작곡을 하고, 그 중 하나는 일본에서 시 대회에서 우승하기도 했습니다. 그들은 처음부터 게임을 배우면서 오랫동안 체스에서 사람들을 이겼습니다. 훨씬 더 복잡한 바둑 게임에도 동일하게 적용됩니다.
그것은 더 빠른 가속의 법칙을 따릅니다. AI가 인간의 도움으로 지난 수십 년 동안 달성한 것은 향후 몇 년, 어쩌면 몇 달 안에 두 배가 될 것이며, 그런 다음에는 몇 주, 며칠, 몇 초 만에 완료될 것입니다.
최근 밝혀진 바와 같이 유비쿼터스 카메라의 사진을 분석하기 위해 스마트폰이나 공항에서 사용되는 알고리즘은 다른 프레임에서 누군가를 인식할 수 있을 뿐만 아니라 독점적으로 친밀한 심리적 특징을 결정할 수 있습니다. 이것이 엄청난 프라이버시 위험이라고 말하는 것은 아무 말도 하지 않는 것과 같습니다. 이것은 단순한 감시, 모든 단계를 감시하는 것이 아니라 사람의 외모, 숨겨진 욕망 및 개인적 선호도의 결과로 발생하는 정보에 관한 것입니다.
알고리즘은 수십만 건의 사례를 분석하여 비교적 빠르게 이를 학습할 수 있으며, 이는 가장 기민한 사람도 평생 볼 수 있는 것보다 훨씬 많습니다. 이러한 풍부한 경험으로 무장한 그들은 가장 경험이 많은 심리학자, 바디 랭귀지 및 제스처 분석가보다 더 정확하게 사람을 스캔할 수 있습니다.
따라서 진짜 오싹한 디스토피아는 컴퓨터가 체스를 두거나 우리와 맞서는 것이 아니라 컴퓨터가 우리 자신보다 더 깊은 우리의 영혼을 볼 수 있고 이러한 성향을 인식하는 데 있어 금지와 장애물로 가득 차 있다는 것입니다.
엘론 머스크 AI 시스템이 계속 증가하는 규모로 학습하고 추론하기 시작하면 "지능"이 어딘가에서 발전할 수 있다고 믿습니다. 웹 레이어 깊숙이, 우리에게 감지할 수 없습니다.
2016년에 발표된 미국 연구에 따르면 향후 45년 안에 인공 지능이 모든 작업에서 인간을 능가할 확률이 50%입니다. 예측가들은 예, AI가 암 문제를 해결하고, 경제를 개선 및 가속화하고, 엔터테인먼트를 제공하고, 삶의 질과 기간을 개선하고, AI 없이는 살 수 없도록 교육할 것이라고 말합니다. 미움은 논리적인 계산에 의해서만 우리를 제거할 뿐입니다. 물리적으로 작동하지 않을 수도 있습니다. 각 시스템에서 "언젠가 유용할 수 있는" 리소스를 저장, 보관 및 저장할 가치가 있기 때문입니다. 예, 이것이 우리가 AI를 위해 할 수 있는 리소스입니다. 보호받는 인력?
낙관론자들은 항상 소켓에서 플러그를 뽑을 기회가 있다는 사실에 스스로를 위로합니다. 그러나 모든 것이 그렇게 간단하지 않습니다. 이미 인간의 삶은 컴퓨터에 너무 의존하게 되었기 때문에 컴퓨터에 대한 급진적인 조치는 우리에게 재앙이 될 것입니다.
결국, 우리는 점점 더 AI 기반 의사 결정 시스템을 만들어 비행기를 조종하고, 금리를 설정하고, 발전소를 운영할 수 있는 권리를 부여하고 있습니다. 우리는 알고리즘이 우리보다 훨씬 더 잘 할 것이라는 것을 알고 있습니다. 동시에 우리는 이러한 디지털 결정이 어떻게 이루어지는지 완전히 이해하지 못합니다.
"혼잡 감소"와 같은 초지능형 명령 시스템이 작업을 완료하는 유일한 효과적인 방법은 인구를 XNUMX분의 XNUMX 또는 절반으로 줄이는 것이라고 결론을 내릴 수 있다는 우려가 있습니다.
예, 기계에 "먼저 사람의 생명을 구하십시오!"와 같은 가장 중요한 지시를 내릴 가치가 있습니다. 그러나 디지털 논리가 인류의 투옥으로 이어질지 아니면 우리가 안전할 수 있지만 확실히 자유롭지는 않은 헛간 아래로 이어질지 누가 알겠습니까?
서비스로서의 사이버 범죄
과거 문학과 영화에서 포스트 아포칼립스 세계의 디스토피아와 이미지는 대개 포스트 핵 시대를 배경으로 한다. 오늘날 핵무기는 우리가 상상하는 방식은 아니지만 우리가 알고 있는 세계의 파국과 파괴에 필요한 것 같지는 않습니다. , 그것은 핵 소멸과 결합 된 "터미네이터"에서처럼 세계를 파괴 할 것 같지 않습니다. 만약 그렇게 한다면 그녀는 초지능이 아니라 원시적인 힘이 될 것입니다. 결국, 인류조차도 파괴적인 핵 분쟁의 세계적인 시나리오를 아직 깨닫지 못했습니다.
실제 기계 종말은 훨씬 덜 인상적일 수 있습니다.
사이버 전쟁, 바이러스 공격, 시스템 해킹 및 랜섬웨어, 랜섬웨어(2)는 폭탄 못지않게 효과적으로 우리 세상을 마비시키고 파괴합니다. 그 규모가 커지면 우리는 기계의 희생양이자 인질이 되는 총력전의 국면에 접어들지도 모른다.
지난 여름, 미국 사이버 및 인프라 보안국(CISA)은 랜섬웨어 공격을 "가장 가시적인 사이버 보안 위협"으로 지정했습니다.
CISA는 피해자가 사이버 범죄자에게 돈을 지불하고 안전하지 않은 시스템의 문제를 공개하기를 꺼리기 때문에 사이버 범죄자가 개인 또는 조직의 데이터를 가로채고 암호화한 다음 몸값을 강탈하는 많은 활동이 보고되지 않는다고 주장합니다. 미시적 수준에서 사이버 범죄자는 종종 인터넷에서 정직한 콘텐츠와 부정직한 콘텐츠를 구별하는 데 어려움을 겪는 노인을 표적으로 삼습니다. 이메일 첨부 파일 또는 감염된 웹 사이트의 팝업에 포함된 맬웨어를 사용하여 이를 수행합니다. 동시에 대기업, 병원, 정부 기관 및 정부에 대한 공격이 증가하고 있습니다.
후자는 보유하고 있는 민감한 데이터와 거액의 몸값을 지불할 수 있는 능력 때문에 특히 표적이 되었습니다.
건강 정보와 같은 일부 정보는 다른 정보보다 소유자에게 훨씬 더 가치가 있으며 범죄자에게 더 많은 돈을 벌 수 있습니다. 도둑은 검사 결과나 약물 정보와 같이 환자 치료에 중요한 임상 데이터의 큰 블록을 가로채거나 격리할 수 있습니다. 생명이 위태로울 때 병원에서는 협상의 여지가 없습니다. 미국의 한 병원은 XNUMX월 테러 이후 지난해 XNUMX월 영구 폐쇄됐다.
아마도 시간이 지남에 따라 악화될 것입니다. 2017년 미국 국토안보부는 사이버 공격이 상수도 시설과 같은 중요 인프라를 표적으로 삼을 수 있다고 발표했습니다. 그리고 이러한 조치를 수행하는 데 필요한 도구는 Cerber 및 Petya 소프트웨어와 같은 랜섬웨어 번들을 판매하고 성공적인 공격 후 몸값을 청구하는 소규모 운영자가 점점 더 많이 사용할 수 있습니다. 서비스로서의 사이버 범죄를 기반으로 합니다.
게놈의 위험한 장애
디스토피아의 인기있는 주제 중 하나는 유전학, DNA 조작 및 사람들의 번식입니다. 또한 올바른 방식으로 "프로그래밍"됩니다 (당국, 기업, 군대).
이러한 불안의 현대적 구현은 대중화의 방법이다. CRISPR 유전자 편집 (삼). 포함된 메커니즘이 주로 우려됩니다. 원하는 기능 강제 다음 세대에 그들의 잠재력은 전체 인구로 퍼집니다. 이 기술의 발명가 중 한 명인 제니퍼 다우드나, 심지어 최근에는 잠재적으로 재앙적인 결과로 인해 이러한 "배엽" 편집 기술에 대한 모라토리엄을 요구했습니다.
몇 달 전 중국 과학자가 허젠쿠이 AIDS 바이러스에 대한 면역을 부여하기 위해 인간 배아의 유전자를 편집한 것에 대해 널리 비판을 받아왔습니다. 그 이유는 그가 만든 변화가 예측할 수 없는 결과와 함께 세대에서 세대로 이어질 수 있기 때문입니다.
특히 우려되는 것은 소위 d(유전자 재작성, 유전자 드라이브)입니다. 특정 개인의 DNA에 편집 시스템을 암호화하는 유전자 조작 메커니즘 CRISPR/CAS9 게놈 원하지 않는 유전자의 이 변종을 편집하도록 설정합니다. 이로 인해 후손은 자동으로 (유전 학자의 참여없이) 원하지 않는 유전자 변이를 원하는 것으로 덮어 씁니다.
그러나 바람직하지 않은 유전자 변이는 변형되지 않은 다른 부모로부터 "선물로" 자손에게 전달될 수 있습니다. 그러니 유전자 드라이브를 끊자 멘델의 유전법칙우성 유전자의 절반이 한쪽 부모의 자손에게 간다고 합니다. 요컨대, 이것은 결국 문제의 유전자 변이를 전체 인구로 확산시키는 결과를 낳을 것입니다.
스탠포드 대학의 생물학자 크리스티나 스몰케, 2016년 유전 공학에 관한 패널로 돌아가서 이 메커니즘이 유해하고 극단적인 경우 끔찍한 결과를 초래할 수 있다고 경고했습니다. 유전자 드라이브는 세대를 거치면서 돌연변이를 일으키고 혈우병이나 혈우병과 같은 유전 질환을 일으킬 수 있습니다.
리버사이드에 있는 캘리포니아 대학의 연구원이 Nature Reviews에 발표한 기사에서 읽은 것처럼 드라이브가 유기체의 한 개체군에서 의도한 대로 작동하더라도 동일한 유전 특성이 어떻게든 다른 개체군에 도입되면 해로울 수 있습니다. . 같은 모습.
또한 과학자들이 동료 검토 없이 닫힌 문 뒤에서 유전자 드라이브를 생성할 위험도 있습니다. 누군가 의도적이든 의도하지 않든 인플루엔자에 대한 우리의 저항력을 파괴하는 것과 같은 해로운 유전자 드라이브를 인간 게놈에 도입하면 호모 사피엔스 종의 종말을 의미할 수도 있습니다…
감시 자본주의
전직 공상과학 작가들이 거의 상상할 수 없었던 디스토피아 버전은 사람들의 사생활, 관계 및 심리적 온전함을 파괴하는 널리 알려진 결과를 가진 인터넷, 특히 소셜 미디어의 현실입니다.
이 세계는 2016년 에피소드 "The Diving"(4)의 Black Mirror 시리즈에서 볼 수 있었던 것과 같은 새로운 예술 공연에서만 그려집니다. 쇼샤나 주보프하버드 경제학자 인 는 이러한 현실을 사회적 자기 확인에 완전히 의존하고 완전히 "박탈"했다고 부릅니다. 감시 자본주의 (), 그리고 동시에 Google과 Facebook의 최고의 작품.
4. 블랙미러의 한 장면 - 에피소드 '다이빙'
Zuboff에 따르면 Google은 최초의 발명가입니다. 또한 예를 들어 무고해 보이는 "스마트 시티" 프로젝트를 통해 감시 활동을 지속적으로 확장하고 있습니다. Google 자회사인 Sidewalk Labs의 World's Most Innovative Neighborhood 프로젝트가 그 예입니다. 교각 토론토에서.
Google은 유비쿼터스 모니터링 센서의 도움을 받아 해안가 주민의 삶, 움직임 및 호흡에 대한 모든 가장 작은 데이터를 수집할 계획입니다.
페이스북에서 문제가 되지 않는 인터넷 디스토피아를 선택하는 것도 어렵습니다. 감시 자본주의는 구글에 의해 발명되었을지 모르지만 그것을 완전히 새로운 수준으로 끌어올린 것은 페이스북이었습니다. 이는 저커버그 플랫폼의 사용자가 아닌 사람들에 대한 사회적, 정서적 바이러스 메커니즘과 무자비한 박해를 통해 이루어졌습니다.
보호된 AI, 가상 현실에 몰입, UBI와 함께 생활
많은 미래학자에 따르면 세계와 기술의 미래는 AI, AR, VR, BC, UBI의 다섯 가지 약자로 지정됩니다.
"MT"의 독자는 아마도 그들이 무엇이며 처음 세 개가 무엇으로 구성되어 있는지 잘 알고 있을 것입니다. 친숙한 것은 또한 그것이 무엇인지 이해할 때 네 번째 "BC"로 밝혀졌습니다. 그리고 다섯 번째? UBD는 개념의 약자로 "보편적 기본소득 » (5). 이것은 다른 기술, 특히 AI가 발전함에 따라 직장에서 풀려난 모든 사람에게 주어질 것으로 때때로 가정되는 공공 혜택입니다.
5. 보편적 기본소득 - UBI
스위스는 지난해 이 아이디어를 국민투표에 부쳤지만 시민들은 보장된 소득을 도입하면 이민자들이 몰릴 것을 우려해 거부했다. UBI는 또한 기존의 사회적 불평등을 영속화할 위험을 포함하여 여러 가지 다른 위험을 수반합니다.
약어 뒤에 있는 각 기술 혁명(또한 참조:)이 예상되는 방향으로 확산되고 발전한다면 엄청난 양의 디스토피아를 포함하여 인류와 우리 세계에 막대한 결과를 초래합니다. 예를 들어, XNUMX년의 선거 주기를 대체하고 수많은 문제에 대한 국민투표로 이어질 수 있다고 믿어집니다.
차례로 가상 현실은 현실 세계에서 인류의 일부를 "제외"할 수 있습니다. 예를 들어 한국인 장지성은 2016년 난치병으로 딸을 잃은 뒤 VR에서 자신의 아바타를 만났다. 가상 공간은 또한 새로운 종류의 문제를 생성하거나 실제로 알려진 모든 오래된 문제를 "새로운" 세계 또는 심지어 다른 많은 세계로 이전합니다. 어느 정도 우리는 이미 소셜 네트워크에서 이것을 볼 수 있습니다. 게시물에 대한 좋아요가 너무 적으면 우울증과 자살로 이어집니다.
다소간 예언적인 이야기
결국, 디스토피아 비전 창조의 역사는 또한 예측을 공식화할 때 주의를 가르칩니다.
6. "Islands in the Net" 표지
작년에 촬영된 것은 리들리 스콧의 유명한 공상과학 걸작이었습니다.안드로이드 헌터» 1982년부터. 많은 특정 요소의 성취 여부에 대해 논의할 수 있지만, 우리 시대에 인간보다 여러 면에서 우월한 지능형 휴머노이드 안드로이드의 존재에 관한 가장 중요한 예언이 아직 현실화되지 않았다는 것은 논쟁의 여지가 없습니다.
우리는 더 많은 예언적 타격을 용인할 준비가 되어 있을 것입니다."신경술사»즉 소설 윌리엄 깁슨 1984년부터 그는 "사이버 공간"의 개념을 대중화했습니다.
그러나 그 XNUMX 년 동안 약간 덜 알려진 책이 등장하여 (폴란드어로 번역되지 않았기 때문에 거의 완전히 우리나라에서) 오늘날의 시간을 훨씬 더 정확하게 예측했습니다. 나는 로맨스에 대해 이야기하고 있습니다웹상의 섬"(6) 브루스 스털링 1988년부터 2023년을 배경으로. 그것은 "웹"으로 알려진 인터넷과 유사한 무언가에 몰입된 세계를 제시합니다. 그것은 큰 국제 기업에 의해 통제됩니다. "Islands on the Net"은 무료 인터넷을 제어, 감시 및 독점한다는 점에서 주목할 만합니다.
온라인 해적/테러리스트에 대한 무인항공기(드론)를 이용한 전투 작전을 예견하는 것도 흥미롭다. 안전한 데스크탑으로 수천 마일 떨어진 운영자 - 우리가 그것을 어떻게 알 수 있습니까? 이 책은 이슬람 테러와의 끝없는 투쟁이 아니라 세계화에 반대하는 세력과의 투쟁을 다룬다. Island in the Net의 세계는 또한 스마트워치 및 스마트 스포츠 신발과 매우 유사한 소비자 장치로 가득 차 있습니다.
80년대에 나온 또 다른 책이 있는데, 일부 사건은 더 환상적으로 보이지만 현대의 디스토피아적 공포를 잘 보여줍니다. 이것 "지오레이더 소프트웨어", 역사 루디 루커2020년으로 설정. 세계, 사회 상태 및 그 갈등은 오늘날 우리가 다루고 있는 것과 매우 유사해 보입니다. 자기 인식을 얻고 달의 도시로 탈출한 bopper로 알려진 로봇도 있습니다. 이 요소는 아직 구체화되지 않았지만 기계의 반란은 검은 예측의 끊임없는 후렴구가 되고 있습니다.
책에 나오는 우리 시대의 비전은 또한 여러 면에서 놀라울 정도로 정확합니다. 옥타비아 버틀러, 특히나씨 뿌리는 자의 비유»(1993). 이 작업은 2024년 로스앤젤레스에서 시작하여 기후 변화로 인한 홍수, 폭풍, 가뭄으로 황폐화된 캘리포니아에서 진행됩니다. 중산층과 노동계급 가족은 중독성 약물과 가상 현실 키트로 외부 세계를 탈출하려고 시도하면서 폐쇄된 커뮤니티에서 만납니다. 새로운 종교와 음모론이 등장하고 있습니다. 난민 캐러밴은 생태적, 사회적 붕괴를 피하기 위해 북쪽으로 향합니다. "Make America Great Again"이라는 캠페인 슬로건을 사용하는 대통령이 집권합니다 (도널드 트럼프의 슬로건입니다) ...
버틀러의 두 번째 책 "달란트의 비유새로운 종교 컬트의 구성원이 Alpha Centauri를 식민지화하기 위해 우주선을 타고 지구를 떠나는 방법을 알려줍니다.
***
수십 년 전에 우리의 일상 생활에 관한 예측과 비전에 대한 이 광범위한 조사가 주는 교훈은 무엇입니까?
아마도 사실은 디스토피아가 자주 발생하지만 대부분 부분적으로 만 발생한다는 것입니다.
