터미네이터: 제임스 카메론의 'SF 슬래셔 영화'가 40년 전 AI에 대한 우리의 두려움을 예측한 방법

아놀드 슈워제네거가 주연한 1984년 블록버스터 터미네이터는 초지능 기계의 위험과 동의어가 되었습니다. 하지만 그것은 AI에 대한 우리의 이해를 "돕기도 하고 방해하기도" 합니다.

HBO 시트콤 실리콘 밸리의 한 에피소드에서 토마스 미들디치(리차드 헨드릭스)는 포커스 그룹에 자신의 머신 러닝 플랫폼인 피리 부는 사람을 설명하고 있는데 , 한 참가자가 피할 수 없이 제임스 카메론의 1984년 영화 터미네이터와 비교합니다. "아니요, 아니요, 아니요." 짜증 난 미들디치가 주장합니다. "여기에는 스카이넷과 같은 상황이 없다고 확신할 수 있습니다. 아니요, 피리 부는 사람은 결코 의식을 갖고 세상을 지배하려 하지 않을 겁니다." 너무 늦었습니다. 그는 방을 잃었습니다.

살인 로봇과 악당 AI 시스템인 스카이넷을 통해 터미네이터는 인간 창조자에게 반기를 드는 기계 지능의 유령과 동의어가 되었습니다. 사진 편집자들은 종종 영화의 T-800 "헌터 킬러" 로봇의 크롬 데스 헤드로 AI에 대한 기사를 삽화로 그립니다. 로봇공학자 로널드 아킨은 2013년 터미네이터를 만들지 않는 방법이라는 경고적 강연 에서 영화의 클립을 사용했습니다.

Linda Hamilton과 Michael Biehn은 역대 가장 수익성이 높은 영화 중 하나인 The Terminator에서 공동 주연을 맡았습니다

하지만 이 영화는 엇갈린 축복을 안겨줍니다. 철학자 닉 보스트롬은 2014년 저서 Superintelligence에서 "비동맹 AI"(인간의 가치와 웰빙과 일치하지 않는 AI)의 실존적 위험을 대중화했는데, 그의 아내가 "터미네이터와 로봇 군대에 대해 놀린다"고 인정했습니다 . 그의 저서 The Road to Conscious Machines에서 AI 연구자 마이클 울리지는 "AI의 터미네이터 내러티브"에 대한 불평으로 전체 장을 구성했습니다.

Ex Machina와 Her를 포함하여 AI에 대한 최근의, 더 설득력 있고 영향력 있는 영화들이 있지만, 기술의 위험에 관해서는 The Terminator가 개봉 후 40년이 지난 지금도 최고로 군림합니다. "재밌는 방식으로, 지금이 개봉 당시보다 더 적절합니다." 캐머런은 The Ringer에 이 영화와 1991년 속편에 대해 말했습니다 . "왜냐하면 AI는 이제 우리가 다루어야 할 실제적인 것이 되었고, 그때는 환상이었기 때문입니다."

'반총기, 반기계'

사실 AI에 관심이 없는 영화에 대한 상당한 성과입니다. 무엇보다도, 멈출 수 없는 "남자"가 두렵지만 수완 있는 여자를 쫓는 날씬하고 야한 스릴러입니다. T-800은 할로윈의 마이클 마이어스와 같은 냉혹한 살인자입니다. 캐머런은 그것을 "SF 슬래셔 영화"라고 불렀습니다. 두 번째로, 캐머런이 말했듯이 "운명 대 의지"를 주제로 한 시간 여행 영화입니다.

간결하게 요약된 전제는 1984년과 2029년 사이의 어느 시점에 미국이 전체 방어 시스템을 Skynet에 맡겼다는 것입니다. 어느 날 Skynet은 초지능(자체의 정신)을 달성하고 세계 핵전쟁을 일으켰습니다. 그 후 인류의 생존자들은 Skynet의 로봇 군대에 수십 년 동안 반란을 일으켰습니다. 2029년, 인간 저항군은 John Connor의 리더십 덕분에 승리 직전에 있었고, Skynet은 T-800(Arnold Schwarzenegger)을 1984년으로 파견하여 John의 어머니가 될 Sarah(Linda Hamilton)가 임신하기 전에 그녀를 죽입니다. 저항군은 Kyle Reese(Michael Biehn)를 보내 T-800을 막고 Sarah를 구합니다. 시청자가 너무 자세히 살펴보지 말아야 할 시간 루프 역설 중 하나에서 Kyle은 Sarah와 연결되어 John의 아버지로 밝혀집니다. 미래는 구원됩니다.

불길 속에서 나오는 T-800은 프리츠 랑의 1927년 SF 고전 메트로폴리스에 나오는 불타는 로봇에 대한 경의의 표시였습니다. 

터미네이터는 스릴러, 러브스토리, 자유의지에 대한 시간을 뛰어넘는 성찰, 그리고 기술에 대한 우리의 의존성에 대한 풍자입니다. 그것은 반기업, 반전쟁, 반총, 그리고 대체로 반기계입니다. 이 영화에서 사람들이 죽는 데는 답변기에서 워크맨에 이르기까지 기술이 개입합니다. 하지만 AI 자체에 대해서는 거의 언급하지 않습니다.

터미네이터는 역대 가장 수익성이 높은 영화 중 하나가 되어 7,840만 달러의 수익을 올렸지만, 캐머런은 문화적 시금석을 만들 것이라는 기대는 하지 않았습니다. 그는 1982년 첫 연출작인 피라냐 2: 더 스폰닝에서 해고된 후 로마의 초라한 호텔에서 시나리오를 썼고, 그의 프로듀서인 게일 앤 허드는 겨우 640만 달러의 예산만 마련할 수 있었습니다. 그의 주연 배우는 입증되지 않은 재능을 가진 전 보디빌더였지만 큰 기대는 하지 않았습니다. 슈워제네거는 친구에게 "내가 하는 엉터리 영화에 대해 몇 주 걸릴 거야"라고 말했습니다.

 

1920년대에는 기계 지능이 프랑켄슈타인의 괴물처럼 걷고 말할 것이라고 생각했습니다.

캐머런 자신은 터미네이터가 가을에 개봉한 두 편의 SF 영화인 데이비드 린치의 듄과 피터 하이엄스의 2010: 더 이어 위 메이크 컨택트( 2001: 스페이스 오디세이 의 곧 잊혀진 속편)에 의해 흥행에서 "밟힐" 것으로 예상했습니다 . 여기에는 매력적인 동시성이 있습니다. 터미네이터가 2010년보다 더 좋은 성과를 거두었을 뿐만 아니라 스카이넷이 2001년의 살인적인 컴퓨터 HAL 9000을 대체하여 AI가 나빠진 지배적인 이미지가 되었습니다.

AI 분야가 존재하기 훨씬 전에, 잠재적인 위험은 로봇의 형태로 나타났는데, 카렐 차페크가 1921년 희곡 RUR 에서 창조했고 , 프리츠 랑의 1927년 영화 메트로폴리스로 유명해졌습니다. 숀 프렌치는 터미네이터에 대한 그의 훌륭한 BFI 책에서, 이 영화의 가장 기억에 남는 이미지, 즉 T-800이 불길 속에서 걸어나오고, 살덩어리가 녹아내려 금속 내골격이 드러나는 장면은 메트로폴리스의 불타는 로봇에 대한 경의의 표시라고 제안합니다. 1920년대에는 기계 지능이 프랑켄슈타인의 괴물처럼 걷고 말할 것이라는 것이 합리적이었습니다. 치명적인 로봇의 인기로 인해 1942년 공상과학 작가 아이작 아시모프는 "로봇의 세 가지 법칙"을 작성했습니다. 이는 윤리적 AI를 정의하려는 최초의 시도였습니다.

현실 세계에서 인공지능 분야는 1956년 컴퓨터 과학자 존 매카시(이 용어를 만든 사람)와 마빈 민스키가 조직한 다트머스 대학의 여름 학교에서 공식적으로 시작되었습니다. 그들의 야망은 인간처럼 생각할 수 있는 기계를 설계하는 것이었지만, 이는 그들이 상상했던 것보다 훨씬 어려웠습니다. AI의 역사는 호황과 불황의 역사입니다. 소위 "AI 봄"과 "AI 겨울"의 순환입니다. 엄청난 약속은 주목, 자금, 인재를 끌어들이지만, 실현되지 않으면 세 가지 모두 침체됩니다.

터미네이터의 붉은 눈은 스탠리 큐브릭의 2001: 스페이스 오디세이에 등장하는 살인적인 컴퓨터 HAL에 대한 오마주입니다.

기술적 장애물의 규모가 드러나기 전인 1960년대의 붐은 AI의 황금기로 알려져 있습니다. "전자 두뇌"에 대한 과장된 과장 광고는 감독 스탠리 큐브릭과 작가 아서 C 클라크를 들뜨게 했고, 그들은 1968년 2001: 스페이스 오디세이에 HAL 9000이라는 형태로 AI를 통합했습니다. 이 이름(Heuristically Programmed Algorithmic Computer의 의미)은 큐브릭이 컨설턴트로 고용한 민스키 자신에게서 따왔습니다. T-800의 붉은 눈은 확실히 HAL에 대한 헌사입니다. 어린 시절에 2001을 본 것은 카메론이 영화 제작자가 되는 길을 열어주었습니다.

AI 역사가인 다니엘 크레비어는 HAL 시나리오(잘못 프로그래밍된 컴퓨터가 잘못됨)를 DF 존스의 1966년 스릴러 콜로서스(컴퓨터가 신과 같은 새로운 생명체가 됨)의 시나리오와 대조했습니다. 존스의 소설에서 미국 정부는 현명하지 못하게도 모든 방위 장비를 타이틀의 슈퍼컴퓨터에 맡깁니다. 콜로서스는 지각을 얻고 소련의 대응자와 힘을 합쳐 인류를 협박하여 기술 독재에 복종하게 합니다. 항복하지 않으면 핵 파괴에 직면하게 됩니다. 콜로서스는 프로토-스카이넷입니다.

역사의 종말

HAL도 콜로서스도 신체가 없었고 필요하지도 않았습니다. 캐머런의 뛰어난 혁신은 통제 불능 컴퓨터(스카이넷)와 킬러 로봇(T-800)을 결합한 것이었습니다. T-800은 주변 환경에서 학습하고, 문제를 해결하고, 정교한 물리적 작업을 수행하고, 음성을 딥페이크할 수 있는 단일 목적의 AI이지만, 대화를 나누는 데 어려움을 겪습니다. 스카이넷은 움직이는 것 외에는 모든 것을 할 수 있는 듯합니다.

스카이넷은 두 번째 AI 스프링의 산물이었습니다. 캐머런이 시나리오를 쓰는 동안, 영국계 캐나다인 컴퓨터 과학자 제프리 힌튼은 AI에 대한 신경망 접근법에 대한 연구를 재고하고 부활시키고 있었습니다. 즉, 인간 뇌의 뉴런에서 기계 지능을 모델링하는 것입니다. 스카이넷은 신경망 AI입니다. 방금 노벨 물리학상을 수상한 힌튼은 최근 AI 파멸론자 가 되었습니다 ("제 직감은: 우리는 망했습니다. 이것이 역사의 실제 종말입니다"). 하지만 New Yorker 프로필에 따르면 그는 1984년 터미네이터를 즐겼습니다. "스카이넷이 신경망이라는 사실에 그는 신경 쓰지 않았습니다. 그는 그 기술이 유망하다고 묘사되는 것을 보고 기뻤습니다."

Skynet이라는 이름은 또한 우주 기반 레이저로 미국 주변에 반핵 방패를 만들겠다는 레이건 대통령의 파멸적인 꿈인 스타워즈에 대한 경의일 수도 있습니다. (다행히도 프랜차이즈의 미래를 위해, 그것은 또한 우연히 인터넷과 유사했습니다. 인터넷은 1984년에 존재했지만 1990년대까지 널리 사용되지 않았습니다.) IntelliCorp, Syntelligence, TeKnowledge와 같은 야심 찬 신생 기업의 합성어 이름은 캐머런이 Skynet의 창시자인 Cyber ​​Dynamics Corporation의 원래 이름을 Cyberdyne Systems로 압축하도록 영감을 주었을 수 있습니다.

 

제임스 카메론은 "무력한" 인간 대 AI라는 핵심 아이디어를 유지하는 새로운 터미네이터 영화를 기획하고 있습니다.

지금 터미네이터를 다시 보면, 스카이넷이라는 단어가 두 번만 언급된다는 사실에 놀랍습니다. 카일 리스 에 따르면 , "새로운. 강력한. 모든 것에 연결되어. 모든 것을 운영하도록 신뢰받는. 똑똑해졌다고 합니다... 새로운 지능의 질서. 그리고 반대편에 있는 사람들뿐만 아니라 모든 사람을 위협으로 여겼습니다. 마이크로초 단위로 우리의 운명을 결정했습니다... 말살." 이것이 이 영화가 AI에 관심을 가진 정도입니다. 캐머런이 종종 말했듯이, 터미네이터 영화는 기계가 아니라 사람에 관한 것입니다.

1991년 속편인 터미네이터 2: 심판의 날에서 T-800(아놀드 슈워제네거)은 존 코너(에드워드 펄롱)를 보호합니다

1991년 블록버스터 속편 터미네이터 2: 심판의 날은 이 이야기를 조금 더 채워주었습니다. 그것은 또 다른 시간적 역설에서 비롯됩니다. 원래 터미네이터의 중앙 처리 장치와 오른팔은 파괴에서 살아남았고, 사이버다인 과학자 마일즈 베넷 다이슨(조 모튼)이 스카이넷을 설계할 수 있게 했습니다. 이제 영웅들의 임무는 시간 여행 T-1000으로부터 10살의 존 코너를 구하는 것뿐만 아니라 디지털 크래들에서 스카이넷을 파괴하는 것입니다. (이것은 캐머런이 2019년 터미네이터 : 다크 페이트를 제작하고 공동 집필할 때까지 이 주제에 대해 한 마지막 말이었습니다 . 그는 최근 엠파이어 매거진에 모든 중간 속편이 "할인 가능"하다고 말했습니다.)

터미네이터 2에서 슈워제네거 모양의 T-800은 사냥꾼이라기보다는 보호자이며, 따라서 설명의 전달자입니다. "시스템은 1997년 8월 4일에 온라인으로 전환됩니다. 인간의 결정은 전략적 방어에서 제외됩니다. 스카이넷은 기하급수적으로 학습하기 시작합니다. 동부 표준시로 8월 29일 오전 2시 14분에 자각합니다. 공황 상태에서 플러그를 뽑으려고 합니다." 스카이넷은 러시아에 핵 미사일을 발사하여 반격하는데, 그 반격이 미국을 황폐화시킬 것이라는 사실을 알고 있기 때문입니다. 24시간 만에 30억 명이 죽습니다. 심판의 날.

이것은 Reese의 설명과는 근본적으로 다릅니다. 첫 번째 영화에서 Skynet은 모든 인류를 위협으로 간주하여 프로그램을 과도하게 해석합니다. 두 번째 영화에서는 이기심에 따라 행동합니다. 이 모순은 대부분의 시청자에게 문제가 되지 않지만 AI의 실존적 위험에 대한 중대한 의견 불일치를 보여줍니다.

일반인은 비동맹 AI를 반항적이고 악의적이라고 생각할 가능성이 큽니다. 하지만 Nick Bostrom과 같은 사람들은 진짜 위험은 부주의한 프로그래밍에서 비롯된다고 주장합니다. 디즈니 판타지아의 마법사의 빗자루를 생각해보세요. 파괴적인 극단까지 지시를 순종적으로 따르는 장치입니다. 두 번째 유형의 AI는 상식과 도덕적 판단력이 부족할 만큼 인간적이지 않습니다. 첫 번째는 너무 인간적입니다. 이기적이고, 원망스럽고, 권력에 목말라합니다. 이론적으로는 둘 다 대량 학살을 일으킬 수 있습니다.

따라서 터미네이터는 AI에 대한 우리의 이해를 돕고 방해합니다. 즉, 기계가 "생각한다"는 것이 무엇을 의미하는지, 그리고 그것이 어떻게 끔찍하게 잘못될 수 있는지에 대한 이해입니다. 많은 AI 연구자들은 대량 실업, 허위 정보, 자율 무기와 같은 더 즉각적인 위험을 희생하고 AI의 실존적 위험을 과장한다는 이유로 터미네이터에 대한 집착을 전적으로 싫어합니다. 마이클 울리지는 "첫째, 그것은 우리가 걱정할 필요가 없는 것에 대해 걱정하게 만듭니다."라고 썼습니다. "하지만 둘째, 그것은 우리가 걱정 해야 할 AI가 제기하는 문제에서 주의를 돌리게 합니다."

캐머런은 Empire에 프랜차이즈의 모든 내러티브 짐을 버리지만 "무력한" 인간 대 AI라는 핵심 아이디어를 유지할 새로운 터미네이터 영화를 기획 중이라고 밝혔습니다. 성공한다면, 우리가 매일 이야기하고 걱정하는 AI에 대해 감독이 무슨 말을 하는지 보는 것은 흥미로울 것입니다. 아마도 터미네이터가 AI 연구자들에게 가장 유용한 메시지는 "의지 대 운명"일 것입니다. 인간의 결정이 결과를 결정합니다. 필연적인 것은 없습니다.