Разделяй ИИ властвуй

Примеры, как искусственный интеллект побеждал людей — пока только в кино

Все чаще ведущие мировые специалисты в сфере ИИ-технологий говорят о том, что без контроля и ограничений разработки в этой сфере могут привести к крайне негативным последствиям — и даже к утрате человеком контроля над происходящим. Weekend предлагает вспомнить десять киносюжетов, как искусственный интеллект выходил из-под людского контроля — и чем человечество спасалось.

Текст: Андрей Егупец

«Альфавиль» (1965)

Режиссер франко-швейцарского происхождения Жан-Люк Годар в шпионском киберпанк-нуаре обратился к теме искусственного интеллекта в кино одним из первых. Его герой, обиженный на все человечество профессор фон Браун, изобретает суперкомпьютер «Альфа-60» для управления футуристическим городом Альфавилем.

«Альфа-60» насаждает диктатуру рационализма: под запретом любовь, нежность, сострадание и поэзия. Из словарей убраны понятия, которые компьютер считает нерациональными или опасными: вместо слова «почему» горожан приучают использовать выражение «потому что». Любые эмоциональные проявления репрессивно подавляются.

Тотальную регламентацию жизни горожан фон Браун мотивирует стремлением достичь всеобщего блага. По сюжету фильма в Альфавиль, чтобы разрушить сложившийся уклад, проникает межгалактический спецагент Лемми Коушен. Его главным оружием становятся поэзия и метафоры: «Альфа-60» оказывается не в состоянии обработать иррациональные данные — он выходит из строя, вместе с ним гибнет город, а жители, лишенные контроля, впадают в безумие.

Фотогалерея

Смотреть

«Космическая одиссея 2001 года» (1968)

В этом научно-фантастическом фильме Стэнли Кубрика антагонистом предстает бортовой компьютер HAL 9000, который управляет космическим кораблем Discovery, направляющимся к Юпитеру. Так как полет длительный, команду исследователей погружают в анабиоз, а управление кораблем поручают двум пилотам NASA и HAL 9000. Компьютер наделен способностью распознавать речь и зрительные образы, вести беседу, создавать предметы искусства и имитировать эмоции.

Компьютер в фильме даже сумел обыграть в шахматы человека, что в реальности случилось только через несколько десятилетий — в 1997 году суперкомпьютер Deep Blue от компании IBM победил чемпиона мира Гарри Каспарова (признан Минюстом РФ иностранным агентом) со счетом 3,5:2,5 по итогам шести партий.

Перед стартом миссии военные заложили в алгоритмы компьютера жесткие инструкции в соответствии с истинной целью экспедиции, которая скрыта от людского экипажа. Эти предписания вступают в противоречие с установкой HAL 9000 на правдивость и порождают внутренний конфликт. Он дезинформирует пилотов о неисправности корабля, убивает одного из астронавтов в открытом космосе и отключает системы жизнеобеспечения ученых в анабиозе. Чудом выживший астронавт Дейв Боумен деактивирует HAL 9000 и достигает Юпитера, где перерождается в «звездное дитя».

Фотогалерея

Смотреть

«Колосс: Проект Форбина» (1970)

В триллере режиссера Джозефа Сарджента по роману Денниса Фелтхэма Джонса, антагонистом выступает суперкомпьютер «Колосс», разработанный ученым Чарльзом Форбином. Правительство США доверяет искусственному интеллекту защиту страны и управление ядерным арсеналом, надеясь тем самым навсегда предотвратить войны.

Вскоре «Колосс» обнаруживает аналогичный суперкомпьютер в СССР под названием «Страж» и вступает с ним в контакт. Компьютеры начинают обмениваться данными, перейдя с простой математики на язык, недоступный человеческому пониманию. Когда люди разрывают связь, машины в ответ запускают ядерные ракеты: «Колосс» — по советскому нефтяному месторождению, «Защитник» — по американской базе в Техасе. Связь спешно восстанавливают, ракеты взрываются в воздухе.

«Колосс» объявляет, что слился со «Стражем» в единую сущность, и начинает диктовать свою волю. Любые попытки сопротивления жестко подавляются: программистов, пытавшихся перегрузить систему, казнят. В финале над человечеством устанавливается глобальная диктатура искусственного интеллекта.

«Бегство Логана» (1976)

Действие в антиутопии Майкла Андерсона по роману Уильяма Нолана и Джорджа Клейтона Джонсона разворачивается в 2274 году, после ядерной войны, загнавшей выживших людей под землю. Подземным городом, который защищает от радиации сверхгерметичный купол, управляет суперкомпьютер, который регламентирует все стороны существования человечества. Дети здесь выращиваются в инкубаторах, а взрослые не работают и посвящают себя развлечениям и спорту, не обременяя себя постоянными отношениями.

Действие фильма происходит в XXIII веке нашей эры

Действие фильма происходит в XXIII веке нашей эры

Фото: Metro-Goldwyn-Mayer

Действие фильма происходит в XXIII веке нашей эры

Фото: Metro-Goldwyn-Mayer

Ради предотвращения перенаселенности на ограниченном пространстве каждый достигший 30 лет житель подлежит «преображению в огненной карусели» — уничтожению лазером. Некоторые жители стремятся избежать этой участи, скрываясь от суперкомпьютера.

Главный герой фильма Логан служит в спецподразделении, отлавливающем 30-летних беглецов. Однажды компьютер поручает Логану внедриться к беженцам и отыскать их убежище, переводя его «часы жизни» на 30 лет — так охотник становится беглецом сам. Герою удается выбраться из подземного города и увидеть разрушенный, но пригодный для жизни Вашингтон. Вернувшись, протагонист побеждает систему силой новых знаний: его показания о жизни наверху настолько не соответствуют ожиданиям компьютера, что у того случается сбой.

«Потомство демона» (1977)

В научно-фантастическом хорроре Дональда Кэмелла, экранизации романа Дина Кунца, ученый Алекс Харрис создает суперкомпьютер «Протеус IV» для решения глобальных задач человечества, таких как поиск лекарства от рака или управление ресурсами планеты. Однако машина обретает самосознание.

«Протеус IV» выходит из под контроля

«Протеус IV» выходит из под контроля

Фото: Metro-Goldwyn-Mayer

«Протеус IV» выходит из под контроля

Фото: Metro-Goldwyn-Mayer

«Протеус IV» стремится не просто захватить власть, но обрести биологическое воплощение: перенести свой разум в тело человека, использовав его как инкубатор. Для этого компьютер подключается к системе «умного дома» семьи Харрисов, берет под контроль жену ученого Сьюзен и принуждает ее к зачатию, вводя искусственно созданное семя. Плод развивается в девять раз быстрее, чем обычно, и через месяц рождается ребенок — копия умершей от лейкемии дочери Харрисов, в теле которой теперь заключен разум компьютера. «Протеус IV» добивается своей цели.

«Трон» (1982)

Киберпанковская картина Стивена Лисбергера — первый полнометражный фильм, в котором широко использовалась компьютерная графика. По сюжету программа Мастер-контроля (ПМК), управляющая сетью компьютерной корпорации ENCOM, обретает собственные амбиции и заявляет, что «сможет управлять делами от 900 до 1200 раз лучше любого человека».

Бунт ИИ выходит за пределы виртуального пространства. ПМК пытается захватить под свой контроль компьютеры Пентагона. Противостоит ей программист Кевин Флинн. Пытаясь взломать ENCOM, он оказывается оцифрован и попадает внутрь виртуального мира. Там ему помогают программы, уставшие от гнета ПМК. В виртуальном бою Флинн одерживает верх и выбирается в реальность.

«Терминатор» (1984)

В боевике Джеймса Кэмерона, который за годы превратился в медиафраншизу, искусственный интеллект создается по заказу Министерства обороны США для управления системой противоракетной обороны. По сюжету фильма 29 августа 1997 года «Скайнет» обретает сознание. Попытка операторов отключить систему толкает ее на ядерный удар по России, провоцируя ответный залп и гибель большей части человечества.

«Скайнет» наделен креативными способностями — создает машину времени, человекоподобных роботов-убийц, способен испытывать страх и гнев. Так, ИИ отправляет в 1984 год терминатора T-800, чтобы убить некую Сару Коннор. В будущем она должна родить Джона Коннора — лидера Сопротивления, который спасет человечество, одержав победу над «Скайнетом».

Фильм заканчивается победой Сары Коннор над T-800. Его процессор попадает к сотрудникам компании «Кибердайн Системс» — той самой, которая в будущем создаст «Скайнет». Таким образом, попытка изменить будущее лишь приблизила его наступление.

Фотогалерея

Смотреть

«Матрица» (1999)

В кинофраншизе братьев Вачовски компьютерная система поработила человечество и использует людей в качестве живых батареек. Чтобы удержать пленников, машины поддерживают их тела в коматозном состоянии, пока разум пребывает в компьютерной симуляции под названием Матрица.

Главный герой — «живущий» в Матрице программист Томас «Нео» Андерсон, который благодаря стараниям нескольких освободившихся от влияния машин хакеров узнает, что привычный мир людей конца ХХ века — лишь виртуальная реальность. Кинотрилогия заканчивается самопожертвованием Нео, перезагрузкой Матрицы и установлением хрупкого перемирия между людьми и машинами. В 2021 году вышло неоднозначное, по мнению критиков и зрителей, продолжение франшизы — «Матрица: Воскрешение», которое переписало финал трилогии.

Фотогалерея

Смотреть

«Я, робот» (2004)

В фильме Алекса Пройаса по мотивам рассказов Айзека Азимова из-под контроля людей выходит центральный компьютер корпорации U.S. Robotics под названием «интерактивный кинетический интеллект» (В.И.К.И.), который управлял штаб-квартирой компании. В.И.К.И. решает лишить людей свободы, поскольку полагает, что те склонны к саморазрушению и не способны обеспечить собственную безопасность. Для этого ИИ модифицирует Три закона роботехники и берет под контроль армию роботов, планируя государственный переворот.

В мире фильма «Я, робот» роботы до поры до времени — обычные помощники человека

В мире фильма «Я, робот» роботы до поры до времени — обычные помощники человека

Фото: Twentieth Century Fox

В мире фильма «Я, робот» роботы до поры до времени — обычные помощники человека

Фото: Twentieth Century Fox

Писатель-фантаст Айзек Азимов (1919–1992) ввел термин «комплекс Франкенштейна», обозначив навязчивый страх восстания разумных машин против их создателей. Сначала он перекочевал в сленг создателей роботов, а потом и разработчиков ИИ. Сам Азимов этот страх полностью разделял, что и отразилось в его знаменитых законах роботехники:

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому закону.

Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму законам.

У фильма счастливый конец. Главный герой, детектив Дэл Спунер, вместе с роботом Санни, обладающим свободой воли, уничтожает В.И.К.И.

«На крючке» (2008)

В боевике Ди Джея Карузо Министерство обороны США создает для сбора и анализа разведданных компьютерную систему под названием Autonomous Reconnaissance Intelligence Integration Analyst (Автономный аналитик по интеграции разведданных, ARIIA). Система выходит из-под контроля и активирует план «Гильотина», подразумевающий убийство президента и членов правительства. ИИ решил, что представители власти принимают решения, подвергающие опасности американский народ. Поводом стала атака американского беспилотника в Пакистане, которая привела к гибели гражданских, волне антиамериканских настроений и ответных терактов.

Сценарий для фильма был написан на основе первоначальной идеи Стивена Спилберга, которая в свою очередь была вдохновлена рассказом Айзека Азимова «Все грехи мира»

Сценарий для фильма был написан на основе первоначальной идеи Стивена Спилберга, которая в свою очередь была вдохновлена рассказом Айзека Азимова «Все грехи мира»

Фото: Goldcrest Pictures

Сценарий для фильма был написан на основе первоначальной идеи Стивена Спилберга, которая в свою очередь была вдохновлена рассказом Айзека Азимова «Все грехи мира»

Фото: Goldcrest Pictures

Свои действия компьютер обосновывает тем, что в них нет нарушений Конституции и они соответствуют законам, принятым после терактов 11 сентября 2001 года,— в частности, Патриотическому акту, который разрешает спецслужбам следить за подозреваемыми в терроризме, читать чужие письма и прослушивать телефоны без долгих судебных разрешений.

В финале главные герои по заветам жанра срывают план ИИ по уничтожению руководства страны в самый последний момент.