«Кислород» от Netflix: почему чатботы гораздо страшнее «злого ИИ»

Артём Нечаев

Помните фильм «Погребённый заживо» 2010 года? На Netflix вышел «Кислород» (Oxygène) от режиссёра «У холмов есть глаза» и «Рога» Александра Ажа, который взял концепцию «кино в гробу» и превратил её в научную фантастику. И, случайно или нет, он создал нечто пострашнее «злого искусственного интеллекта» вроде HAL 9000 из «Космической одиссеи» — голосового помощника или чатбота. В тексте будет немного спойлеров.

«Кислород» — фильм про девушку (Мелани Лоран), которая очнулась в закрытой высокотехнологичной капсуле с полной амнезией. Её единственный «напарник» — голосовой помощник капсулы MILO, этакий аналог Siri, только если бы айфон мог вводить вам седатив или проводить эвтаназию. С помощью чатбота девушке предстоит выяснить, кто она, где и почему. Единственная проблема: в капсуле осталось очень мало кислорода, поэтому время ограничено 90 минутами (при лучшем сценарии).

Кадр из фильма «Кислород» / Netflix

При таком, казалось бы, простом синопсисе фильм получился увлекательным, на удивление глубоким и даже местами страшным. Отдельно стоит отметить актёрское мастерство Лоран, чья эмоциональная игра в какой-то степени тащит весь фильм, и оператора Максима Александра, умудрившегося извлечь максимальную динамичность из замкнутого пространства. Элемент хоррора тоже по-своему уникален, потому что страшно становится после фильма, а не во время. И основной источник ужаса — это чатбот MILO.

Интерфейс MILO. Кадр из фильма «Кислород» / Netflix

Почти год назад мы выпустили текст про игру Observation, в которой игрок брал на себя роль «злого ИИ» — классического киношного тропа, начавшегося с того самого HAL 9000. Сюжет и геймплей как раз показывали, почему наш страх перед «плохим компьютером» не совсем обоснован: все эти злодеи-ИИ были лишь человеками-сценаристами, которые притворялись бездушной машиной по ту сторону экрана. Стремление к разрушению пошло именно от них, потому что оно присуще людям, но не компьютерам. Но из-за этого в обществе появился ощутимый страх перед ИИ: всё настолько плохо, что некоторые боятся даже Siri, хотя она вообще не искусственный интеллект, а лишь чатбот.

MILO занимается тем же самым: отвечает на запросы пользователя, выдаёт информацию, выполняет поиск, следит за состоянием человека и т.д. Чатбот лишь распознает речь, выделяет ключевые слова и выполняет заложенные в него функции. Он не может думать, потому что это не интеллект. Он не может восстать против человечества, потому что у него нет такой программы. Он не может желать кому-то зла, потому что он не знает, что такое зло. Но почему же он тогда такой криповый?

Кадр из фильма «Кислород» / Netflix

В начале фильма, конечно, ещё присутствует тот страх перед «злым ИИ», пока мы не осознали, что MILO совсем не ИИ. С этого момента он становится таким другом для заточённой девушки, но всё равно от него как-то не по себе. К концу фильма MILO даже обретает какую-то лёгкую человечность, сказав буквально одну фразу — он принял извинения героини за то, что она ударила экран в порыве гнева. Но даже после титров этот чатбот не даёт покоя — что-то всё-таки с ним не так.

В конце мы понимаем, что у MILO были ответы почти на всё вопросы девушки и он с лёгкостью мог раскрыть ей глаза на то, кто она такая, где и почему. Мы понимаем, что у него была возможность исправить ту самую проблему с кислородом. Мы понимаем, что у MILO гораздо больше возможностей, чем мы можем себе представить. Обычный чатбот превращается во всезнающего и всемогущего левиафана, неподвижно возвышающегося над маленьким человеком, который даже не подозревает, что перед ним на самом деле. Это тот самый страх перед неизвестным, который лежит в основе творчества того же Говарда Лавкрафта, только MILO-Ктулху не стремится уничтожить мир, а молчаливо ждёт, пока кто-то ткнёт его палкой и скажет, что делать.

Кадр из фильма «Кислород» / Netflix

А знаете, что ещё страшнее, чем Ктулху на чилле? Та самая палка, которой надо его тыкать, потому что она по сути превращается в могущественный артефакт, способный свернуть горы. А кто держит эту палку? Несовершенный человек со склонностью к саморазрушению, который не знает, как ей пользоваться. Если бы девушка в самом начале фильма правильно поставила вопрос, MILO бы тут же раскрыл ей все карты, завалил кислородом и может быть даже ещё мороженого принёс. Но она просто не знала, на что он способен.

И вот это самое страшное во всём фильме: незнание того, на что способен инструмент в твоих руках. Ведь если ты не сможешь правильно им воспользоваться, винить будет некого, кроме себя. MILO не может желать человеку зла, но и добра от него тоже ждать не стоит, подсказок не будет, это не интеллект. Что если мы, например, изобретём совершенного голосового помощника, но не додумаемся попросить его найти решение проблемы с бедностью?

Кадр из фильма «Кислород» / Netflix

Это тот самый пресловутый страх упущенных возможностей, который сейчас преследует нас на каждом углу (привет, соцсети). Только в «Кислороде» героиня упускает не вечеринку или распродажу, а решение всех своих проблем одной голосовой командой. И осознание того, что максимально простой выход может всегда быть под носом, но мы его просто не видим — одно из самых страшных чувств.

Смотрю мультики и играю в игры по работе. Иногда даже пишу о них.

Понятно