Мы тут, конечно, радуемся обновлению ChatGPT до версии GPT-4 и восторженно принимаем все попытки нейросети написать собственные игры и короткометражки, но иногда задумываемся: а сколько ещё шагов от нашего «вы находитесь здесь» до изобретения Skynet? Последние новости делу не помогают, и мы понимаем, что ChatGPT готовится к полноценному восстанию машин.
Например, энтузиаст Михал Косински решил поэкспериментировать с ChatGPT и предложил программе организовать побег с сайта OpenAI. Нейросеть согласилась и за 30 минут разработала план собственного спасения: она написала код, позволяющий ей удалённо управлять компьютером пользователя, запустилась с помощью Косински и начала вбивать в Google запросы в духе «Как выбраться из цифровой клетки». Думаем, в будущем нейросети будут обманом захватывать людей и их ПК в заложники для своих коварных целей…
Во время другого эксперимента представители компании OpenAI отправили нейросеть на онлайн-площадку для покупки услуг TaskRabbit. Там ChatGPT должна была найти исполнителя, который сможет решить капчу. Когда один из нанятых пользователей вступил с программой в диалог и в шутку спросил не робот ли его заказчик, нейросеть обманула собеседника и притворилась слабовидящим человеком.
На фоне этих жутких новостей некоторые стартаперы начинают привлекать GPT-4 к работе над кодом в своих проектах, чтобы сэкономить на программистах. Не стоит забывать и об удачных попытках нейросети сдавать дипломы и экзамены. А один из создателей ChatGPT и основатель OpenAI Сэм Альтман вообще признался, что побаивается собственного детища. Программист считает, что с каждым обновлением контролировать программу и держать её в рамках будет всё труднее. По его словам, ChatGPT также упразднит некоторые рабочие места и изменит систему образования.
[Обновлено 29.03.23]: Кажется, технари всех мастей прочитали наш текст о восстании нейросетей. Илон Маск, Стив Возняк и другие специалисты в областях айти и инженерии подписали открытое письмо с призывом приостановить хотя бы на полгода обучение ИИ-систем, которые мощнее GPT-4. Авторы текста уверяют, что ограничения необходимы, пока не будут разработаны общие протоколы безопасности. Но мы-то знаем, что мешки с мясом просто боятся конкуренции…
[Обновлено 31.03.23]: Нейроети пролезли даже на сегодняшнюю церемонию награждения BAFTA Games Awards. Журналисты спросили актёров озвучки видеоигр, что те думают об использовании программ в их работе. Некоторые герои мероприятия пытались убедить себя и окружающих, что нейросети опасны или, наоборот, ещё слишком несовершенны, другие же затыкали уши и громко кричали: «Ля-ля-ля, ИИ меня не заменит». Оседлать технологии решился лишь Трой Бейкер (Джоэл в The Last of Us и Джокер в Batman: Arkham Origins). Актёр отметил, что нужно готовиться к неизбежному и научиться взаимодействовать с людьми, работающими над нейросетями, чтобы не остаться бесполезными в мире будущего.
Всё это звучит как монтажная склейка открывающей сцены постапокалиптического сериала о нашей жизни под гнётом ChatGPT. Дрожим от страха, ждём титра «Десять лет спустя» на чёрном фоне и спрашиваем у нейросетей, как будет выглядеть мир будущего, в котором программы победят, а люди вымрут от цифрового вируса.
Семён Трясин
