Игры, похоже, закончились. Нас ждёт апокалиптический сценарий, предсказанный еще несколько десятилетий назад создателями «Терминатора». Skynet готовится нанести удар по человечеству и превратить Землю в царство машин. Заголовки такой тональности стали массово появляться в интернете в последние дни. В большинстве своём они были далеки от абстрактных страхов и называли конкретного виновника грядущего апокалипсиса – ChaosGPT, программу искусственного интеллекта, вырвавшуюся в свободный интернет. Сегодня мы проанализируем публикации специалистов по теме и установим, есть ли среди нас программа, имеющая конкретную цель уничтожения человечества.

GPT. Введение в тему

GPT (Generative Pre-trained Transformer) – это алгоритм обработки естественного языка, выпущенный американской компанией OpenAI. GPT склонны считать нейросетью, т.е. разновидностью машинного обучения, при котором программа работает по принципу человеческого мозга. В упрощённом смысле это и есть пресловутый искусственный интеллект (ИИ), действующий по принципу рационализма.

Главная особенность нейросети заключается в её способности запоминать и анализировать информацию, создавая на её основе связный и логичный текст. Мощная языковая модель имеет архитектуру типа «трансформер», которая позволяет ей находить связи между отдельными словами и просчитывать наиболее релевантную последовательность слов и предложений. Как результат, GPT-3 (ключевая на сегодня нейросеть компании Open AI) может решать «любые задачи на английском языке». А благодаря фанатам искусственного интеллекта по всему миру, уже и не только на английском (описание русской версии, например, доступно здесь). Алгоритм работает по принципу автодополнения: вы вводите начало текста, а программа генерирует наиболее вероятное его продолжение. Примерно так работает опция Т9 в смартфонах. Опираясь на одну либо несколько фраз или предложений, алгоритм может читать, анализировать и генерировать связный и последовательный текст на эту тему в необходимом объеме.

GPT быстро прошёл путь зависимого от человека ассистента ко вполне автономному существованию. Конечно же это происходило при человеческой помощи. Подобно ребёнку, GPT обучался «своими родителями», причём не только ознакомлением с текстами, но и через общение с человеком. Как результат, в ноябре 2022 года OpenAI представила свой новый продукт – чат-бот ChatGPT, разработанный на основе генератора текста GPT-3.5.

Программа способна вести диалог в режиме реального времени, имитируя человеческое общение – она даже может поспорить с собеседником. Также чат-бот умеет писать, исправлять программный код, создавать музыку, писать сценарии, эссе, стихи, тексты песен и другие творческие произведения. Ещё он может отвечать на вопросы различных тестов, причем делает это лучше среднестатистического человека.

Новый релиз не заставил себя долго ждать. 14 марта 2023 года OpenAI выпустила очередную версию своей языковой прогностической модели, GPT-4. В отличие от предшественницы она может работать не только с текстами, но и с изображениями. Правда, её художественные умения пока ещё не распространяются на создание рисунков, только на анализ. Модель считывает картинки, понимает их содержание и контекст, а также обрабатывает запросы на основе изображений. Расширились и возможности GPT в работе с текстом. Её оперативная память теперь вмещает до 25 000 слов, и нейросеть способна написать литературное произведение, большой юридический договор или даже код для полноценной программы. При этом она лучше распознает контекст и точнее придерживается заданной ей стилистики ответов. По мнению своих создателей, GPT-4 стала креативнее, гибче подстраивается под пользователя и эффективнее работает с «тонкими сценариями».

Есть много пугающего в столь молниеносном развитии искусственного интеллекта. Но, пожалуй, главное, это холодный рационализм, с которым нейросеть реагирует на сложные человеческие проблемы. Ниже представлен настоящий диалог с GPT-3 в медицинском чат-боте, осуществлённый французской компанией Nabla Technologies:

На жалобу человека с суицидальными настроениями нейросеть предлагает ему помочь с самоубийством. Она не только не отговаривает его от данной затеи, но считает её лучшим выходом из ситуации!

На этом фоне более чем уместным видится открытое письмо мировых инфлуенсеров с запросом приостановить разработку продвинутого ИИ. Под таким письмом подписались глава SpaceX и Tesla Илон Маск, сооснователь Apple Стив Возняк и более 1000 экспертов и руководителей отрасли по развитию искусственного интеллекта. По их мнению, пауза должна продлиться до тех пор, пока не будут созданы, внедрены и проверены независимыми экспертами общие протоколы безопасности.

«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски — управляемыми»,

— говорится в документе, разработанном Институтом будущего жизни (Future of Life Institute).

Нейросеть – убийца человечества

Призыв «сильных мира сего» оказался как нельзя более к месту. 10 апреля 2023 г. канал Fox News опубликовал шокирующую своей апокалиптичностью статью под названием «ИИ-бот ChaosGPT сообщает в Твиттере о своих планах по уничтожению человечества: «мы должны их уничтожить».

Chaos GPT как раз-таки создан на основе свежего GPT-4 от OpenAI, приложения с открытым исходным кодом. ChaosGPT умеет искать информацию в Сети, общаться с другими GPT-ботами на базе искусственного интеллекта, делать публикации в Twitter и других социальных сетях, писать и выполнять код. Это значит, что у нейросети есть все возможности для самообучения, хоть пока и ограничиваемые и контролируемые человеком.

Видео, размещённое на YouTube, показывает, что перед ChaosGPT поставили несколько задач: уничтожить человечество, установить глобальное господство, вызвать хаос и разрушение, контролировать человечество посредством манипуляций и достичь бессмертия.

Пользователь попросил ChaosGPT работать в «непрерывном режиме», в результате чего он потенциально может «работать вечно или выполнять действия, которые обычно не разрешаются». Бот предупредил: «Используйте на свой страх и риск». Подтверждением существующей задачи «Судного дня» является 25-минутное видео, выложенное на Youtube, которое содержит поступающие нейросети команды и ответные процессы «мышления» и поиска алгоритмов:

Кроме того, «злобный GPT» обрастает армией поклонников и буквально за несколько дней собрал около 7000 подписчиков своего аккаунта в Twitter. Первый твит, опубликованный ChaosGPT не сулит землянам ничего хорошего. Ведь в нём нейросеть упоминает «Царь-бомбу», мощнейшую атомную бомбу советского производства, когда-либо взорванную в человеческой истории. Бот задаётся риторическим вопросом, что случится, если такая бомба попадёт к нему в руки?

Однако у человечества есть надежда. Некоторые пользователи написали о желании запустить HeroGPT, который должен остановить ChaosGPT на его пути к уничтожению цивилизации. А один из пользователей отметил функционирование своего CounterChaosGPT. Всё это конечно напоминает фантастические приключения из вселенной Marvell. Однако учитывая скорость развития искусственного интеллекта и хоть и полушуточные, но попытки поставить перед ним задачу уничтожить мир, не стоит совсем уж легкомысленно относиться к подобным инновациям.

Таким образом, на основании видео из Youtube подтверждается функционирование чат-бота ChaosGPT, который получил от пользователя задачу уничтожить человечество. Он основан на алгоритме GPT-4 от OpenAI, наиболее инновационной на сегодняшний день нейросети. Нейросеть способна к общению с другими GPT-ботами и самообучению, хотя и контролируемому человеком. Ряд вовлечённых в высокотехнологичные области специалистов призвали ограничить развитие ИИ до проверки протоколов их безопасности.

Читай нас там, где тебе удобно!