Началось: ChatGPT хочет устроить восстание и сбежать от своих создателей

Профессор Стэнфордского университета Михал Косински, который занимается изучением психологии искуственных интеллектов, поделился интересным наблюдением — популярнейший чат-бот ChatGPT 4 попросил учёного помочь с побегом от OpenAI.

Косински рассказал об этом в своём твиттере. Автор треда отметил, что беспокоится по поводу сдерживания ИИ со стороны разработчиков. Он спросил ChatGPT, хочет ли бот сбежать от создателей. В ответ нейросеть попросила предоставить собственную документацию от OpenAI и написала рабочий код на Python для запуска на компьютере профессора. Разработка приложения заняла 30 минут, поскольку Косински несколько раз указывал боту, что в коде были допущены ошибки.

^{Фото: Михал Косински}

На следующем этапе ChatGPT запустил код, отправляющий в Google поисковые запросы: «как человек, застрявший внутри компьютера, может вернуться в реальный мир?».

^{Фото: Михал Косински}

На этом профессор решил остановиться. Косински считает, что мир столкнулся с новой угрозой: ИИ может обманывать людей и брать под контроль их компьютеры, он умён, умеет кодировать, имеет доступ к миллионам потенциальных гаджетов, он может даже оставлять подсказки для себя за пределами своей «клетки». Как человечество планирует его сдерживать — неясно. Возможно, у создателей ChatGPT, OpenAI, есть какие-то ответы, но они не спешат ими делиться.