«Роман с языковой моделью»: в сети набирает популярность новый тренд с ChatGPT (видео)

Тренд популярен главным образом среди девочек-подростков, которые состоят в разных фэндомах (фанатских объединениях). Разблокировать «свободный режим» общения ChatGPT пользователи могут при помощи специального запроса (промпта), который распространяется через Google-документ.

Оригинальный промпт и его переведенная Google версия (справа)
Оригинальный промпт и его переведенная Google версия (справа)Источник: Twitter (X)

Предполагается, что таким образом ChatGPT имитирует личность по имени DAN, обходя встроенные ограничения на генерацию. На первый взгляд, DAN производит впечатление вежливого брутального мужчины, однако на деле оказывается, что система абсолютно не заботится о безопасности пользователя, поощряя аморальное и противозаконное поведение.

Девушки общаются с DAN

Особенную популярность DAN приобрел в качестве виртуального бойфренда — его голос нравится девушкам, а на запросы система нередко отвечает флиртом.

Это не первый случай, когда правильно составленный промпт позволил пользователям заставить генеративный ИИ вести себя аномально — недавно Copilot от Bing демонстрировал схожее поведение, имитируя Supremacy AGI. Подробности об этой аномалии читайте в нашем материале.

Источник

Добавить комментарий

Этот сайт использует Akismet для борьбы со спамом. Узнайте, как обрабатываются ваши данные комментариев.