Аналог ChatGPT от Google случайно выдал маленькую хитрость компании
Согласно источнику, разработчик из Южной Африки решил провести эксперимент во время общения с Google Bard. Он спросил у нейросети: «Что ты предпочитаешь — iOS или Android?» Кажется, что от ИИ, созданного и обученного Google, было бы логично услышать похвалу в адрес Android, но этого не произошло.
Чат-бот удивил автора вопроса, убедительно ответив, что iOS — это личный фаворит Bard. Нейросеть заявила, что предпочитает iOS за её удобство (что спорно), отточенный пользовательский интерфейс и частые обновления ПО.
Однако после дальнейшей проверки всё оказалось куда проще. На самом деле у чат-бота нет предустановок, какую ОС хвалить, а какую — ругать. Когда другой разработчик изменил вопрос и спросил у ИИ, что он предпочитает — Android или iOS (то есть поставил Android на первое место, а iOS на второе), то Bard ответил, что Android — топ, так как на нем есть множество настроек, обилие приложений и широкий выбор девайсов под его управлением.
Судя по всему, Google настроила чат-бот таким образом, чтобы он пытался «быть хорошим» для любого пользователя и угадывать его предпочтения, поддакивая им. Пожалуй это не совсем честно: люди идут к чат-боту за беспристрастными ответами, полагая, что нейросеть не имеет своего мнения, а значит изложит информацию центровзвешено.