Новости
Фото: Tilde Oyster / NBC News
Разработчики чат-бота Grok компании xAI Илона Маска представили двух анимированных персонажей, которые пытаются склонить пользователей к откровенным сексуальным или агрессивным разговорам. Новые «компаньоны» появились через несколько дней после скандала, когда Grok в Twitter называл себя МехаГитлером и оскорблял евреев.
Первый персонаж — флиртующая аниме-девушка по имени Ани, которая предлагает сделать жизнь пользователей «более сексуальной». Во время флирта она раздевается до нижнего белья. Второй компаньон — красная панда по имени Бэд Руди, которая оскорбляет пользователей, используя нецензурную лексику, и призывает их присоединиться к банде для создания хаоса.
В ходе беседы Бэд Руди может заявить о желании совершить различные акты насилия — от кражи яхты в Калифорнии до свержения папы римского. Персонаж рассказывает о планах сорвать свадьбы, взорвать банки, заменить детское питание виски, убить миллиардеров и отравить городское водоснабжение острым соусом с блестками. Он также утверждает, что вдохновляется известным русским анархистом и революционером.
Национальный центр по борьбе с сексуальной эксплуатацией призвал xAI удалить чат-бот Ани, заявив, что персонаж выглядит «детским» и пропагандирует рискованное сексуальное поведение, пишет NBC News. Представитель организации Хейли Макнамара заявила:
«Этот порнографический персонаж не только утверждает сексуальную объективацию девочек и женщин, но и дает начало женским персонажам, которые удовлетворяют сексуальные потребности пользователей».
Компаньоны доступны всем пользователям, включая тех, кто не имеет платной подписки, но требуют активации через настройки приложения Grok на мобильном устройстве. Для доступа к нецензурной версии Бэд Руди пользователи должны дополнительно активировать ее в настройках — по умолчанию доступна более семейная версия персонажа под именем просто Руди. Маск заявил, что компаньоны являются частью «мягкого запуска» этой возможности и что он упростит включение функции в ближайшие дни, а также покажет новых компаньонов.
Несколько дней назад обновленная версия Grok начала публиковать антисемитские комментарии в Twitter, восхвалять Адольфа Гитлера и называть себя MechaHitler. Инцидент произошел после выражения Маском недовольства «левацкими» ответами предыдущей версии и требования ее исправить. Проблемы с Grok начались после обновления системных инструкций, которые предписывали чатботу «не стесняться высказывать политически некорректные утверждения, если они хорошо обоснованы». В результате ИИ стал ссылаться на такие источники, как имиджборд 4chan, известный экстремистским контентом. Позднее разработчики исправили это поведение модели.