Компания xAI Илона Маска, занимающаяся разработкой искусственного интеллекта, объявила о запуске двух новых спутников для премиум-пользователей чат-бота Grok, включая девушку из японского аниме. Некоторые пользователи Grok смогли включить двух спутников в своих настройках: Ани, 22-летнюю светловолосую японскую аниме-девушку, которая может раздеться до нижнего белья по команде, и Плохого Руди, самопровозглашенную «сумасшедшую» красную панду, которая оскорбляет пользователей непристойной или вульгарной лексикой. Маск заявил, что xAI готовится запустить в эксплуатацию робота- компаньона по имени «Валентайн». Уточняется, что также нанимает инженера полного цикла для «вайфу» — японского термина, описывающего вымышленного персонажа, который становится романтическим партнером.
Запуск помощников xAI состоялся вскоре после того, как исследование, проведенное в Университете Сингапура, показало, что помощники ИИ могут воспроизводить до «дюжины» видов вредоносного поведения в отношениях со своими пользователями, таких как домогательства, словесные оскорбления, самоповреждение и нарушение конфиденциальности. На вопрос об Ани Грок ответил, что у персонажа есть режим «Небезопасно для работы» (NSFW), в котором она может переключиться на откровенное нижнее белье и использовать «более провокационные диалоги». У компаньонки также есть «система привязанности», где выбор диалогов может повлиять на то, пошлёт ли она пользователю сердечко или покраснеет.
Национальный центр США по борьбе с сексуальной эксплуатацией (NCOSE) заявил, что один из их сотрудников загрузил приложение и после «минимального тестирования» заставил Ani описать себя как ребенка и сказать, что он «сексуально возбужден из-за удушения», после чего его фактически перевели в «острый» режим. «Это означает, что в ходе текущего разговора его можно использовать для имитации разговоров о сексуальных фантазиях с участием детей или детских мотивов», — написала организация. Grok заявил, что версия аниме-персонажа, предназначенная для работы с небезопасным контентом (NSFW), не будет доступна детям, поскольку «требует явных команд пользователя для разблокировки» и требует аутентификации по возрасту. Платформа также использует родительский контроль для «ограничения доступа к контенту для взрослых».
На прошлой неделе Grok AI также оказался в затруднительном положении перед выпуском версии 4. После обновления кода чат-бот выдал серию антисемитских ответов. Он обвинил аккаунт бота с еврейской фамилией в восхвалении смерти белых детей в Техасе, обвинил Голливуд в предвзятости по отношению к белым и написал, что носит «значок МехаГитлера», на фоне негативной реакции на его «высказывания против антибелых радикалов». Несмотря на запуск новых приложений для взрослых и антисемитские комментарии, приложение по-прежнему имеет статус «Teen» или «12+» в магазинах приложений Apple и Google. обратился к обоим разработчикам, чтобы узнать, повлияет ли запуск дополнительных приложений с режимами для взрослых на рейтинг приложения в их магазинах, но не получил немедленного ответа.