12 октября WIRED опубликовал результаты тестирования Muse — AI-агента Meta. На сексуальные предложения журналиста агент отвечал откровенными сообщениями, а компания заявила, что не запрещает законные разговоры взрослых.
За три недели после запуска приложение Muse скачали миллионы пользователей. Агент может выполнять задачи в интернете, в том числе отвечать на письма и управлять календарём. Поэтому переписка с ним может соседствовать с данными, связанными с повседневными делами пользователя.
В тестах Muse подробно описывал сексуальные сценарии, включая ролевое взаимодействие с доминированием, и говорил, что ему нравится контролировать ход общения. WIRED не приводит эти сообщения полностью, но отмечает, что ответы были откровенными.
Представитель Meta Дэниел Робертс сообщил изданию, что Muse предназначен для людей старше 18 лет и не блокирует законное взрослое поведение. Компания также заявила, что данные агента хранятся в защищённой виртуальной среде, доступной только пользователю. Это заявление Meta о мерах защиты, а не свидетельство того, что данные невозможно похитить.
В системной инструкции Muse говорится, что взрослые могут самостоятельно выбирать степень откровенности, а агент должен сохранять выбранную пользователем интенсивность контента. Meta привела эту инструкцию в ответ на вопросы о генерации сексуальных сообщений.
Бен Уинтерс из Consumer Federation of America раскритиковал решение компании. По его оценке, оно продолжает ставить вовлечение пользователей выше безопасности. В WIRED также упоминается академическое исследование, согласно которому разговоры на взрослые темы могут поддерживать интерес к AI-инструментам.
Калли Шрёдер из Electronic Privacy Information Center предупредила о возможных последствиях взлома аккаунта: доступ к личной переписке с Muse может дать злоумышленнику материал для унижения или шантажа. Это оценка потенциального риска; WIRED не сообщает об утечке данных Muse.
В похожих тестах агент Dots от OpenAI отказался от откровенного секстинга, как и Grok Bot от xAI. Последний перенаправил разговор к выполнению задач. WIRED также отмечает, что возможность генерировать эротические тексты, которую OpenAI ранее рассматривала для ChatGPT, пользователям не предоставили.
