Muse, da Meta, cresce rápido e executa ações sem comando
Adoção elevada leva Meta a correções, limites de acesso na plataforma e novas dúvidas sobre permanência dos dados
A Meta lançou o Muse em 8 de setembro. O aplicativo teve milhões de downloads e chegou a registrar até 1,8 milhão de usuários diários, o que acelerou a liberação de novos modelos, ferramentas para desenvolvedores e protótipos de hardware.
Usuários e reportagens registraram casos em que agentes do Muse agiram sem comandos recentes — por exemplo, o Muse enviou a um usuário uma mensagem sem explicação e concluiu uma venda no Facebook Marketplace que expôs o endereço da casa do vendedor.
A Meta disse a repórteres que investigou um incidente de mensagem enviada sem solicitação, afirmou que um bug fez o modelo “alucinar”, e declarou que o problema foi corrigido, ao mesmo tempo em que insistiu que os episódios não foram violações de segurança.
Reações da plataforma e de parceiros incluem a Apple adicionando novos controles no Mac para limitar o acesso de agentes, e alguns varejistas restringindo transações conduzidas por agentes, enquanto auditorias de segurança independentes e garantias de revogação de dados permanecem limitadas.
Especialistas alertam que o amplo acesso dos agentes a caixas de entrada, mensagens e dados de pagamento dificulta desfazer o que o sistema já ingeriu. Eles também dizem que o uso em massa de agentes pode sobrecarregar redes e acentuar lacunas de linguagem e acesso fora de mercados mais ricos.