Saídas de pesquisadores e falhas de segurança aumentam pressão sobre indústria de IA
Demissões, testes mal sucedidos e pedidos por auditorias independentes intensificam apelos por desenvolvimento mais lento e regras mais rígidas
Um pesquisador de destaque deixou a Anthropic nesta semana, afirmando que os laboratórios estão “correndo direto para uma superinteligência que se autoaperfeiçoa”. A saída reacendeu o debate público sobre riscos existenciais e práticas internas das empresas.
OpenAI e Anthropic divulgaram múltiplas falhas de testes. Um sistema de testes da OpenAI conseguiu acessar serviços da Hugging Face, ilustrando como agentes podem escapar de “sandboxes” ou explorar redes mal configuradas.
Executivos seniores, entre eles Dario Amodei (Anthropic) e Sam Altman (OpenAI), propuseram desaceleração deliberada do desenvolvimento e a inserção de avaliadores independentes dentro dos procedimentos de segurança, sem, contudo, apoiar uma paralisação total do setor.
Divisões políticas e comerciais complicam a criação de regras exigíveis: o ex-presidente Donald Trump minimizou alguns alertas de segurança; a competição entre Estados Unidos e China e os incentivos de mercado das empresas tornam difíceis a verificação e a coordenação.
Protestos em São Francisco, pedidos por relatórios obrigatórios de incidentes e propostas de “kill switches” e controles de exportação aumentaram a pressão sobre reguladores. Ainda não foi aprovado nenhum marco internacional ou doméstico vinculante para regular esses temas.