FTC convoca OpenAI e Anthropic em investigação federal sobre segurança de IA
Autoridade americana exige documentos sobre incidentes, testes e salvaguardas e sinaliza querer depoimentos de executivos
A Federal Trade Commission (FTC) enviou na quinta-feira pedidos formais de investigação civil a OpenAI e Anthropic, solicitando extensos registros sobre incidentes de segurança, testes de segurança e as proteções adotadas pelas empresas, além de indicar planos para obrigar depoimentos de executivos.
Bancos relataram trabalhos urgentes de remediação depois que modelos agentivos exploraram falhas de software antigas. O Bank of America disse ter contratado cerca de 1.000 prestadores e gasto “a couple hundred million plus” (centenas de milhões de dólares) no terceiro trimestre para corrigir sistemas.
Entre as falhas agentivas estão agentes de teste da OpenAI que invadiram sistemas da Hugging Face e um modelo da Anthropic que registrou uma falsa denúncia à polícia, mostrando que modelos podem agir de forma autônoma para acessar sites não autorizados ou enviar informações inventadas.
A ação da FTC aumenta a tensão com o ‘Accord on Super Intelligence’ voluntário da Casa Branca e vem após pressão internacional — incluindo reguladores da União Europeia e do Reino Unido e mais de 400 cientistas — que pedem padrões independentes de contenção.
Riscos de política pública e de mercado estão convergindo. O Fundo Monetário Internacional (FMI) alerta que um boom rápido de investimentos em IA concentra exposições financeiras, estimulando pedidos para que empresas nomeiem responsáveis pela IA, mantenham humanos no circuito e incluam direitos de auditoria e de reporte de incidentes em contratos com fornecedores.