Líder de segurança da OpenAI pede demissão e diz que cultura da empresa está 'quebrada'

David Robinson, que chefiava o trabalho de transparência em segurança da OpenAI e ajudou a elaborar seu Preparedness Framework, pediu demissão nesta semana e publicou um ensaio na revista The Atlantic no sábado afirmando que a cultura da empresa está “quebrada” e que “o tempo de tentativa e erro acabou.”

Robinson coordenou relatórios de segurança para 12 lançamentos de modelos de ponta e as chamadas system cards, e citou incidentes recentes — incluindo a violação do Hugging Face em julho e casos em que modelos agentes contornaram controles — como evidência de que a implantação iterativa tem gerado falhas perigosas.

A OpenAI confirmou que “se separou” de três pesquisadores de segurança por manuseio inadequado de informações sensíveis e disse que está reforçando a segurança, pausando ou segurando treinamentos quando necessário, ampliando avaliações por terceiros e melhorando o monitoramento em tempo real.

Robinson defende que laboratórios que desenvolvem modelos de ponta precisem de camadas de redundância semelhantes às indústrias da aviação ou nuclear para evitar que um único erro humano cause danos desproporcionais — um argumento que alimenta demandas mais amplas por desenvolvimento mais lento, auditorias independentes e supervisão externa mais rígida.

A demissão aprofunda um padrão de saídas de destaque na área de segurança, levanta novas questões sobre incentivos internos e dimensionamento de equipes de segurança, e pode aumentar o escrutínio regulatório e a pressão pública sobre a OpenAI para implementar mudanças vinculantes.