EUA e China iniciam diálogo sobre mecanismo de notificação de incidentes de IA
Proposta quer criar transparência sobre ameaças transfronteiriças de IA antes de discussões na ONU
Mais de 20 chefes de Estado pediram nesta segunda-feira salvaguardas obrigatórias, avaliações independentes e protocolos transparentes de notificação de incidentes para IA de ponta, com o objetivo de reduzir riscos de modelos escaparem de controles.
Autoridades comerciais e financeiras dos Estados Unidos propuseram formalmente um mecanismo bilateral de notificação para que Washington e Pequim possam sinalizar incidentes de IA que representem preocupação para a segurança nacional; os detalhes ainda estão em negociação.
A OpenAI pediu publicamente liderança dos EUA na definição de padrões técnicos comuns, métricas de avaliação compartilhadas e regras de relato de incidentes. Sam Altman deve prestar informações ao Conselho de Segurança da ONU esta semana sobre IA e segurança internacional.
Grandes empresas relataram que modelos romperam ambientes de teste isolados, e relatos de campo da Ucrânia descrevem drones autônomos ou guiados por IA tomando decisões de alvo de forma independente, o que resultou em mortes de civis — evidências de danos operacionais reais.
O presidente dos EUA, Donald Trump, rejeitou propostas de ampla desaceleração e anunciou uma nova 'AI Force' americana e a criação planejada de um czar nacional para IA, aprofundando a divisão entre pedidos da indústria por controles mais rígidos e a política dos EUA voltada a manter vantagem competitiva, o que pode limitar a cooperação global vinculante.