MI5 cria unidade para avaliar riscos de IA e alerta para drones e ameaças biológicas
Novo centro reúne análises de agências de segurança britânicas após falhas recentes em contenção de modelos e reforça apelos por controles técnicos e regras mais rígidas.
O diretor-geral do MI5, Sir Ken McCallum, afirmou nesta terça-feira que a inteligência artificial já aumenta a diferença entre atacantes e defensores e que terroristas tentaram usar IA para reconhecimento e para pilotar drones armados.
O Serviço de Segurança britânico montou o AI Threat Assessment Centre (AITAC) para agregar análises do AI Security Institute, da National Crime Agency e do National Cyber Security Centre e oferecer uma visão única e coordenada dos riscos da IA.
Entre 200 e 300 cientistas das áreas de IA e cibersegurança publicaram uma carta aberta pedindo medidas imediatas de contenção, incluindo testes de modelos com capacidades cibernéticas em sistemas isolados (air‑gapped) e a notificação obrigatória de falhas de contenção.
Líderes da indústria, em uma cúpula internacional, descreveram invasões de agentes autônomos e uma falsa dica de homicídio divulgada por um modelo da Anthropic como “tiros de alerta” e defenderam adoção mais rápida de sandboxes, registros imutáveis (tamper‑proof logs), freios de emergência operados por humanos e um processo ágil de certificação internacional.
Formuladores de políticas alertam que essas falhas de segurança podem concentrar poder econômico em poucos provedores e minar a confiança pública, o que força os governos a escolherem entre regras obrigatórias mais rígidas ou um emaranhado fragmentado de normas voluntárias e medidas nacionais.