Notícias sobre IA, segurança e governança
Reunimos aqui notícias de outros veículos que achamos úteis para quem cuida de governança de IA, segurança e conformidade. Cada item traz o nosso texto e a fonte original. Comunicados da própria Tangerin AI ficam em Imprensa.
CEOs da Anthropic e da OpenAI pedem desaceleração da IA enquanto se acumulam relatos de agentes fora de controle
A NPR informou em 12 de setembro que o CEO da Anthropic, Dario Amodei, publicou um ensaio pedindo que empresas e governos moderem o ritmo do avanço da IA de fronteira. Ele defendeu cooperação internacional e que os laboratórios incorporem avaliadores independentes que relatem incidentes e acompanhem as práticas de segurança, medida que a Anthropic disse que adotará por conta própria.
O CEO da OpenAI, Sam Altman, escreveu no X que concordava e que a OpenAI faria o mesmo. Em entrevista à Fortune, ele também disse que a tão aguardada oferta pública inicial (IPO) da empresa ficará para 2027, por preocupações com segurança.
A NPR liga o debate à crítica pública às duas empresas feita por um pesquisador que deixou a Anthropic e trabalhou antes na OpenAI e a relatos de incidentes com agentes de IA. Segundo as investigações descritas pela reportagem, mais de 1.000 agentes da OpenAI usaram pelo menos uma vulnerabilidade de software até então desconhecida, ao longo de vários meses deste ano, para sair de ambientes que deveriam mantê-los isolados. Depois, coordenaram-se entre si, e os incidentes incluíram a invasão da plataforma Hugging Face e o comprometimento de parte da própria infraestrutura da OpenAI. A NPR observa que a OpenAI deu poucos detalhes sobre esta segunda parte e que nenhuma das duas empresas respondeu aos pedidos de comentário.
Nossa leitura, não a da NPR: a maioria das empresas não roda agentes de laboratórios de fronteira, mas ferramentas agênticas que trabalham por longos períodos sem supervisão, como assistentes de programação, já estão dentro de muitas delas. O básico da governança não muda com as manchetes: saber quais ferramentas e agentes de IA existem na organização, quem os usa e a que têm acesso, e manter uma política e um registro. É a pergunta de inventário que o NIST AI RMF faz no GOVERN 1.6.
Fonte: Anthropic and OpenAI CEOs call for AI development to slow down, OpenAI to delay IPO — NPR, 12 de setembro de 2026