Quais são os riscos da IA no ambiente corporativo?

A resposta curta

Os riscos da IA no ambiente corporativo cabem em sete. Os três primeiros acontecem todos os dias, sem nenhum ataque, só porque alguém tinha um problema e uma ferramenta à mão: o dado da empresa entra numa ferramenta que ninguém aprovou, o dado serve para treinar o modelo de outra empresa, ou o dado pessoal cruza a fronteira. Os quatro seguintes dependem de como a empresa adota a IA: agentes sem supervisão, erro virando decisão, falta de evidência para o regulador e dependência de ferramentas que somem.

Para cada risco abaixo você encontra o que ele é, um fato verificável, o controle que o reduz e como saber se ele está acontecendo na sua empresa. O fio comum é um só: não se controla o que não se enxerga. Por isso o primeiro passo de qualquer programa é o inventário.

1. Dado da empresa em ferramenta que ninguém aprovou

O que é. Um funcionário cola um contrato, uma planilha de clientes ou um trecho de código numa ferramenta de IA que a empresa nunca avaliou. Não há má-fé: há um prazo e uma ferramenta gratuita.

Um fato. Em maio de 2023, o TechCrunch noticiou que a Samsung restringiu o uso de IA generativa depois que dados internos sensíveis foram enviados ao ChatGPT. O episódio não prova que a ferramenta é insegura; prova que, sem regra clara, o dado sai pelo caminho mais conveniente. Segundo o Gartner, 69% das organizações já suspeitam ou têm evidência de que funcionários usam ferramentas generativas públicas proibidas.

O controle. Inventário contínuo, classificação de cada ferramenta em permitida, restrita ou proibida, e uma política de uso que diga que tipo de dado entra em cada categoria.

Como saber se acontece. Pergunta não responde: a maioria dos usos não é declarada. Só descoberta técnica responde, e o guia O que é Shadow AI mostra os caminhos.

2. Dado usado para treinar o modelo de outra empresa

O que é. Em algumas ferramentas, o que o usuário digita pode ser usado para melhorar o modelo do fornecedor. Em algumas há uma opção de desligar, e o padrão depende do plano.

Um fato. A OpenAI documenta que, em contas pessoais, o conteúdo pode ser usado para melhorar os modelos, com a possibilidade de desativar, e trata os planos empresariais de forma diferente, no contrato e na política. A mesma ferramenta, em dois planos, tem dois perfis de risco. Por isso a pergunta útil é “qual plano a minha equipe está usando?”, e não “esta ferramenta é segura?”. Detalhamos o caso no guia É seguro usar o ChatGPT no trabalho?.

O controle. Registrar, por ferramenta, se a versão gratuita treina com os dados e se a empresa contratou um plano com termos diferentes. Esse campo existe nas fichas do nosso catálogo público, nas ferramentas já avaliadas; a avaliação é progressiva.

3. Dado pessoal saindo do país

O que é. Quando há dado pessoal no que é enviado a uma ferramenta de fornecedor estrangeiro, o envio é uma transferência internacional de dados.

O controle. Saber o país de cada fornecedor, ter a base legal e o instrumento contratual da transferência para os casos em que há dado pessoal, e evitar o dado pessoal nas ferramentas que não os tenham. A origem de cada ferramenta está na ficha do catálogo, e a análise completa em /pesquisa. Para o enquadramento legal, veja a LGPD e as ferramentas de IA.

4. Agentes que agem sem supervisão

O que é. Um agente de IA não só responde: ele executa ações, como enviar e-mails, mexer em arquivos, chamar sistemas e comprar. O risco muda de natureza: deixa de ser o que a ferramenta diz e passa a ser o que ela faz, com as credenciais de quem a configurou.

Um fato. O perfil de IA generativa do NIST (AI 600-1, 2024) é o complemento do AI RMF dedicado aos riscos próprios da IA generativa. O nosso catálogo já registra mais de 500 ferramentas ativas na categoria de agentes, e cada uma é um ponto de decisão: que sistemas ela alcança e com que credenciais.

O controle. Tratar agente como identidade: permissões mínimas, aprovação humana para ações irreversíveis e registro do que foi feito. Na hora de avaliar, pergunte a quais sistemas o agente tem acesso e quem responde pelo que ele faz.

5. Erro de IA virando decisão

O que é. A IA generativa produz texto que soa certo e pode estar errado. O risco aparece quando o texto vira contrato, parecer, resposta a cliente ou decisão sem que ninguém o revise.

O controle. Regra de revisão humana proporcional ao impacto: o que sai da empresa, ou decide algo sobre uma pessoa, passa por quem responde pelo resultado. A política deve dizer isso por escrito, com exemplos do dia a dia, e atribuir o conteúdo gerado a uma pessoa.

6. Responsabilidade regulatória sem evidência

O que é. A LGPD, o EU AI Act e as normas setoriais não pedem que a empresa diga que controla a IA: pedem que ela consiga mostrar que controla. Uma regra sem registro de que foi seguida não resiste a uma auditoria.

O controle. Guardar a evidência junto com a decisão: o inventário, a classificação, o aceite da política por quem usa e o tratamento de cada desvio, com dono e prazo. O EU AI Act, por exemplo, impõe obrigações por categoria de risco e pode alcançar empresas fora da Europa; veja quando ele se aplica a uma empresa brasileira.

7. Dependência de uma ferramenta que some

O que é. O mercado de IA muda mais rápido do que o ciclo de compras de uma empresa: ferramentas surgem, mudam de termos e desaparecem. Um processo construído sobre uma ferramenta que sai do ar é um risco operacional, e o registro do que foi usado nela, um risco de auditoria.

O controle. Inventário que se atualiza sozinho, em vez de uma lista levantada uma vez por ano, e registro do risco de cada ferramenta que permanece valendo depois que ela some, para que um evento antigo continue auditável.

O mapa em uma tabela

Por onde começar: os primeiros 30 dias

• Semana 1: descobrir. Levante o que está em uso com dado técnico, não com questionário. O diagnóstico gratuito em /diagnostico mostra, em nove perguntas, onde a sua empresa está.
• Semana 2: classificar. Enquadre cada ferramenta como permitida, restrita ou proibida, e anote o motivo e o plano contratado.
• Semana 3: regular. Publique uma política curta, com exemplos de dado, e colha o aceite de quem usa.
• Semana 4: monitorar. Transforme cada desvio numa tarefa com dono e prazo, e feche o ciclo com evidência.

Como medir o risco de uma ferramenta

Quatro perguntas resolvem a maior parte dos casos: o que a ferramenta faz com o que entra (treina, guarda, compartilha), onde ficam os dados e quem é o fornecedor, quais termos valem para o plano que a sua equipe usa, e qual o histórico da empresa por trás dela. A ficha no nosso catálogo registra o país do fornecedor, o risco classificado com o motivo e, nas ferramentas já avaliadas, se a versão gratuita treina com os dados. Se um fornecedor não consegue responder essas perguntas, essa é a resposta.

Perguntas frequentes