No mundo acelerado da tecnologia, a mudança é frequentemente a única constante. Para os Chief Information Security Officers (CISOs), a transição para a inferência em dispositivos para grandes modelos de linguagem (LLMs) não é apenas mais uma mudança—é uma transformação sísmica que demanda atenção imediata. À medida que os funcionários começam a executar modelos de IA poderosos localmente, contornando as medidas tradicionais de segurança de rede, surge uma nova era de "Shadow AI 2.0", apresentando desafios e riscos únicos.
A Revolução Silenciosa da IA Local
No último ano e meio, a estratégia para gerenciar a IA generativa nas empresas era relativamente simples: controlar o que acontece na nuvem. As equipes de segurança focavam em monitorar e controlar os dados que se moviam além do firewall corporativo. No entanto, essa abordagem está se tornando obsoleta à medida que mais funcionários começam a aproveitar o poder da IA diretamente em seus dispositivos.
Três avanços tecnológicos contribuíram para essa mudança:
- Avanços em hardware de consumo: Laptops modernos, como um MacBook Pro de última geração, agora podem executar modelos sofisticados com facilidade, transformando o que antes era possível apenas em servidores com múltiplas GPUs em uma tarefa rotineira.
- Quantização popularizada: A capacidade de comprimir modelos em formatos menores que mantêm o desempenho tornou viável executar esses modelos localmente.
- Distribuição sem complicações: O acesso a modelos de código aberto agora é tão simples quanto executar um único comando, permitindo que os funcionários executem modelos de IA sem qualquer dependência de rede.
Essa capacidade de operar IA localmente significa que atividades que antes exigiam acesso à internet agora podem ocorrer totalmente offline, criando um cenário onde as ferramentas de segurança de rede podem não detectar nada fora do comum.
Redefinindo o Risco: Da Exfiltração à Integridade
Com os dados não necessariamente saindo dos limites da rede corporativa, pode-se perguntar por que os CISOs deveriam se preocupar. A resposta está na mudança da natureza dos riscos, da exfiltração de dados para preocupações com integridade, proveniência e conformidade.
Modelos Não Verificados e Integridade do Código
Quando os funcionários optam por executar modelos locais pela velocidade e privacidade percebida, eles frequentemente contornam os processos de verificação organizacional. Isso pode levar a cenários onde o código interno é sutilmente comprometido. Um desenvolvedor pode baixar um modelo para aprimorar processos internos, apenas para introduzir vulnerabilidades devido a deficiências não reconhecidas na saída da IA. Essas vulnerabilidades podem passar despercebidas até se manifestarem como violações de segurança significativas, deixando as equipes de resposta a incidentes para lidar com os sintomas sem entender a causa raiz.