No mundo acelerado da tecnologia, a mudança é frequentemente a única constante. Para os Chief Information Security Officers (CISOs), a transição para a inferência em dispositivos para modelos de linguagem de grande escala (LLMs) não é apenas mais uma mudança—é uma alteração sísmica que exige atenção imediata. À medida que os colaboradores começam a executar modelos de IA poderosos localmente, contornando as medidas tradicionais de segurança de rede, uma nova era de "Shadow AI 2.0" emerge, colocando desafios e riscos únicos.
A Revolução Silenciosa da IA Local
Nos últimos dezoito meses, a estratégia para gerir a IA generativa nas empresas era relativamente simples: controlar o que acontece na cloud. As equipas de segurança concentravam-se em monitorizar e controlar os dados que se moviam para além do firewall corporativo. No entanto, esta abordagem está a tornar-se obsoleta à medida que mais colaboradores começam a aproveitar o poder da IA diretamente nos seus dispositivos.
Três avanços tecnológicos contribuíram para esta mudança:
- Avanços no hardware de consumo: Portáteis modernos, como um MacBook Pro de alta gama, podem agora executar modelos sofisticados com facilidade, transformando o que antes era possível apenas em servidores multi-GPU numa tarefa rotineira.
- Quantização generalizada: A capacidade de comprimir modelos em formatos menores que mantêm o desempenho tornou viável executar estes modelos localmente.
- Distribuição sem esforço: O acesso a modelos de peso aberto é agora tão simples quanto executar um único comando, permitindo que os colaboradores executem modelos de IA sem qualquer dependência de rede.
Esta capacidade de operar IA localmente significa que atividades que antes requeriam acesso à internet podem agora ocorrer totalmente offline, criando um cenário onde as ferramentas de segurança de rede podem não detetar nada fora do comum.
Redefinindo o Risco: Da Exfiltração à Integridade
Com os dados a não saírem necessariamente dos limites da rede corporativa, pode-se questionar por que razão os CISOs deveriam estar preocupados. A resposta reside na natureza mutável dos riscos, da exfiltração de dados para preocupações sobre integridade, proveniência e conformidade.
Modelos Não Verificados e Integridade do Código
Quando os colaboradores optam por executar modelos locais pela sua rapidez e perceção de privacidade, muitas vezes contornam os processos de verificação organizacional. Isto pode levar a cenários onde o código interno é subtilmente comprometido. Um programador pode descarregar um modelo para refinar processos internos, apenas para introduzir vulnerabilidades devido a deficiências não reconhecidas na saída da IA. Estas vulnerabilidades podem passar despercebidas até se manifestarem como falhas de segurança significativas, deixando as equipas de resposta a incidentes a lidar com os sintomas sem compreenderem a causa raiz.