En el vertiginoso mundo de la tecnología, el cambio es a menudo la única constante. Para los Directores de Seguridad de la Información (CISOs), la transición hacia la inferencia en el dispositivo para modelos de lenguaje de gran tamaño (LLMs) no es solo otro cambio, es un cambio sísmico que requiere atención inmediata. A medida que los empleados comienzan a ejecutar potentes modelos de IA localmente, eludiendo las medidas tradicionales de seguridad de la red, surge una nueva era de "IA en la sombra 2.0", que plantea desafíos y riesgos únicos.
La Revolución Silenciosa de la IA Local
Durante el último año y medio, la estrategia para gestionar la IA generativa en las empresas era relativamente sencilla: controlar lo que sucede en la nube. Los equipos de seguridad se centraban en monitorear y controlar los datos que se movían más allá del firewall corporativo. Sin embargo, este enfoque se está volviendo obsoleto a medida que más empleados comienzan a aprovechar el poder de la IA directamente en sus dispositivos.
Tres avances tecnológicos han contribuido a este cambio:
- Avances en hardware de consumo: Las laptops modernas, como una MacBook Pro de alta gama, ahora pueden ejecutar modelos sofisticados con facilidad, transformando lo que antes solo era posible en servidores multi-GPU en una tarea rutinaria.
- Cuantización generalizada: La capacidad de comprimir modelos en formatos más pequeños que mantienen el rendimiento ha hecho posible ejecutar estos modelos localmente.
- Distribución sin complicaciones: El acceso a modelos de pesos abiertos es ahora tan simple como ejecutar un solo comando, permitiendo a los empleados ejecutar modelos de IA sin ninguna dependencia de la red.
Esta capacidad de operar IA localmente significa que actividades que antes requerían acceso a internet ahora pueden ocurrir completamente offline, creando un escenario donde las herramientas de seguridad de red pueden no detectar nada fuera de lo común.
Redefiniendo el Riesgo: De la Exfiltración a la Integridad
Con los datos ya no necesariamente saliendo de los confines de la red corporativa, uno podría preguntarse por qué los CISOs deberían preocuparse. La respuesta radica en la naturaleza cambiante de los riesgos, de la exfiltración de datos a preocupaciones sobre la integridad, procedencia y cumplimiento.
Modelos No Verificados e Integridad del Código
Cuando los empleados eligen ejecutar modelos locales por su velocidad y privacidad percibida, a menudo pasan por alto los procesos de verificación organizacional. Esto puede llevar a escenarios donde el código interno se compromete sutilmente. Un desarrollador podría descargar un modelo para mejorar procesos internos, solo para introducir vulnerabilidades debido a deficiencias no reconocidas en la salida de la IA. Estas vulnerabilidades pueden pasar desapercibidas hasta que se manifiestan como brechas de seguridad significativas, dejando a los equipos de respuesta a incidentes lidiando con los síntomas sin comprender la causa raíz.