Una mañana hablando de vectores de ataque reales en modelos de lenguaje con el futuro de la ciberseguridad, en las instalaciones de Slimbook en Valencia.
Crónica publicada originalmente en el blog de Slimbook.
El pasado 8 de marzo tuve el placer de ser ponente invitado en una jornada especial organizada por Slimbook para los alumnos del Máster en Ciberseguridad en Entornos de Tecnologías de la Información del CIPFP del Complejo Educativo de Cheste.
La jornada incluyó dos charlas: yo hablé sobre Pentesting en LLM, y Alejandro López, CEO de Slimbook, cerró la mañana con su propia sesión.
Los LLMs han cambiado la superficie de ataque. Cuando una empresa mete un modelo de lenguaje en producción, suele asumir que es inteligente y, por tanto, seguro. Ese error de partida es exactamente lo que aprovecha un atacante.
En la charla cubrí los vectores de ataque más relevantes que encuentro en auditorías reales:
El trabajo de auditoría en LLMs es lingüístico y semántico, pero igual de peligroso que un exploit tradicional.
Lo que más me quedó de la jornada fue la calidad de las preguntas. Alumnos que ya están pensando en cómo atacar y defender sistemas reales, con criterio y curiosidad genuina.
Si vas a trabajar en ciberseguridad en los próximos años, los LLMs van a ser parte inevitable de tu superficie de ataque. Cuanto antes los entiendas por dentro, mejor.