El punto de partida: qué significa realmente que Gemini se haya usado en intrusiones
En los últimos meses, distintos informes públicos sobre el uso malicioso de inteligencia artificial han descrito cómo grupos de amenazas emplean modelos generativos, entre ellos Gemini, como apoyo durante campañas de ciberataque. La conclusión importante no es que Gemini haya decidido atacar empresas por su cuenta ni que haya sustituido completamente a los delincuentes. La realidad es más concreta: los atacantes utilizan estas herramientas para acelerar tareas que antes requerían más tiempo, conocimientos o recursos.
Esta distinción es esencial para no sobrerreaccionar. Una empresa no se protege simplemente prohibiendo una aplicación concreta. Debe entender cómo la IA puede modificar el ritmo, la escala y la calidad de una campaña, y después reforzar los controles que dificultan el acceso inicial, limitan el movimiento del atacante y mejoran la detección.
El riesgo no está únicamente en el modelo de IA, sino en cómo una persona lo integra en una operación maliciosa.
Los informes de inteligencia de amenazas suelen describir usos relacionados con la investigación de objetivos, la generación de contenidos, la traducción, la resolución de dudas técnicas y la automatización de tareas. En muchos casos, la IA no ejecuta directamente la intrusión: ayuda a tomar decisiones, preparar materiales o resolver obstáculos.
Cómo puede intervenir la IA en una intrusión
Una intrusión empresarial suele desarrollarse en varias fases. La inteligencia artificial puede aportar valor al atacante en cada una de ellas, aunque no elimine la necesidad de contar con infraestructura, acceso, conocimientos y capacidad operativa.
### Investigación y selección de objetivos
Los modelos generativos pueden ayudar a resumir información pública sobre una organización, identificar áreas de negocio, preparar perfiles de empleados o relacionar tecnologías que aparecen en ofertas de empleo, documentación técnica y páginas corporativas.
Esto puede facilitar la selección de objetivos con mayor probabilidad de éxito. Por ejemplo, un atacante puede buscar qué departamentos gestionan pagos, qué proveedores se mencionan públicamente o qué tecnologías utiliza una empresa. La información no siempre es secreta, pero la IA permite organizarla más deprisa y presentarla de forma útil para una campaña.
La defensa pasa por reducir la exposición innecesaria. No se trata de ocultar toda la información corporativa, sino de revisar qué datos pueden facilitar la suplantación de empleados, proveedores o responsables de negocio.
### Preparación de mensajes y suplantaciones
La IA puede generar correos más naturales, adaptar el tono a distintos países, traducir conversaciones y preparar respuestas coherentes para mantener un engaño durante más tiempo. También puede ayudar a producir páginas o documentos con apariencia profesional.
Esto no convierte automáticamente un mensaje en convincente. Siguen existiendo señales que deben analizarse: cambios en las instrucciones de pago, presión temporal, solicitudes fuera del procedimiento habitual, enlaces inesperados o peticiones que no encajan con las funciones de la persona que las recibe.
La principal diferencia es que el volumen y la personalización de estos intentos pueden aumentar. Por ello, la concienciación no debe limitarse a memorizar ejemplos de correos mal redactados. Los procesos de verificación deben funcionar incluso cuando el mensaje esté bien escrito y parezca proceder de alguien conocido.
### Apoyo técnico durante el ataque
Los actores maliciosos también pueden consultar modelos para comprender errores, interpretar respuestas de herramientas, generar scripts o buscar alternativas cuando una técnica no produce el resultado esperado. La IA reduce la fricción para personas con menos experiencia, aunque no sustituye por completo la capacidad de operar en entornos reales.
Desde una perspectiva defensiva, esto significa que algunas campañas pueden avanzar con mayor rapidez entre fases. Un atacante que obtiene un acceso inicial puede usar asistencia automatizada para documentar el entorno, priorizar sistemas o adaptar sus siguientes acciones.
Por esa razón, los controles basados exclusivamente en la detección de herramientas conocidas son insuficientes. La organización debe observar comportamientos: accesos anómalos, uso inusual de privilegios, consultas masivas, creación inesperada de cuentas, cambios de reglas de correo o movimientos entre sistemas que no corresponden a la actividad habitual.
### Automatización y escala
La IA puede ayudar a generar múltiples variantes de mensajes, analizar grandes volúmenes de información o mantener conversaciones con diferentes objetivos. Esta capacidad incrementa la presión sobre los equipos de seguridad y sobre las personas usuarias.
Sin embargo, conviene evitar una interpretación exagerada. El uso de un modelo generativo no significa que el atacante disponga de una campaña totalmente autónoma. La infraestructura, los accesos, la operación y la monetización siguen requiriendo coordinación. Precisamente por eso, las empresas deben centrarse en interrumpir las dependencias críticas de la cadena de ataque.
Qué deben hacer las empresas para protegerse
### Controlar la identidad antes que el discurso
Las credenciales siguen siendo uno de los objetivos principales. La empresa debe aplicar autenticación multifactor resistente al phishing cuando sea posible, eliminar cuentas obsoletas, limitar los privilegios y revisar los accesos de terceros.
También es recomendable establecer políticas de acceso condicional basadas en el riesgo, el dispositivo, la ubicación y el comportamiento. Ninguna de estas medidas elimina por completo el riesgo, pero reduce la probabilidad de que una contraseña comprometida sea suficiente para entrar y desplazarse por la organización.
### Reducir la exposición pública útil para un atacante
Conviene realizar revisiones periódicas de la información publicada en la web corporativa, redes sociales, repositorios de código, documentos descargables y portales de empleo. Deben retirarse secretos, datos técnicos innecesarios y referencias que revelen más información de la necesaria sobre la arquitectura interna.
La revisión debe incluir también a las personas con funciones sensibles. Publicar la estructura de un departamento no es un problema por sí mismo, pero puede facilitar campañas muy dirigidas si se combina con horarios, responsabilidades, proveedores y procesos internos.
### Verificar las peticiones sensibles por una segunda vía
Las solicitudes de cambio de cuenta bancaria, transferencia, acceso urgente, entrega de información o modificación de permisos deben verificarse mediante un canal independiente. Responder al mismo correo o utilizar el teléfono incluido en el mensaje no es una verificación suficiente.
El procedimiento debe estar diseñado para ser sencillo. Si verificar una petición requiere demasiados pasos, las personas tenderán a buscar atajos. La seguridad debe integrarse en el flujo de trabajo, con responsables claros y criterios para detener una operación sin penalizar a quien plantea una duda razonable.
### Proteger los datos introducidos en herramientas de IA
La organización debe definir qué información puede utilizarse en asistentes generativos y bajo qué condiciones. Los datos personales, secretos comerciales, credenciales, código propietario, información de clientes y documentación sensible requieren controles específicos.
No basta con publicar una prohibición general. Hay que proporcionar herramientas aprobadas, explicar sus configuraciones, establecer requisitos de retención y registrar los usos de mayor riesgo cuando resulte proporcionado. También conviene revisar los contratos y las condiciones del proveedor, especialmente en materia de tratamiento de datos, administración, auditoría y eliminación de información.
### Mejorar la detección y la respuesta
Los equipos deben monitorizar señales relacionadas con identidad, correo, endpoints, aplicaciones en la nube y redes. Algunas detecciones especialmente útiles incluyen:
- Inicios de sesión imposibles o poco habituales.
- Creación de reglas de reenvío o eliminación de mensajes.
- Uso de aplicaciones no autorizadas para acceder a información corporativa.
- Descargas masivas o consultas anómalas.
- Elevaciones de privilegio sin una justificación clara.
- Cambios simultáneos en cuentas, dispositivos y permisos.
La respuesta debe estar preparada para revocar sesiones, aislar dispositivos, bloquear aplicaciones, preservar evidencias y revisar el alcance del incidente. Las empresas deberían practicar estas decisiones mediante ejercicios, sin esperar a que ocurra un ataque real.
La IA también debe formar parte del gobierno del riesgo
La protección no corresponde únicamente al departamento de tecnología. Dirección, recursos humanos, compras, legal, cumplimiento y las áreas de negocio deben participar en las decisiones sobre el uso de inteligencia artificial.
Es recomendable mantener un inventario de herramientas autorizadas, clasificar los casos de uso por nivel de riesgo, revisar proveedores y asignar responsables. También deben existir criterios para evaluar nuevos asistentes antes de incorporarlos a procesos críticos.
La formación debe centrarse en situaciones reales: una petición urgente del director financiero, una conversación aparentemente iniciada por un proveedor, un documento generado con apariencia legítima o una solicitud para copiar información interna en una herramienta pública.
Acciones prioritarias para los próximos meses
Una empresa que quiera reducir este riesgo puede comenzar por estas medidas:
- Inventariar los usos actuales de IA, incluidos los servicios utilizados sin aprobación formal.
- Revisar autenticación, privilegios, cuentas inactivas y accesos de terceros.
- Implantar una verificación independiente para pagos y cambios de datos sensibles.
- Analizar la exposición pública de empleados, tecnologías y procesos corporativos.
- Reforzar la monitorización de identidad, correo y aplicaciones en la nube.
- Actualizar el plan de respuesta para contemplar campañas de suplantación asistidas por IA.
- Formar a la plantilla con ejercicios prácticos y procedimientos fáciles de seguir.
La respuesta más eficaz no consiste en confiar en que la IA no será utilizada contra la empresa, sino en diseñar controles que sigan funcionando cuando los ataques sean más rápidos, personalizados y convincentes.
Gemini y otras herramientas generativas pueden aumentar la capacidad operativa de los grupos de amenazas, pero no convierten una intrusión en un proceso mágico ni inevitable. Las organizaciones que combinan una identidad bien protegida, procesos de verificación, control de datos, monitorización y preparación para incidentes pueden reducir de forma significativa su exposición. La clave está en tratar la IA como un factor que modifica el riesgo, no como una explicación que sustituye al análisis de seguridad.
