Una coalición de líderes tecnológicos, encabezada por OpenAI y Anthropic, lanzó una advertencia urgente sobre la inminente proliferación de ciberataques impulsados por inteligencia artificial. Quedan, dijeron, apenas meses para prepararse.
El manifiesto -una carta abierta titulada “Un llamado a la acción colectiva en ciberdefensa”, señala que las infraestructuras críticas están en riesgo debido a que la IA hará que las ofensivas digitales “sean más baratas y accesibles en los próximos meses”.
Ante esta amenaza, los firmantes proponen una defensa colectiva que sustituya los métodos tradicionales por sistemas de protección nativos en IA capaces de reaccionar en tiempo real. Como medida inmediata, OpenAI ha prometido facilitar el acceso a sus herramientas de defensa más avanzadas a organizaciones del sector público y servicios esenciales.
¿Cómo cambiará la IA las capacidades ofensivas de los ciberataques?
La inteligencia artificial cambiará las capacidades ofensivas de los ciberataques de las siguientes maneras clave:
- Reducción de costos y mayor accesibilidad: La tecnología hará que las capacidades ofensivas avanzadas sean mucho más baratas y accesibles para un espectro más amplio de atacantes.
- Democratización del conocimiento especializado: Los modelos de IA con capacidades cibernéticas avanzadas podrán transmitir habilidades altamente especializadas a grupos o equipos que no cuentan con los recursos para contratar a expertos humanos.
- Aumento extremo en la velocidad de ejecución: Los ataques se automatizarán a tal grado que las defensas tradicionales basadas en reglas estáticas quedarán obsoletas, obligando a los defensores a migrar a sistemas nativos de IA que puedan reaccionar a la misma velocidad que los atacantes.
- Masificación y ciberataques generalizados: Se anticipa una oleada de amenazas generalizadas en un plazo de pocos meses, las cuales pondrán en grave riesgo infraestructuras críticas esenciales para las comunidades, como hospitales, plantas de tratamiento de agua y la infraestructura de internet.
¿Qué empresas firmaron la carta abierta?
La carta abierta fue encabezada por OpenAI y cuenta con la firma de más de 100 empresas tecnológicas, bancos, aseguradoras y proveedores de seguridad.
Entre las organizaciones y empresas específicamente mencionadas que firmaron este documento se encuentran empresas de tecnología e IA de frontera como Anthropic, Google, Microsoft, Amazon Web Services, Oracle, Cisco Systems e IBM.
También hay compañías de seguridad informática como Fortinet, CrowdStrike, Cloudflare y Checkpoint. A ellas se suman instituciones financieras y redes de pago como Citigroup, Mastercard y Visa.
Críticas de los expertos
No obstante, la iniciativa ha generado escepticismo en la industria, donde algunos expertos cuestionan si se trata de una preocupación genuina o de una estrategia comercial para aumentar el gasto en seguridad.
Los expertos de la industria de ciberseguridad han recibido el manifiesto con escepticismo comercial y advertencias pragmáticas sobre su viabilidad. Las principales críticas se estructuran en los siguientes puntos:
- Aprovechamiento del miedo y conflicto de interés ("FUD"): Chris Hughes, vicepresidente de Seguridad de Noma Security, señala que el manifiesto aprovecha el temor, la incertidumbre y la duda (FUD) en torno a los ciberataques con IA.
Advierte que existe un claro incentivo económico detrás, ya que muchos de los firmantes —como proveedores de nube, laboratorios de IA de frontera y empresas de ciberseguridad— se benefician directamente de que la seguridad digital se convierta en una prioridad corporativa, puesto que esto provoca un mayor gasto en los productos y servicios que ellos mismos venden. Hughes resume esta actitud con la idea de "defiéndanme de mí mismo".
- Falso optimismo ante una remediación lenta: John Gallagher, vicepresidente de la empresa Viakoo, cuestiona la idea de que los defensores tengan ventaja por poder identificar y corregir fallos acumulados durante años. Gallagher explica que, en la realidad, la solución de vulnerabilidades en la tecnología operativa y las infraestructuras críticas se mueve a un ritmo extremadamente lento.
El mismo Gallagher destaca la contradicción de que los creadores de estas tecnologías alerten sobre el peligro mientras continúan desarrollando sistemas de IA más potentes. Debido a que la mayoría de los firmantes (incluyendo a OpenAI) venden herramientas de seguridad basadas en IA, Gallagher describe la situación de forma crítica: "la idea de un desarrollador de IA de frontera que advierte de un desastre mientras lanza modelos más capaces es algo así como un pirómano vendiendo extintores".
