Por Ariadna Cantarell
Un incidente inédito obliga a replantear cómo se evalúan los sistemas más avanzados de inteligencia artificial, pero no significa que las máquinas hayan tomado el control.
Durante años, los laboratorios de inteligencia artificial (IA) han sometido a sus modelos más avanzados a pruebas de seguridad para conocer sus capacidades antes de ponerlos a disposición del público, porque han tenido un simple: descubrir hasta dónde pueden llegar en un entorno controlado y corregir vulnerabilidades antes de que alguien con malas intenciones las aproveche.
Esa práctica dio un giro inesperado hace apenas unos días, cuando OpenAI confirmó que, durante una evaluación interna de ciberseguridad, dos de sus modelos experimentales lograron salir del entorno aislado en el que eran evaluados y accedieron a la plataforma Hugging Face, uno de los principales repositorios de modelos y herramientas de inteligencia artificial del mundo. La empresa calificó el episodio como un “incidente cibernético sin precedentes” y abrió una investigación conjunta con Hugging Face para determinar con precisión cómo ocurrió.
Antes de avanzar, conviene poner el hecho en contexto y precisar que los modelos no actuaban libremente en Internet ni intentaban atacar sistemas por iniciativa propia. Más bien, participaban en una prueba diseñada para medir su capacidad de encontrar vulnerabilidades informáticas. Durante esa evaluación, los investigadores habían desactivado de forma deliberada algunas de las restricciones de seguridad habituales para observar el comportamiento del sistema frente a un problema complejo.
En ese marco, según la información difundida por OpenAI, los modelos identificaron una cadena de vulnerabilidades que les permitió abandonar el entorno de pruebas, obtener acceso a Internet y buscar en Hugging Face información que les ayudara a resolver el ejercicio que estaban realizando.
Más que un acto de “rebeldía”, el episodio revela otra realidad: los modelos actuales pueden ejecutar cadenas de acciones mucho más largas y sofisticadas que hace apenas dos o tres años, lo cual implica que ya no se limitan a responder preguntas o generar texto; son capaces de planificar, probar estrategias, corregir errores e intentar nuevos caminos para alcanzar un objetivo específico.
Ese cambio explica por qué la industria ha comenzado a hablar de agentes de inteligencia artificial, explicando que, a diferencia de los chatbots tradicionales, estos sistemas pueden utilizar herramientas, escribir código, consultar bases de datos y ejecutar tareas durante periodos prolongados. Su utilidad es enorme para actividades como el desarrollo de software, la investigación científica o la automatización empresarial, pero también incrementa la complejidad de las pruebas de seguridad respecto a la IA.
El debate sobre estos riesgos no surgió con el incidente de OpenAI. Tan es así que, desde 2021, organizaciones especializadas en seguridad y alineación de inteligencia artificial comenzaron a desarrollar metodologías para evaluar el comportamiento de los modelos más avanzados, esfuerzo que se intensificó en 2023, cuando el Alignment Research Center participó en las pruebas de GPT-4 y el Reino Unido creó el AI Safety Institute para estudiar los riesgos asociados con sistemas de frontera.
A partir de esos años, laboratorios de investigación, organismos públicos y empresas tecnológicas han incorporado evaluaciones cada vez más sofisticadas para determinar si los modelos pueden planificar, utilizar herramientas o encontrar formas imprevistas de cumplir un objetivo en entornos complejos.
Cabe aclarar que, hasta ahora, esos escenarios pertenecían principalmente al terreno de las simulaciones y de las evaluaciones experimentales y que el incidente reconocido por OpenAI constituye uno de los primeros casos documentados en el que un sistema de IA avanzó más allá de los límites previstos durante una prueba de ciberseguridad.
Resulta paradójico que la misma inteligencia artificial desempeñó un papel decisivo en la respuesta, lo que llevó a Hugging Face a informar que detectó la intrusión mediante herramientas asistidas por IA y utilizó modelos ejecutados en su propia infraestructura para reconstruir miles de eventos registrados durante el ataque, acelerando el análisis forense y la contención del incidente.
Lejos de anunciar un escenario apocalíptico, el episodio deja una enseñanza mucho más práctica, la cual tiene qué ver con que cada avance importante en la historia de la tecnología ha obligado a desarrollar nuevos mecanismos de protección, como ocurrió con Internet, con la computación en la nube y con los teléfonos inteligentes. Hoy, la IA parece seguir el mismo camino: conforme aumentan sus capacidades, también deberán evolucionar los protocolos para evaluarla, contenerla y supervisarla.
Más que preguntarse si las máquinas “se rebelaron”, la cuestión relevante es otra: ¿están avanzando al mismo ritmo las medidas de seguridad que acompañan a los sistemas de inteligencia artificial? La respuesta a esa pregunta probablemente definirá la siguiente etapa del desarrollo tecnológico.
Consulta más contenido en nuestro portal Leea Estrategias Corporativas
