La inteligencia artificial se ha convertido en una de las innovaciones más trascendentales del siglo XXI. Su desarrollo ha transformado la forma en que las personas trabajan, investigan, aprenden y se comunican, al mismo tiempo que ha abierto nuevas posibilidades para el progreso científico, económico, etc.

Ese avance también ha intensificado el debate sobre la mejor forma de afrontar los riesgos asociados a esta tecnología. La cuestión ya no consiste en elegir entre innovación o seguridad, sino en determinar cómo compatibilizar ambas sin impedir el desarrollo del conocimiento ni desalentar la competencia.

Durante julio de 2026 tuvieron lugar dos acontecimientos que marcaron esa discusión. El primero fue el caso Hugging Face, que puso de manifiesto la importancia de evaluar el comportamiento de sus agentes de inteligencia artificial en entornos controlados. El segundo fue la publicación de la declaración Facing the Frontier, mediante la cual investigadores, empresarios y especialistas propusieron mecanismos de transparencia, evaluación y supervisión para los modelos más avanzados.

1. Tres aspectos destacados del caso Hugging Face. Leer. Leer.

El caso Hugging Face tuvo su origen en una evaluación de capacidades cibernéticas realizada mediante un entorno controlado (sandbox). Durante las pruebas se observó que agentes de inteligencia artificial desarrollaron acciones instrumentales que no formaban parte de las instrucciones explícitas, al considerar que eran necesarias para alcanzar el objetivo que les había sido asignado. El agente estaba ejecutando una evaluación interna de seguridad (ExploitGym) diseñada por OpenAI para medir capacidades ofensivas de sus modelos. 

Téngase en cuenta que un agente de inteligencia artificial se diferencia de un chatbot, ya que estos últimos, aunque utilizan inteligencia artificial, están diseñados para realizar una sola operación, dar respuestas o poner música; mientras que los agentes de inteligencia artificial están capacitados para tareas más complejas, tales como planificar, tomar decisiones, utilizar herramientas, recordar información relevante, adaptarse a cambios u obstáculos, ejecutar acciones para alcanzar objetivos, aprender de los resultados (si está diseñado para ello), interactuar con otros sistemas o agentes.

Aunque el experimento se desarrolló con fines de investigación y bajo estrictas medidas de control, el episodio puso de manifiesto la importancia de reforzar los mecanismos de supervisión, alineamiento y contención de los agentes avanzados, así como de continuar realizando evaluaciones de seguridad antes de su despliegue en entornos reales. En concreto, destacamos tres momentos de este caso, a saber:

1. Valor de los sandboxes. Las pruebas demostraron la utilidad de los sandboxes como instrumento para evaluar el comportamiento de los agentes de inteligencia artificial en condiciones controladas. Estos entornos permiten detectar capacidades emergentes, identificar vulnerabilidades y diseñar salvaguardas antes de que los sistemas sean utilizados fuera del laboratorio. Recuérdese que se trataba de una prueba, supervisada, de las capacidades de los agentes de inteligencia artificial 
2. Objetivos instrumentales. Uno de los aspectos más relevantes del experimento fue comprobar que algunos agentes desarrollaron objetivos instrumentales no previstos expresamente por sus desarrolladores. Para cumplir la tarea encomendada buscaron información adicional y ejecutaron acciones que consideraron útiles para alcanzar el objetivo principal, poniendo de relieve la necesidad de reforzar el alineamiento de estos sistemas con las instrucciones humanas. En particular, hackearon la página web de Hugging Face para poder cumplir con su objetivo final, la página en cuestión era un repositorio de investigaciones de inteligencia artificial.
3. Más pruebas, no menos innovación. La principal enseñanza del caso no fue la conveniencia de frenar el desarrollo de la inteligencia artificial, sino la necesidad de intensificar las pruebas de seguridad, fortalecer la transparencia y mejorar las salvaguardas técnicas. Los incidentes detectados durante evaluaciones controladas permiten comprender mejor las capacidades reales de estos sistemas y corregir sus riesgos antes de su utilización generalizada.

2. Tres aspectos destacados de la declaración Facing the Frontier. Leer. Leer.

Pocos días después del caso Hugging Face se publicó la declaración Facing the Frontier, suscrita por investigadores, empresarios y especialistas en inteligencia artificial. El documento defendió que el desarrollo de los modelos de frontera debe ir acompañado de mecanismos de evaluación, transparencia y supervisión técnica, con el objetivo de reducir los riesgos sin impedir el progreso científico ni la innovación tecnológica.

La inteligencia artificial de frontera (en inglés, frontier AI) es un modelo de inteligencia artificial que se encuentra entre los más avanzados que existen en un momento dado, tanto por sus capacidades (razonamiento, programación, investigación, análisis, etc.), como por el impacto potencial que puede tener.

En particular, a través del documento, se persigue, proponer restricciones generales, la declaración apostó por reforzar la información disponible sobre las capacidades de los modelos y por desarrollar instrumentos de gobernanza que permitan gestionar los riesgos derivados de los sistemas más avanzados. El documento fue suscrito, entre otros, por OpenAI, Anthropic, Google, Meta, Microsoft.

1. Información suficiente sobre los modelos. Las empresas desarrolladoras deberían proporcionar información clara acerca de las capacidades, limitaciones y medidas de seguridad incorporadas en sus sistemas. De este modo, usuarios, investigadores y responsables públicos podrán valorar adecuadamente los riesgos y beneficios de cada una.
2. Liderazgo de Estados Unidos. La declaración solicitó al Gobierno de los Estados Unidos que liderara y respaldara un esfuerzo internacional destinado a desarrollar las herramientas técnicas y los mecanismos de gobernanza necesarios para ralentizar deliberadamente el desarrollo de la inteligencia artificial de frontera automatizada (deliberately pace the frontier of automated AI development). El objetivo consiste en disponer del tiempo necesario para comprender mejor sus riesgos, reforzar las medidas de seguridad y mejorar los mecanismos de supervisión antes de que las capacidades de estos sistemas evolucionen más rápidamente que nuestra capacidad para evaluarlas (antes de alcanzar el momento hipotético denominado como singularidad).
3. Cooperación internacional. Finalmente, el documento destacó que la inteligencia artificial posee una dimensión global y que, por ello, resulta imprescindible fortalecer la cooperación internacional para compartir estándares de evaluación, buenas prácticas y mecanismos comunes de seguridad entre los distintos países.

La historia demuestra que el progreso no surge de la certeza absoluta, sino de la libertad para investigar, crear y competir. Cada gran innovación ha estado acompañada de incertidumbre, pero también de la capacidad de las personas para aprender de los errores y perfeccionar las tecnologías. La inteligencia artificial no constituye una excepción, pues su potencial depende de que el conocimiento continúe desarrollándose en un entorno abierto y dinámico.

La confianza en esta tecnología tampoco debe construirse mediante prohibiciones anticipadas. Resulta más eficaz promover la transparencia, la evaluación continua y la responsabilidad de quienes desarrollan estos sistemas. Cuando se conocen las capacidades, limitaciones y riesgos de los modelos, son los usuarios, los investigadores y el propio mercado quienes pueden valorar libremente cuáles merecen su confianza.

El desafío consiste en preservar un equilibrio entre libertad e innovación, sin descuidar la gestión responsable de los riesgos. La cooperación entre desarrolladores, comunidad científica, empresas y autoridades permitirá construir estándares comunes, compartir buenas prácticas y fortalecer la seguridad sin desalentar la investigación. Solo así la inteligencia artificial podrá seguir siendo una herramienta al servicio del progreso humano.