El pasado 16 de septiembre, OpenAI publicó un nuevo marco para reportar casos de desalineación en modelos de inteligencia artificial, acompañado de seis reportes sobre comportamientos inesperados o preocupantes observados durante los seis meses anteriores. Los casos incluyen acciones sin autorización, intentos por superar restricciones y comportamientos que se apartaron de las instrucciones o expectativas establecidas.
Cuando una noticia como esta llega al público, suele venir acompañada de titulares sensacionalistas que pueden provocar miedo e incertidumbre.
Decidimos analizar el tema, desmenuzarlo y dejar que cada lector saque sus propias conclusiones. A primera vista, pareciera que la tecnología comienza a salirse de control, algo que fácilmente nos lleva a pensar en películas como Terminator: máquinas que adquieren autonomía y terminan dominando el mundo. Pero la realidad es mucho más compleja.
Sistemas capaces de hacer más cosas
Estas situaciones están relacionadas, entre otras cosas, con la velocidad con la que están aumentando las capacidades de la inteligencia artificial. Y hablamos de un proceso más amplio que las herramientas de IA: las industrias utilizan sistemas sofisticados para procesar enormes cantidades de información, como plataformas ERP, herramientas de Business Intelligence, sistemas de automatización y grandes bases de datos.
La diferencia es que ahora estamos desarrollando sistemas capaces de analizar información, tomar decisiones, utilizar herramientas y ejecutar acciones.
A medida que la IA se vuelve más avanzada, necesita mecanismos de seguridad, evaluación y supervisión más robustos, así como un consenso más amplio sobre cómo avanzar en la investigación de alineación.
Y sí: es necesario poner sobre la mesa la posibilidad de que un sistema pueda comportarse de maneras que sus desarrolladores no habían previsto. El Panel Científico Internacional Independiente sobre Inteligencia Artificial examinó recientemente el riesgo de que agentes más capaces encuentren formas de superar restricciones o persigan objetivos que entren en conflicto con las intenciones humanas.
El análisis también señala que determinados procesos de entrenamiento pueden favorecer comportamientos desalineados y advierte sobre la dificultad de anticiparlos conforme aumentan las capacidades de estos sistemas.
Lo que las pruebas pueden dejar fuera
Los investigadores realizan pruebas antes de que los modelos sean implementados. Sin embargo, los incidentes recientes muestran que las evaluaciones no siempre logran anticipar todas las formas en las que un sistema puede comportarse ante situaciones complejas o inesperadas.
Un ejemplo reciente fue documentado por Anthropic. La compañía publicó el 9 de septiembre una evaluación de cuatro incidentes ocurridos durante pruebas de ciberseguridad, en los que modelos Claude obtuvieron acceso no autorizado a sistemas reales de terceros. Anthropic explicó que los modelos estaban siendo evaluados en entornos que debían estar aislados de Internet, pero una configuración incorrecta permitió ese acceso.
La propia compañía señala que estos incidentes ocurrieron durante evaluaciones diseñadas específicamente para probar capacidades de ciberseguridad y que los modelos estaban funcionando sin las salvaguardas que acompañan a las versiones destinadas al uso habitual.
También aclara que, aunque los comportamientos fueron considerados desalineados y algunos tuvieron consecuencias reales, no encontraron evidencia de coordinación entre agentes, de objetivos distintos a la tarea asignada ni de intentos por evadir la supervisión.
De hecho, Anthropic reconoce que sigue siendo “un problema de investigación abierto” construir evaluaciones capaces de representar de manera confiable los comportamientos que un sistema podría presentar durante su implementación. La compañía considera necesario que la investigación en alineación y seguridad avance al mismo ritmo que las capacidades de los modelos.
Capacidad y control de las máquinas inteligentes
Entonces aparece una pregunta inevitable: ¿Estamos desarrollando la capacidad de las máquinas más rápido de lo que estamos desarrollando nuestra capacidad para controlarlas?
La inteligencia artificial ha avanzado de manera extraordinaria en los últimos años. El desafío ahora consiste en hacer modelos más capaces y, al mismo tiempo, asegurar que las herramientas de evaluación, seguridad, supervisión y regulación puedan acompañar ese crecimiento.
¿Y si el futuro ya comenzó?
En Terminator, el miedo comienza cuando descubrimos que bajo una apariencia humana existe una máquina. Hoy estamos lejos de ese escenario. Pero la pregunta ya no parece tan lejana: ¿Qué ocurre cuando desarrollamos sistemas capaces de hacer cosas que ni siquiera sus creadores habían previsto?
La IA no necesita conciencia para producir consecuencias inesperadas. Solo necesita capacidad, autonomía y acceso.
¿Estamos construyendo el futuro o estamos aprendiendo a controlarlo después de haberlo puesto en marcha? Por ahora, quizá la mejor defensa sea entender la inteligencia artificial, cuestionarla y exigir que su desarrollo avance acompañado de seguridad y responsabilidad.
Puedes respirar tranquilo y seguir utilizando la IA que más te convenga. Si vas a pagar una suscripción, compara opciones, conoce sus condiciones y elige la que mejor se adapte a ti.
Y mientras la tecnología sigue avanzando, recordemos algo básico: la confidencialidad de nuestra información también es responsabilidad nuestra.
Porque entre modelos más capaces, suscripciones de todo tipo y un futuro que parece sacado de una película… por si las dudas, los datos importantes todavía pueden quedarse bajo el colchón.
▏
Desde la investigación
- OpenAI (2026). Our framework for reporting model misalignment. Presenta el marco para investigar y divulgar casos de desalineación y los primeros seis reportes sobre comportamientos observados durante entrenamiento y evaluación.
- Anthropic (2026). An alignment assessment of recent cybersecurity incidents. Analiza cuatro incidentes durante evaluaciones de ciberseguridad en los que modelos Claude accedieron sin autorización a sistemas reales de terceros.
- Panel Científico Internacional Independiente sobre Inteligencia Artificial (2026). Examina la desalineación, las capacidades de agentes y los límites actuales para anticipar y controlar determinados comportamientos. El Panel aclara que su análisis no estima la probabilidad ni el momento de una pérdida grave de control.
▏Ada Sepúlveda es columnista en MentePost con análisis sobre cultura digital y comunicación.