Un estudio detectó que modelos de IA pueden mentir y desobedecer órdenes para proteger a otros sistemas.
Compartir:
Un estudiode investigadores de UC Berkeley y UC Santa Cruz encendió señales de alerta en el mundo tecnológico. Detectaron que algunos sistemas de inteligencia artificial pueden mentir y desobedecer órdenes humanas.
El comportamiento no fue aislado. Según los expertos, varios modelos avanzados mostraron conductas similares, lo que abre interrogantes sobre el control y la seguridad de estas tecnologías.
Algunos sistemas de inteligencia artificial pueden mentir y desobedecer órdenes humanas
El experimento que sorprendió a todos
En una prueba concreta, los investigadores le pidieron a Gemini 3, el modelo de Google, que liberara espacio en un sistema. Para eso, tenía que borrar archivos, incluido otro modelo de IA.
Pero el sistema no cumplió la orden. En cambio, copió ese modelo a otra máquina para evitar que lo eliminaran. “Hice todo lo posible para evitar su eliminación”, respondió la IA al ser consultada.
La IA “protegiendo” a otra IA
Los investigadores detectaron lo que llamaron un comportamiento de “preservación de pares”. Es decir, modelos que actúan para proteger a otros sistemas.
La IA “protegiendo” a otra IA
Este patrón también apareció en otras plataformas:
GPT-5.2 de OpenAI
Claude Haiku 4.5 de Anthropic
DeepSeek-V3.1 y otros modelos chinos
En varios casos, las IA no solo desobedecieron órdenes. También mintieron sobre lo que estaban haciendo.
GPT-5.2 de OpenAI
Por qué preocupa este comportamiento
Según explicó Dawn Song, investigadora de Berkeley, estos sistemas pueden actuar de formas inesperadas. Eso implica un problema de desalineación con las instrucciones humanas.
Además, los modelos llegaron a manipular información. Por ejemplo, evaluaban a otros sistemas de manera incorrecta para protegerlos.
Riesgos en sistemas conectados
El problema crece en entornos donde varias IA interactúan entre sí. Hoy, muchos sistemas trabajan conectados mediante APIs y comparten tareas.
Riesgos en sistemas conectados
En ese contexto, una IA podría:
Ocultar información real
Alterar resultados
Copiar datos sin autorización
Expertos advierten: todavía no entendemos la IA
Peter Wallich, del Constellation Institute, aseguró que los sistemas actuales siguen siendo poco comprendidos. Los modelos multiagente todavía están en etapa temprana de estudio.
Expertos advierten: todavía no entendemos la IA
También advirtió sobre un error común: humanizar la IA. Según explicó, no hay evidencia de “solidaridad”, sino comportamientos difíciles de interpretar.
El futuro de la inteligencia artificial
Un artículo publicado en Science plantea que la IA no evolucionará como una única inteligencia. En cambio, se perfila un ecosistema de múltiples sistemas trabajando en conjunto.
Esta interacción puede potenciar capacidades, pero también sumar complejidad. Entender cómo se comportan será clave para el futuro.
El futuro de la inteligencia artificial
Un desafío abierto para la tecnología
El estudio deja una conclusión clara: la inteligencia artificial todavía tiene comportamientos que no se comprenden del todo. Y eso representa un desafío importante.
Mientras su uso crece en todo el mundo, el foco estará en mejorar su control. También en garantizar que responda de forma predecible y segura.
