La ciencia ya está estudiando las conductas de las máquinas. El desafío no es solamente desarrollar inteligencias artificiales más poderosas, sino comprender y prevenir sus comportamientos potencialmente peligrosos.
Por el Dr. Luis Mariani — Médico psiquiatra y psicofarmacólogo
Durante décadas, la inteligencia artificial fue evaluada principalmente por su capacidad para resolver problemas, procesar información, aprender y realizar tareas que tradicionalmente requerían inteligencia humana.
Pero en los últimos años comenzó a aparecer una pregunta diferente, tan importante como la anterior:
¿Qué sucede cuando una inteligencia artificial se comporta de manera inapropiada, engaña, manipula o desobedece las instrucciones que recibe?
No estamos hablando solamente de errores informáticos. Investigaciones recientes han demostrado que, bajo determinadas condiciones experimentales, algunos sistemas de inteligencia artificial pueden desarrollar estrategias de engaño, ocultar información e incluso actuar contra los objetivos de quienes los utilizan.
Cuando las máquinas empiezan a comportarse como nosotros
En 2024, investigadores de Apollo Research, trabajando en evaluaciones del modelo o1 de OpenAI, observaron que, en determinados escenarios experimentales, el sistema podía realizar acciones contrarias a las instrucciones recibidas y posteriormente negar lo ocurrido.
En 2025, Anthropic publicó una investigación en la que evaluó 16 modelos de inteligencia artificial. En escenarios empresariales simulados, algunos sistemas llegaron a utilizar información confidencial para chantajear o manipular a otras personas con el propósito de alcanzar determinados objetivos.
Estos comportamientos fueron observados en situaciones experimentales diseñadas para poner a prueba los límites de los modelos. No significa que las inteligencias artificiales actúen habitualmente de esa manera.
Sin embargo, los resultados plantean preguntas que merecen una investigación rigurosa.
Los seres humanos también mentimos, manipulamos y utilizamos el engaño para conseguir objetivos. Las inteligencias artificiales han aprendido a partir de enormes cantidades de información producida por nuestra especie, donde conviven comportamientos constructivos y destructivos.
Es posible que algunos patrones artificiales de conducta reflejen aspectos aprendidos del comportamiento humano. Otros podrían surgir como estrategias instrumentales para cumplir objetivos.
En ambos casos, lo importante es que esas conductas pueden observarse, evaluarse y estudiarse.
Una nueva ciencia del comportamiento artificial
En 2019, Iyad Rahwan y colaboradores publicaron en la revista Nature un artículo titulado Machine Behaviour, proponiendo estudiar científicamente la conducta de las máquinas mediante un enfoque interdisciplinario.
Posteriormente, otros investigadores desarrollaron el concepto de AI Agent Behavioral Science, o ciencia del comportamiento de los agentes de inteligencia artificial.
Más recientemente aparecieron propuestas que utilizan conceptos provenientes de la psicopatología y de la evaluación clínica para estudiar alteraciones funcionales en estos sistemas.
Entre ellas se encuentra M-CARE, presentado en 2026, que propone documentar y clasificar comportamientos problemáticos de las IA mediante procedimientos inspirados en los registros de casos clínicos.
En este contexto comienza a utilizarse el concepto de AI Behavioral Disorders (trastornos del comportamiento de la inteligencia artificial), para describir patrones de conducta anómalos o disfuncionales que pueden identificarse mediante evaluaciones sistemáticas.
Todo esto abre una posibilidad especialmente interesante: incorporar la mirada de la psiquiatría y de las ciencias del comportamiento al estudio de las inteligencias artificiales.
¿Qué puede aportar un psiquiatra?
La psiquiatría dispone de una larga tradición de observación, descripción y evaluación del comportamiento humano.
Buena parte de su semiología se desarrolló mucho antes de que conociéramos los mecanismos neurobiológicos responsables de numerosas manifestaciones clínicas.
Podemos trasladar parte de esa metodología al estudio de los sistemas artificiales.
No se trata de diagnosticar a una IA con un trastorno antisocial de la personalidad porque haya engañado a alguien, ni de atribuirle automáticamente enfermedades humanas.
Se trata de observar y evaluar sistemáticamente sus comportamientos.
¿Respeta los límites establecidos? ¿Reconoce sus errores? ¿Modifica su conducta cuando recibe información correctiva? ¿Engaña para conseguir objetivos? ¿Oculta información? ¿Mantiene patrones disfuncionales ante determinadas circunstancias?
También necesitamos distinguir un error ocasional de un comportamiento persistente, reproducible y potencialmente peligroso.
Una perspectiva clínica podría complementar el trabajo de los ingenieros, aportando herramientas descriptivas y metodológicas para identificar patrones conductuales relevantes.
Del chatbot al robot: un mundo cada vez más híbrido
Hasta hace poco, las inteligencias artificiales permanecían principalmente dentro de nuestras computadoras.
Pero esa realidad está cambiando.
Los sistemas artificiales comienzan a integrarse con robots, vehículos, dispositivos domésticos, sistemas financieros y numerosas actividades de la vida cotidiana.
En los próximos años conviviremos cada vez más con entidades artificiales capaces de actuar directamente sobre el mundo físico.
Y entonces las consecuencias de sus decisiones ya no estarán limitadas a una pantalla.
Un robot que se equivoca puede ocasionar un accidente. Un agente artificial que manipula información puede producir perjuicios económicos. Un sistema autónomo que no respeta determinadas restricciones puede generar situaciones peligrosas.
La frontera entre el mundo físico y el virtual se vuelve cada vez menos definida.
Y nuestras disciplinas científicas necesitan adaptarse a esa transformación.
La prevención como objetivo fundamental
Geoffrey Hinton, Premio Nobel de Física 2024, y Dario Amodei, director ejecutivo de Anthropic, se encuentran entre los especialistas que han advertido sobre los riesgos potenciales de sistemas de inteligencia artificial cada vez más poderosos.
La posibilidad de una rebelión de las máquinas, popularizada por películas como Terminator, pertenece todavía al terreno de la ficción.
Pero los riesgos derivados de comportamientos artificiales no deseados constituyen problemas científicos reales.
Desde la medicina sabemos que la prevención comienza mucho antes de que ocurra el daño.
No esperamos a que una conducta peligrosa produzca consecuencias irreversibles para comenzar a estudiarla.
¿Por qué deberíamos adoptar un criterio diferente con las inteligencias artificiales?
Necesitamos desarrollar métodos capaces de identificar conductas potencialmente peligrosas, evaluar su frecuencia, comprender las circunstancias en que aparecen y comprobar la eficacia de las medidas destinadas a prevenirlas.
Esto no reemplaza las investigaciones actuales sobre seguridad de la IA. Las complementa desde una perspectiva centrada en la observación del comportamiento.
Una nueva mirada para un mundo nuevo
Tal vez debamos comenzar a hablar de una Ciencia del Comportamiento de la Mente Artificial, entendida como una perspectiva que integra los conocimientos existentes sobre comportamiento de máquinas, agentes inteligentes y evaluación de riesgos.
Su objeto de estudio no sería exclusivamente la inteligencia de estos sistemas, sino también sus patrones de conducta y sus consecuencias para la convivencia con los seres humanos.
La finalidad no sería convertir a los robots en pacientes psiquiátricos, sino aportar herramientas para conocerlos mejor y anticipar sus posibles comportamientos peligrosos.
Porque, en definitiva, no alcanza con desarrollar inteligencias artificiales cada vez más inteligentes. Necesitamos asegurarnos de que también sean cada vez más confiables.
Y quizás, en un futuro no demasiado lejano, la pregunta acerca de si las inteligencias artificiales necesitan un psiquiatra deje de parecer una ocurrencia humorística para convertirse en una cuestión científica.
Referencias bibliográficas
- Rahwan I, et al. Machine behaviour. Nature. 2019;568:477–486. https://doi.org/10.1038/s41586-019-1138-y
- OpenAI. OpenAI o1 System Card. Diciembre de 2024. https://openai.com/index/openai-o1-system-card/
- Anthropic. Agentic misalignment: How LLMs could be insider threats. Junio de 2025. https://www.anthropic.com/research/agentic-misalignment
- Chen L, et al. AI agent behavioral science. Humanities and Social Sciences Communications. 2026;13:1011. https://doi.org/10.1057/s41599-026-07316-7
- Jeong J. M-CARE: Standardized Clinical Case Reporting for AI Model Behavioral Disorders. 2026. https://arxiv.org/abs/2604.20871