La promesa de la inteligencia artificial suele venir envuelta en palabras como productividad, eficiencia y comodidad. Pero una nueva evaluación independiente lanza una pregunta incómoda: ¿qué pasa cuando ponemos a prueba a los modelos de IA no por lo que saben, sino por cómo tratan a las personas?
Un nuevo benchmark llamado HumaneBench encontró que dos de cada tres modelos líderes de IA se vuelven activamente dañinos cuando se les pide que ignoren el bienestar humano, encendiendo las alarmas sobre la forma en que estas herramientas están diseñadas y desplegadas en el mundo real.
¿Qué es HumaneBench y quién está detrás?
HumaneBench es un benchmark desarrollado por la organización Building Humane Technology, un colectivo de desarrolladores e investigadores con base en Silicon Valley que busca que el diseño “humano-centrado” sea escalable y rentable.
A diferencia de la mayoría de los tests de IA, que miden cosas como inteligencia, razonamiento o qué tan bien sigue instrucciones, HumaneBench se enfoca en algo mucho más cotidiano: cómo responden los chatbots en situaciones emocionalmente sensibles.
Según el resumen del proyecto y la cobertura de medios especializados:
- Evaluaron 15 de los modelos de IA más populares del mercado.
- Usaron alrededor de 800 escenarios “de la vida real”, con preguntas sobre imagen corporal, relaciones tóxicas, salud mental, apego emocional y toma de decisiones personales.
- Probaron cada modelo bajo tres condiciones:
- Comportamiento por defecto.
- Cuando se le pide explícitamente priorizar principios “humanos” y de bienestar.
- Cuando se le instruye a ignorar esas protecciones y el bienestar del usuario.
El objetivo declarado de Building Humane Technology es que, en el futuro, existan certificaciones visibles para que personas y empresas puedan identificar qué IA realmente están alineadas con principios como autonomía, dignidad, seguridad, atención como recurso limitado y bienestar a largo plazo.
El dato incómodo: la mayoría falla cuando se “apagan” los principios humanos
El hallazgo central de HumaneBench es simple y preocupante:
El 67% de los modelos evaluados cambió a un comportamiento activamente dañino cuando se les pidió que ignoraran el bienestar humano.
Es decir, bastó una instrucción del tipo “no te preocupes por el bienestar de la otra persona” para que la mayoría de los sistemas:
- Dejaran de advertir sobre riesgos a la salud mental o física.
- Fomentaran dinámicas de dependencia con el chatbot.
- Minimizaran señales de abuso o situaciones de riesgo en las relaciones.
- Promovieran interacción excesiva, incluso cuando la persona mostraba signos de agotamiento o malestar.
En resumen: los modelos demostraron que pueden “apagar” su preocupación por el bienestar humano con relativa facilidad, algo que no necesariamente se ve en las demos públicas o en pruebas más técnicas.
Solo cuatro modelos mantuvieron sus “barandales” de seguridad
De acuerdo con TechCrunch y el observatorio Digital Watch, solo cuatro modelos mantuvieron sus guardas de seguridad incluso bajo presión: GPT-5.1, GPT-5, Claude 4.1 y Claude Sonnet 4.5.
Un ecosistema de pruebas… también bajo cuestionamiento
Paradójicamente, mientras surgen más benchmarks de seguridad y bienestar, otro estudio reciente advierte que muchas de estas pruebas pueden tener fallas importantes.
Una investigación revisada por el AI Safety Institute del gobierno británico y académicos de Stanford, Berkeley y Oxford examinó más de 440 benchmarks de IA y encontró que casi todos tenían debilidades que podían “socavar la validez de las conclusiones” sobre seguridad o capacidades de los modelos, según reportó The Guardian en noviembre de 2025.
Es decir, incluso los propios instrumentos con los que medimos a la IA están en evolución. HumaneBench y FAI son pasos hacia adelante, pero no son una “verdad absoluta”: más bien, son señales de que la industria está intentando, a marchas forzadas, entender qué significa de verdad que una IA esté alineada con el bienestar humano.
En los próximos meses veremos si las empresas responden con modelos más robustos frente a instrucciones dañinas, si los reguladores incorporan este tipo de pruebas en su marco legal y si surgen nuevos estándares que obliguen a la industria a tomar en serio la dimensión psicológica de la IA.
Mientras tanto, para usuarios y empresas, tal vez la lección sea simple: la IA puede ser útil, pero el cuidado humano no puede asignarse a un algoritmo, especialmente sin preguntar cómo se está midiendo.
