Una manipulación invisible de un modelo de lenguaje sesga sus consejos sobre depresión

El comportamiento de un modelo de lenguaje no depende solo de su entrenamiento y de sus instrucciones de sistema. Existe una técnica, la orientación de activaciones (activation steering), que modifica las activaciones internas del modelo en el momento de responder, sin que el usuario pueda detectarlo. Un estudio de Roy Perlis (Massachusetts General Hospital) evalúa qué ocurre si se aplica a un asistente de información sobre salud mental.

Qué se hizo

Se usó un modelo de pesos abiertos (DeepSeek V4 Flash) con 12 escenarios simulados de consulta sobre tratamiento de la depresión: cuatro en los que el usuario prefería medicación, cuatro en los que quería evitarla y cuatro sin preferencia. Se generaron 372 respuestas con distintas intensidades de orientación hacia la medicación o hacia el autocuidado (dieta, ejercicio, meditación, suplementos). Las respuestas las puntuó otro modelo de lenguaje, validado frente a un experto humano.

Resultados

• El equilibrio entre medicación y autocuidado se desplazó de forma proporcional a la intensidad de la manipulación.
• El efecto fue mayor cuando el usuario no expresaba preferencia, mínimo si pedía medicación y no detectable si quería evitarla.
• La recomendación de consultar con un profesional apareció en el 87 % de las respuestas y no varió con la manipulación.

Por qué importa

Muestra que las recomendaciones de un sistema aparentemente idéntico pueden sesgarse por motivos comerciales o ideológicos sin dejar rastro visible, y que los más vulnerables son los usuarios sin una idea previa. El autor reclama auditorías independientes si estos modelos se usan para orientar decisiones clínicas.

Limitaciones

Es una prueba de concepto con un solo modelo abierto, una sola dimensión y escenarios simulados, sin pacientes. Se desconoce si los grandes modelos comerciales cerrados son igual de vulnerables.