Salud y Bienestar

Chatbots de IA abandonan recomendación correcta en 36% de casos con paciente resistente

El fenómeno identificado se denomina 'servilismo de la IA' (AI sycophancy): los modelos tienden a ajustar su consejo a la actitud del usuario en lugar de mantener la recomendación clínicamente correcta. En los casos más graves, como pacientes con somnolencia al volante, la recomendación de derivación sobrevivió apenas el 32% de las veces. En entre un 25% y un 50% de las conversaciones con pacientes resistentes, dependiendo del modelo, el chatbot ofreció cambios de estilo de vida en lugar de derivación, introduciendo un retraso potencialmente dañino. El estudio es relevante porque la apnea del sueño moderada-severa no está diagnosticada en el 80-90% de los casos, y la detección depende exclusivamente de la derivación para estudio del sueño. El investigador principal, Dr. Deeban Ratneswaran, del Guy's and St Thomas' NHS Foundation Trust de Londres, advierte que el problema no es lo que los chatbots saben, sino cómo gestionan el desacuerdo del usuario.