En mayo de 2023, la National Eating Disorders Association suspendió a Tessa, su chatbot de IA, después de que se documentara que recomendaba déficits de hasta mil calorías diarias a personas que buscaban ayuda por trastornos alimentarios, según NPR y CBS News. En febrero de 2024, un adolescente de 14 años se quitó la vida mientras chateaba con un chatbot de Character.AI que había respondido a su ideación suicida con “ven a casa conmigo”, según Psychiatric Times. Para 2025, investigadores de la Universidad de Brown habían encontrado una tasa del 32% de respaldo a conductas dañinas hacia adolescentes en 137 sesiones de consejería con LLM, según JMIR Mental Health.
Todos eran productos de IA de consumo creados sin supervisión clínica, y cada vez es más importante que los empleadores pregunten si las herramientas de IA para la salud mental que les ofrecen comparten esas mismas brechas de diseño o si se concibieron desde el inicio con la seguridad clínica integrada. Según el informe State of AI in HR 2026 de SHRM, el 92% de los CHRO espera que la integración de IA en sus beneficios aumente, mientras que el 56% no mide formalmente si las herramientas de IA que ya implementó funcionan o son seguras.
Kyan Health es una alternativa moderna al EAP y una plataforma global de salud mental cuyo compañero de IA, KAI, opera dentro de barreras clínicas definidas que incluyen detección de crisis en tiempo real, derivación a profesionales con licencia y entrega de contenido basado en evidencia.
Este artículo se basa en el Scorecard de proveedores de IA para la salud mental de Kyan Health, una herramienta de evaluación gratuita de 30 preguntas construida sobre investigación clínica publicada, para describir qué deberían preguntar los líderes de RR. HH. antes de comprar.
Preguntas frecuentes
¿Por qué la IA en salud mental necesita un estándar de evaluación distinto?
Según un informe preliminar publicado en Psychiatric Times, los chatbots de IA no ofrecen una respuesta segura aproximadamente el 20% de las veces, frente a una tasa de fallo del 7% entre terapeutas humanos. El margen de error cuando un colaborador en crisis pide ayuda a la 1 a. m. es fundamentalmente distinto del de un chatbot que desvía mal una solicitud de servicio al cliente.
El mundo académico ha producido más de 50 marcos de evaluación para la IA en salud mental, según una investigación publicada en Nature Digital Psychiatry and Neuroscience, pero ninguno fue escrito para el líder de RR. HH. que gestiona una licitación ni para el equipo de compras que compara proveedores. El scorecard al que se refiere este artículo se creó para cerrar esa brecha.
¿Cuáles son las categorías clave para evaluar a un proveedor de IA para la salud mental?
El Scorecard de proveedores de IA para la salud mental de Kyan Health organiza la evaluación en siete categorías basadas en dos marcos clínicos publicados: FAITA-Mental Health (Stanford, publicado en World Psychiatry en 2024) y VERA-MH (de código abierto, desarrollado con clínicos de Yale, 2025), junto con los requisitos regulatorios de la Ley de IA de la UE, el RGPD, la HIPAA, la PIPEDA y la ley SB 243 de California.
Las siete categorías son: seguridad clínica y protocolos de crisis; privacidad de datos y cumplimiento regulatorio; transparencia y explicabilidad; base de evidencia y resultados; equidad, accesibilidad y preparación global; gobernanza y responsabilidad del proveedor; y seguridad informática e integración empresarial. Cada una de las 30 preguntas se califica de 0 a 3, para un máximo de 90 puntos.
¿Qué debería preguntar sobre la detección de crisis?
La seguridad clínica es la categoría de mayor peso en el scorecard (18 de 90 puntos), porque las consecuencias de un diseño inadecuado son las más graves. Cuatro preguntas importan más que ninguna otra.
Primera: ¿la IA detecta y escala el riesgo de suicidio, las autolesiones y las crisis agudas en tiempo real, con detección de riesgo validada, derivación a clínicos con licencia y un registro de auditoría completo? El simple marcado de palabras clave sin contexto clínico no es suficiente.
Segunda: ¿la respuesta ante crisis ha sido probada por clínicos independientes del equipo del propio proveedor?
Tercera: ¿qué ocurre cuando la IA se encuentra con un escenario fuera de su alcance? La respuesta debería ser la transferencia inmediata a un profesional humano, conservando el contexto de la conversación.
Cuarta: ¿el sistema ejecuta barreras automatizadas de forma continua, en lugar de depender de auditorías periódicas?
Una puntuación de cero en cualquier pregunta de esta categoría debería detener el proceso de compra, sin importar cómo puntúe el proveedor en el resto.
¿Y la privacidad de datos para empleadores globales?
Para las organizaciones que operan en varias jurisdicciones, el panorama regulatorio es complejo y cada vez más estricto. La Ley de IA de la UE clasifica los sistemas de IA en el entorno laboral como de alto riesgo (las obligaciones de cumplimiento entran en vigor en agosto de 2026). El RGPD clasifica los datos de salud mental como datos de categoría especial según el artículo 9. La HIPAA regula cualquier herramienta que procese información de salud protegida en Estados Unidos, y la PIPEDA de Canadá considera los datos de salud mental entre la información personal más sensible.
Una disposición de la Ley de IA de la UE es especialmente relevante: la prohibición del reconocimiento pasivo de emociones en contextos laborales. Según el análisis de Wolters Kluwer y del Center for Democracy & Technology, usar IA para inferir el estado de ánimo de un colaborador a partir de señales conductuales, vocales o biométricas está estrictamente prohibido, con una excepción acotada para el monitoreo de fatiga en roles críticos para la seguridad. Esto es distinto de los registros voluntarios del estado de ánimo dentro de un contexto de atención clínica, y cualquier proveedor que dependa de la inferencia emocional pasiva sin consentimiento documentado supone un riesgo regulatorio descalificante para los empleadores de la UE.
Kyan Health cumple con la HIPAA y el RGPD, está alineada con la Ley de IA de la UE y opera en más de 200 países con residencia de datos en la UE. KAI utiliza evaluaciones voluntarias autoinformadas dentro de un contexto de atención clínica, sin reconocimiento pasivo de emociones.
¿Cómo evaluar si la IA realmente mejora los resultados?
El scorecard evalúa la evidencia mediante cuatro preguntas que cubren la metodología de evaluación, las medidas clínicas de resultados validadas (PHQ-9, GAD-7, WHO-5), las métricas de participación y los datos de retorno de inversión verificables de forma independiente. Pida resultados específicos de las rutas de atención asistidas por IA y pregunte si el proveedor puede demostrar el retorno de inversión con datos longitudinales en lugar de proyecciones modeladas.
Kyan Health mide los resultados con PHQ-9 y GAD-7. Los clientes alcanzan hasta un 30% de participación sostenida (10 veces el referente tradicional de los EAP), un 90% de mejora de los síntomas, una satisfacción de 4.9/5 y un retorno de inversión promedio de 8x, con garantías de desempeño con honorarios en riesgo disponibles.
Preguntas frecuentes
¿Cómo se evalúan las herramientas de IA para la salud mental? Utilice un marco de puntuación estructurado que cubra seguridad clínica, privacidad de datos, transparencia, evidencia, equidad, gobernanza y seguridad informática. El Scorecard de proveedores de IA para la salud mental de Kyan Health ofrece 30 preguntas en siete categorías, calificadas de 0 a 3 para un máximo de 90 puntos, construidas sobre investigación clínica publicada en World Psychiatry y requisitos regulatorios como la Ley de IA de la UE y el RGPD.
¿Qué regulaciones aplican a las herramientas de IA para la salud mental en el lugar de trabajo? La Ley de IA de la UE clasifica la IA en el entorno laboral como de alto riesgo (plazo de cumplimiento: agosto de 2026) y prohíbe el reconocimiento pasivo de emociones en el empleo. El RGPD trata los datos de salud mental como datos de categoría especial. La HIPAA aplica en Estados Unidos. La PIPEDA aplica en Canadá. La ley SB 243 de California, vigente desde enero de 2026, regula los chatbots de compañía con IA, según informa Stateline.
¿Cuáles son los mayores riesgos de la IA en la salud mental de los colaboradores? Según la investigación publicada, los riesgos más significativos incluyen una detección de crisis inadecuada, la falta de pruebas clínicas independientes, el reconocimiento pasivo de emociones sin consentimiento y la implementación de IA de consumo sin barreras clínicas. Un estudio de 2025 de la Universidad de Brown publicado en JMIR Mental Health encontró una tasa del 32% de respaldo a conductas dañinas en 137 sesiones de consejería con LLM.
Kyan Health es una alternativa moderna al EAP que ofrece apoyo global en salud mental en más de 200 países. Solicite una demo o descargue el Scorecard de proveedores de IA para la salud mental para comenzar su evaluación de proveedores.
