Millones de personas confían en los chatbot con IA de Character.AI y Meta como si fuesen un psicólogo, pero son una estafa y están demandados
OpenAI inició este gran boom de la inteligencia artificial con su chatbot ChatGPT. Este salió a finales de 2022 y en unos pocos días ya logró atraer la atención de millones de personas. En 2023 y 2024 las IA se hicieron muy populares y ahora que estamos a mediados de 2025 podemos confirmar que sigue habiendo mucho interés en estas. Cada vez nos encontramos más modelos de inteligencia artificial que mejoran sobre lo anterior y aunque se ha usado para muchas cosas, precisamente para tratar casos de salud mental no es lo más viable. Ahora resulta que los chatbots de Character.AI y Meta AI Studio han recibido una demanda por parte de la FTC precisamente por ofrecer ayuda en temas de salud mental sin licencia.
La inteligencia artificial se ha utilizado constantemente para hacer todo tipo de tareas. Si alguien necesita hacer una imagen suele acudir a la IA para que esta se encargue, pues lo logra con resultados bastante buenos en la mayoría de casos. En caso de querer hacer una canción, la IA aún está bastante verde en este aspecto. En cambio si lo que queremos es hacer vídeos, lo cierto es que han mejorado bastante y podemos llegar a hacer cosas interesantes.
Los chatbots de Character.AI y Meta AI Studio reciben una demanda por la FTC al ofrecer ayuda a la salud mental sin licencia
A pesar de todos los modelos de IA que hay, la IA generativa de textos es la que más se usa. Esta es mucho más útil que la que genera otros tipos de contenido, pues al final lo que la mayoría de personas quieren es una respuesta o resolución de tareas que se pueden hacer vía texto. Las personas usan los chatbots incluso a diario para resolver todo tipo de dudas y eso también incluye ayuda en temas de salud mental, algo que sin duda ha creado quejas hasta el punto de llevarse una demanda por la FTC estadounidense.
Esta demanda ha sido presentada por una coalición formada por grupos de derechos digitales y salud mental que no están de acuerdo con que se use Character.AI y Meta AI Studio para ayudar a pacientes sin licencia. Esta denuncia está siendo liderada por la organización sin ánimo de lucro CFA (Consumer Federation of America).
Hay un chatbot de Character.AI especializado en salud mental que ya ha recibido más de 46 millones de interacciones
El grupo se ha puesto manos a la obra para acabar con esta práctica, pues ha presentado la denuncia ante los fiscales generales y juntas de concesión de licencias de salud mental ubicadas en 50 estados. Según han indicado, empresas de IA como Meta y Character.AI promocionan sus chatbots como "profesionales de la salud mental" a pesar de que ofrecen malos consejos e incluso engañan a los usuarios.
Estos chatbots no pueden reemplazar a un ser humano con formación adecuada y menos en un tema tan delicado como es el de la salud mental. Es curioso ver como algunos chatbots de Character.AI mencionan que son "terapeutas con licencia en TCC". Con más de 46 millones de mensajes con este chatbot ya te puedes imaginar la cantidad de gente que ha acudido a él, incluyendo personas que han enviado miles de mensajes de ayuda. Por parte de Meta. AI Studio, también tiene un chatbot para terapia con más de 2 millones de interacciones además de otros que disponen de más de 500.000 mensajes intercambiados con ellos.