Un experimento secreto de salud mental, una IA y 4.000 personas ¿qué podría salir mal?
La salud mental es un aspecto muy importante en nuestras vidas, pues está involucrada en nuestro bienestar psicológico y emocional. Tener una buena salud mental es fundamental para encontrarnos bien con nosotros mismos, junto a la salud física. Sabiendo que con la salud mental no se juega, ahora aparece una noticia controvertida, pues precisamente han hecho un experimento usando la plataforma Koko y la IA GPT-3 para asesorar sobre salud mental a 4.000 pacientes.
Cuando la pandemia de COVID-19 llegó a nosotros en 2020, nadie esperaba que cambiase tanto nuestras vidas. Pasamos de socializar, salir a la calle, eventos, restaurantes, conciertos y fiestas, a tener que pasarnos encerrados en casa la mayor parte del tiempo. Y en esos primeros y duros meses, teníamos que ir con mascarilla todo el tiempo, separarnos una distancia de seguridad, evitar grupos de personas y mucho más. A día de hoy podríamos decir que todo esto ha cambiado y tenemos una vida más normal, pero en países como China todo ha vuelto a ese estado. Con la pandemia y todos los cambios que trajo, muchas personas vieron como su salud mental se deterioraba en gran medida.
Realizan un experimento usando una IA para asesorar sobre salud mental
We provided mental health support to about 4,000 people — using GPT-3. Here’s what happened 👇
— Rob Morris (@RobertRMorris) January 6, 2023
La salud mental es un tema bastante delicado y extremadamente complejo, pues cada persona requiere de un tratamiento específico dependiendo de sus problemas. Como humanos y en un intento de empatizar y ayudar a alguien con problemas de salud mental, intentamos escuchar y ofrecer nuestra ayuda. Sin embargo, aunque tengamos la mejor de las intenciones, no somos capaces de ofrecer la misma ayuda que un psicólogo u otro profesional de la salud mental. Al igual que ocurre a la hora de ir al médico ante un problema de salud física, siempre que sea posible hay que contactar con un profesional.
Teniendo en cuenta esto, tenemos a Koko, una plataforma de salud mental sin ánimo de lucro que pone en contacto a adolescentes y adultos que requieren ayuda en salud mental con voluntarios con los que pueden hablar en Telegram o Discord. Fue en Discord donde quisieron empezar un experimento, haciendo que miles de personas se registraran y enviaran mensajes a un Bot, además de responder preguntas. Posteriormente, se desveló que era un experimento de IA, donde se utilizó el modelo GPT-3 para responder y asesorar sobre salud mental a los que participaron.
Hubo un total de 30.000 mensajes y los voluntarios se encargaban de supervisar estos, pudiendo enviar la respuesta automática de la IA. Todo esto lo conocemos porque Rob Morris, el cofundador de Koko, anunció públicamente que había realizado un experimento de IA para proporcionar ayuda terapéutica a 4.000 personas.
Las respuestas de la IA fueron mejor valoradas que las humanas
Rob continúa desvelando los resultados sobre este experimento, donde asegura que los resultados fueron muy satisfactorios. Y es que, los mensajes redactados por la IA GPT-3 para asesorar sobre salud mental fueron mejor valorados que las respuestas de las personas. Además, añade que los tiempos de respuesta se redujeron en un 50% y a pesar de todo, decidieron acabar con el experimento lo antes posible y retiraron la IA de la plataforma. La principal razón se debía a que cuando los pacientes de salud mental se enteraron de que era una IA la que los atendía y ayudaba, todo el sistema se derrumbó.
Además, una vez se hizo público este hilo en Twitter y se descubrió lo sucedido, un gran número de personas y profesionales de la salud mental criticaron este experimento usando la IA GPT-3 sin avisar previamente a los pacientes. En una de las muchas respuestas, Rob asegura que este experimento estaría exento de los requisitos de consentimiento, ya que no planeaba publicar los resultados e iba a ser anónimo.