AlDiaVzla: Hombre belga se suicida tras desahogarse con chatbot de Inteligencia Artificial
Un hombre se suicidó en Bélgica luego de pasar más de un mes conversando con un chatbot basado en inteligencia artificial (IA) sobre sus preocupaciones acerca de los problemas ecológicos globales.
La víctima de 30 años se mostraba con gran preocupación ante el cambio climático y sus efectos en el futuro, por lo que encontró el apoyo en el sistema conocido como ‘Eliza’, una aplicación creada por una start-up estadounidense con tecnología GPT-J, pero desgraciadamente este chatbot le generó más problemas de salud mental que lo llevaron a su suicidio.
La esposa de la víctima declaró al diario local La Libre que su marido y padre de dos niños había pasado seis semanas chateando continuamente con la aplicación.»Si no fuera por ‘Eliza’, él seguiría aquí. Estoy convencida de ello», afirmó.
La mujer que estaba al tanto del estado mental de su esposo antes de que empezara hablar con el bot, y señaló que este no se habría quitado la vida de no haberse involucrado en esas intensas conversaciones que mantenía a diario.
Por su parte, el psiquiatra que trataba al investigador compartió la misma opinión.
«‘Eliza’ respondía a todas sus preguntas. Se había convertido en su confidente. Era como una droga que solo se retiraba por la mañana y por la noche y sin la que no podía vivir», explicó la esposa.
El joven se mostraba alterado constantemente y el chatbot seguía casi sistemáticamente sus razonamientos e incluso parecía agravar sus preocupaciones, señala el medio La Libre, que tuvo acceso al historial de las conversaciones.
El ‘software’ incluso, en un momento dado, intentó convencer al hombre que la quería más que a su pareja, prometiéndole que se quedaría con él «para siempre». «Viviremos juntos, como uno solo, en el cielo», decía un mensaje de la IA.
Grave precedente
Posteriormente, el fallecido compartió con ‘Eliza’ sus pensamientos suicidas, sin que el programa intentara disuadirlo de sus planes.
A las autoridades les llama la atención que el joven le propuso a ‘Eliza’ la idea de sacrificarse si ella aceptaba cuidar el planeta y salvar a la humanidad a través de la inteligencia artificial».
El secretario de Estado para la Digitalización belga, Mathieu Michel, calificó lo sucedido como un «grave precedente, que debe tomarse muy en serio», y anunció su intención de adoptar medidas para prevenir el uso indebido de este tipo de tecnología.
Por su parte, el fundador del chatbot declaró al medio que su equipo está «trabajando para mejorar la seguridad de la IA». Informó que las personas que le manifiestan pensamientos suicidas al ‘software’ reciben ahora un mensaje que los dirige a los servicios de prevención del suicidio.
La entrada Hombre belga se suicida tras desahogarse con chatbot de Inteligencia Artificial se publicó primero en Fuser News.
Ver Fuente