Alertan sobre el impacto del uso de la IA para simular conversaciones con personas que ya fallecieron

Empresas dedicadas a la tecnología, como StoryFile, Eternos.Life, December Project y You, Only Virtual, han desarrollado herramientas avanzadas empleando inteligencia artificial (IA). Estas permiten que las personas «hablen» con seres queridos fallecidos mediante la recreación de sus imágenes y voces, e incluso interacciones escritas.

Estos «robots de duelo» se construyen utilizando la huella digital del difunto—datos recopilados de redes sociales, mensajería y correos electrónicos—que se procesan mediante redes neuronales diseñadas para replicar su manera de actuar o pensar.

Las técnicas empleadas incluyen videos interactivos donde el individuo deja grabadas respuestas a preguntas sobre su vida, así como conversaciones mediante chatbots que utilizan la voz del difunto o simplemente texto.

En algunos casos, es el propio individuo quien organiza este servicio antes de su fallecimiento, mientras que en otros, son los familiares quienes desarrollan estas herramientas para recrear la experiencia de interacción con el ser amado que ha partido.

Incógnitas sobre la industria digital del «Después de la muerte»

Belén Jiménez, doctora en Psicología por la Universitat Oberta de Cataluña, expresó en una entrevista con la agencia EFE la importancia de proteger el respeto y la dignidad del difunto, así como el bienestar psicológico de quienes usan esta tecnología.

«Existen reticencias hacia estas herramientas, lo cual es comprensible dado que provienen de una industria que persigue principalmente objetivos comerciales, más que beneficios terapéuticos», enfatizó Jiménez, experta en cómo los medios digitales abordan el proceso de duelo.

Un estudio reciente de la Universidad de Cambridge presentó tres escenarios hipotéticos que ilustran las posibles repercusiones de un diseño negligente de esta tecnología y la falta de estándares de seguridad adecuados.

La investigación, liderada por Katarzyna Nowaczyk-Basińska, plantea casos como el de un bot que sugiere anuncios publicitarios a una nieta, un niño que sufre confusión ante respuestas incoherentes de una réplica de su madre fallecida, y un padre que deja un avatar a sus hijos que, con el tiempo, se convierte en fuente de mensajes no deseados y estrés emocional.

Relación de dependencia

Los bots podrían hacer creer al doliente que realmente está comunicándose con su ser querido, creando una dependencia emocional.

«Esto podría llevar a un sufrimiento por una ‘segunda pérdida’ si el bot desaparece, por ejemplo, debido a problemas técnicos», advierte Jiménez.

En el Festival de Cine de Sundance, el documental «Eternal You» mostró los inicios de estos bots de duelo y a algunos de sus primeros usuarios, quienes buscan consuelo en estas aplicaciones y están dispuestos a todo por hablar nuevamente con sus seres queridos fallecidos.

«Hubo cosas que me asustaron y otras que no estaba preparada para escuchar», comenta una entrevistada en el tráiler del documental.

Según Jiménez, un bot podría generar respuestas que no coincidan con los recuerdos del usuario, causando frustración o dolor.

Asimismo, podría surgir el sentimiento de una segunda pérdida «al darse cuenta de la falta de autenticidad emocional» que caracterizaba la relación con el difunto, o incluso podría alterar la memoria de éste, lo que podría causar gran inquietud.

La cadena de televisión surcoreana MBC realizó una serie de documentales sobre experiencias de realidad inmersiva que permitieron a una madre pasar unas horas con su hija de siete años fallecida y a un hombre reencontrarse con su esposa muerta, donde ambos mostraron gratitud por la experiencia.

Estas ‘thanatotecnologías’ no solo transforman la experiencia del duelo, sino también la propia concepción de la mortalidad y hasta de la ‘resurrección’, señala Jiménez.

Ella advierte que estamos ante un nuevo desarrollo tecnológico, impulsado por la IA, que presenta riesgos significativos y, por tanto, debe ser regulado ante los desafíos «socio-éticos muy complicados» que plantea.

Con información de El Diario