La polémica ha vuelto a rodear al Hormiguero, el programa de Pablo Motos, debido a que en esta ocasión han realizado un experimento con IA. Mediante esta tecnología es posible recrear la voz de personas, incluso tras haber fallecido, permitiendo a sus familiares tener una conversación con ellos. Además de lacrimógeno, el experimento del programa pone de manifiesto lo delicado que es el negocio de “resucitar” a personas mediante la IA. Porque ya hay empresas que ofrecen este tipo de servicios…
El experimento real de El Hormiguero con la IA
Para realizar este experimento, el programa de Antena 3 compartió un anunció en busca de personas que habían perdido recientemente a un familiar. Entre los participantes, vemos a una mujer que ha perdido a su yaya, otra que perdió a su abuelo, y varias otras personas que también han perdido a sus mayores. Debían enviar un audio del familiar hablando para que fuese posible clonar su voz con la inteligencia artificial. Todos estaban deseando poder volver a escuchar a sus familiares y enseguida se conmovieron cuando escucharon su voz. Simulando una conservación, las voces recreadas preguntan a sus familiares con un tono ciertamente humano cosas como “¿qué tal estás, me has echado de menos?”. Entre la música y las reacciones emotivas de los participantes, resulta evidente que la tecnología puede ser capaz de cosas increíbles. “Escucharle es como un regalo”. Las voces recreadas realizan preguntas como “¿Qué te habría gustado preguntarme o decirme en su momento?”. Desde luego tener la oportunidad de tener estas conversaciones puede ser muy terapéutico, pero también es un tema delicado cuando se trata de un duelo cercano.
¿Te gustaría volver a hablar con un ser querido fallecido a través de la inteligencia artificial? #MartínezGilEH pic.twitter.com/LZ7HNEw08a
— El Hormiguero (@El_Hormiguero) January 31, 2024
Los peligros de hablar con los fallecidos mediante la IA
Es evidente que resulta una tentación el tener la oportunidad de poder hablar con alguien cercano desde la tumba. Incluso sabiendo que es una ilusión virtual, el realismo que aporta la IA puede incluso hacer que durante unos segundos lo consideremos auténtico. Pero esto esconde grandes peligros, sobre todo en personas que están muy afectadas por el duelo. Esta práctica, aunque ofrece un consuelo momentáneo, ha sido cuestionada por psicólogos, que advierten sobre el riesgo de interferir en el proceso natural de duelo y la posibilidad de crear una dependencia hacia estas recreaciones artificiales. La tecnología detrás de esta iniciativa permite generar conversaciones con seres queridos ya fallecidos a partir de audios pregrabados, abriendo un debate ético sobre la manipulación de la memoria y la identidad de los difuntos. Una vez más Black Mirror se nos ha adelantado para demostrar los riesgos que tiene esto.
Por otro lado, la proliferación de avatares digitales de personas fallecidas plantea complejas cuestiones éticas y existenciales. Empresas como StoryFile están creando versiones digitales interactivas de individuos, lo que suscita interrogantes sobre la autenticidad y la propiedad de estas recreaciones. Además, el uso de deepfakes y la clonación de voces, amplía el debate sobre los derechos de autor y la integridad del legado de las personas. Este escenario tecnológico emergente desafía nuestras concepciones sobre la identidad, la memoria y el respeto por los difuntos, exigiendo una reflexión profunda sobre sus implicaciones a largo plazo. Desde luego, es cuanto menos cuestionable que haya empresas lucrándose de la necesidad de familiares en duelo. Según la tecnología se vuelva más y más realista, será un tema muy delicado.
