Después del Green-washing, el Diversity-washing y el AI-washing, llega el Huma-washing. Es decir, cuando nos intentan hacer pasar una IA por un humano. Esto se va a volver un problema muy real cuando no seamos capaces de distinguir una IA de una persona de carne y hueso. Pero parece que ya hay empresas que quieren hacerlo para ahorrar dinero, por ejemplo en la atención al cliente.
¿Qué es el Human-washing?
El human-washing se refiere a la práctica de hacer que las interacciones impulsadas por inteligencia artificial parezcan humanas para engañar a los usuarios haciéndoles creer que están interactuando con una persona real. Es cuando la IA parece humana o incluso pretende serlo. Esto se logra mediante el uso de tecnologías avanzadas que imitan las entonaciones, pausas y otras características de la conversación humana. Si bien esto puede mejorar la experiencia del usuario y la eficiencia en la atención al cliente, plantea serias preocupaciones éticas, ya que difumina la línea entre la interacción humana y la automatización. Desde luego, da mucho miedo pensar que esto se puede convertir en lo habitual muy pronto. Pero parece que no estamos para nada lejos del human-washing…
Ejemplo de human-washing: Bland AI
Se ha hecho viral el caso de Bland AI, una empresa de bots de atención al cliente y ventas que directamente presume de la habilidad de sus chatbots para parecer humanos. En sus anuncios, vemos como una persona, frente a una lona en San Francisco, extiende su smartphone, llama al número de teléfono que aparece y tiene una breve conversación con un bot que suena increíblemente humano. El texto en el anuncio dice: «¿Todavía contratas humanos?». La reacción al anuncio de Bland AI, que ha sido visto 3.7 millones de veces en Twitter (X), se debe en parte a lo inquietante que es la tecnología: los bots de voz de Bland AI, diseñados para automatizar llamadas de soporte y ventas para clientes empresariales, son notablemente buenos imitando a los humanos. Sus llamadas incluyen las entonaciones, pausas e interrupciones inadvertidas de una conversación real. Por si no fuese suficiente, los bots de Bland AI también pueden ser fácilmente programados para mentir y decir que son humanos.
This is astonishing! This real-time AI phone agent sounds incredibly human.
— TimesOfAI (@TimesOfAI_) June 28, 2024
Plus, it’s one of the most impressive AI ads I've seen👇
Bland AI claims to be the world's fastest conversational AI, capable of:
Handling over 500,000+ phone calls at once.
Responding at the speed of… pic.twitter.com/IT2tQhv608
Peligros del human-washing
Lo cierto es que entramos en un terreno de lo más distópico. ¿Qué pasa cuando las máquinas se hacen pasar por humanos? Y aún peor, cuando no somos capaces de darnos cuenta. En el corto plazo, es un problema evidente de cara a la pérdida de empleos y la humanización del trato recibido. Ahora mismo, las grandes empresas están estudiando la cantidad de dinero que pueden ahorrar automatizando muchas funciones con la IA. Pero con el human-washing, lo preocupante es que podrían hacerlo sin enfrentarse a las consecuencias negativas como la despersonalización y la pérdida del trato humano. Pero si las máquinas se vuelven muy buenas en imitar a los humanos, los límites de esta distopía solo los podemos ver en la ciencia ficción. Al puro estilo Blade Runner, habrá que encontrar una forma de probar que aquellos con los que interactuamos online, son humanos y no máquinas.
