¿Qué es el AI-washing?

Dado el éxito que parece brindar la integración de la IA, las empresas de prácticamente todos los sectores se están apresurando para incorporar esta tecnología a sus productos y servicios. Pero en ocasiones, lo que las empresas publicitan no se acerca a la verdad. Al fin y al cabo, desarrollar herramientas con IA es un proceso que requiere tiempo. Mientras que los inversores y los accionistas parecen tener cierta prisa por añadir la IA a su porfolio cuanto antes. De forma inevitable, este fenómeno hace que algunos se atrevan a vender la IA antes de tiempo, incluso creando demostraciones y prototipos falsos. Lo que se suele llamar vender la piel del oso antes de haberlo cazado. Además, al tratarse muchas veces de un software complejo, los menos versados en la materia pueden ser especialmente susceptibles de caer en los engaños y la publicidad engañosa. Por no hablar de que la IA no se vende precisamente barata, muchas veces implica grandes inversiones para los usuarios o las empresas. Entonces, ¿cómo saber si contiene IA?

De acuerdo a los expertos, lo mejor es realizar una demostración en profundidad antes de realizar ninguna inversión. También recomiendan preguntar a los vendedores acerca de los algoritmos que utilizan, cómo entrenan sus modelos, cómo preparan los datos, como monitorizan el drift, y cómo operacionalizan sus modelos. Con preguntas técnicas y prestando atención a los resultados de la demostración, se puede identificar si verdaderamente es un producto novedoso con IA o utiliza la tecnología de siempre. La principal pista, reside en los propios resultados. Si verdaderamente se emplea la IA más puntera, la velocidad y la escala de los resultados debería reflejar su presencia. Si por el contrario, la herramienta funciona con lentitud y tiene fallos, hay que preguntarse si verdaderamente usa IA, o si la usa tanto como asegura que hace. Por ejemplo, podría haber un humano haciéndose pasar por la IA, ya que muchas veces la tecnología busca imitar el comportamiento y las capacidades humanas. En el caso de los chatbots esto es un riesgo, pero en el largo plazo acaba resultando insostenible este tipo de estafas.

Por último, los expertos recomiendan comparar los resultados con otros chatbots o modelos de IA para ver si existe una disparidad preocupante. Modificando algunas palabras de los prompts o cambiando el orden de los comandos, puede ser una manera de evaluar su funcionamiento también. La mejor manera de comprobarlo todo, igual que con un coche de segunda mano, es probar a fondo todas las opciones posibles. Por ello la demostración es esencial, y si cuentas con un experto siempre puedes estar más tranquilo. La gran mayoría de herramientas ofrecen estas pruebas antes de adquirir sus servicios, por lo que si no tienes esta opción, también es una red flag. Si buscas más información para asegurarte de que todo está en orden, online puedes encontrar guías oficiales como la de la FTC. Mientras la legislación tarda en llegar, cabe esperar que se castigue el AI-washing, pero por el momento solo se puede condenar dentro del sector y andar con cuidado para identificar esta práctica poco profesional.