Con el objetivo de regular la difusión de imágenes falsas creadas con IA, Meta va a introducir una marca de agua en Instagram, Threads y Facebook. Las cuentas, o incluso influencers virtuales que se aprovechaban de las imágenes o videos fotorealistas generados por la IA, ahora tendrán que advertir a sus seguidores de que su contenido es artificial. De lo contrario podrían enfrentarse a sanciones…
Marcas de agua al contenido de la IA
Desde que la IA empezó a ser capaz de generar un contenido verdaderamente realista, las grandes plataformas han empezado a preocuparse de que se difundan imágenes falsas o deepfakes. Introducir una marca de agua obligatoria en el contenido generado por la IA parece una solución atractiva. Igual que es necesario añadir #ad o #publi cuando se trata de un anuncio. De la misma forma, sancionar a los que traten de hacer pasar contenido generado por la IA como si fuese real puede ser una solución efectiva. Las sanciones irán desde advertencias a la eliminación del contenido. La respuesta de Meta es en parte debido a la presión que ha ejercido la Casa Blanca para que regulen el contenido generado con IA. De cara a las elecciones que se ciernen sobre EEUU y muchos otros países, el contenido falso es una amenaza muy real. Al presionar a las propias plataformas, se puede lograr una regulación más efectiva y directa. O por lo menos esta ha sido la estrategia que han seguido los reguladores.
Por esta razón, Meta y Google entre otros están trabajando para que sus algoritmos puedan detectar el contenido generado por la IA. Incluso cuando el código se ha visto alterado para ocultar la autoría, las plataformas van a poder detectar si la IA ha sido utilizada y sobre todo etiquetar este contenido adecuadamente. Por su parte, las propias herramientas como Chat GPT y Dalle-E de Open AI están tratando de restringir el contenido fotorealista que pueden crear. Por ejemplo, los prompts que buscan deliberadamente crear contenido inapropiado son automáticamente invalidados. Al fin y al cabo, para que verdaderamente se pueda evitar que internet se llene de contenido falso creado por la IA, es necesario que los gigantes tecnológicos colaboren. Las marcas de agua son una medida que puede funcionar mediante un esfuerzo conjunto. Pero solo hace unos días hemos visto como imágenes falsas de Taylor Swift se filtraban en X (Twitter) de forma masiva. Desde luego la plataforma de Elon Musk parece mucho menos comprometida con regular el tsunami de la IA.
