Esta historia me ha volado la cabeza. Resulta que hay una forma de «pelear» contra la Inteligencia Artificial en caso de que seas un artista y veas que tu trabajo está en riesgo.
Puede que en breves comienzas a escuchar hablar de Nightshade AI. Te contamos más.
Cómo Nigthshade ayuda a envenenar los datos con los que se entrenan los modelos de IA
Esta herramienta «ensucia» los datos de entrenamiento utilizados por modelos de inteligencia artificial al permitir que los creadores o artistas añadan cambios invisibles a los píxeles en sus creaciones antes de subirlo a internet o compartirlo. Estos cambios sutiles, que normalmente no percibimos y son indetectables al ojo humano, pueden provocar caos e imprevisibilidad cuando la creación se integra en el conjunto de entrenamiento de modelos de inteligencia artificial.
Lo que acaba suciediendo que es el «output» de los modelos de inteligencia artificial se distorsiona y se vuelve poco fiable, con imágenes de un objeto siendo interpretadas como algo completamente distinto.
¿Un ejemplo?, el uso de Nightshade podría causar que imágenes de perros sean interpretadas como gatos, o coches como vacas, provocando un daño serio a la funcionalidad de modelos de inteligencia artificial generadores de imágenes.
¿Quiene son los creadores de Nighshade? Quizás te suene Glaze
Se trata de un equipo de la Universidad de Chicago liderado por Ben Zhao. Este grupo también es el responsable de Glaze, una herramienta que permite a los artistas enmascarar su estilo para hacer que no pueda ser rastreado por las herramientas de IA.
La guerra por los derechos en las creaciones y el copyright
Este lanzamiento se enmarca dentro de la narrativa actual en la lucha por los derechos y el copyright del contenido.
Compañías como OpenAI se enfrentan a demandas legales por parte de artistas que alegan que sus materiales protegidos por derechos de autor e información personal fueron recolectados sin su consentimiento o compensación. Estas demandas han llevado al desarrollo de las herramientas Nightshade y Glaze, las cuales tienen como objetivo dar armas de defensa a los artistas y actuar como un elemento disuasorio contra la violación de los derechos de autor y la propiedad intelectual de los artistas.
En la página oficial del proyecto podéis encontrar más información.
