La plataforma de Google ha compartido en su blog una serie de actualizaciones en su funcionamiento para afrontar de forma responsable el contenido creado con IA. Según parece, YouTube se va a tomar en serio regular el uso de la IA dentro de su plataforma, tanto para proteger a usuarios como a creadores. Repasamos todas las nuevas regulaciones de la plataforma sobre la IA.
Etiquetar el contenido creado con IA
Desde YouTube se encuentran ante una encrucijada. Por un lado, el contenido creado con IA está de moda y todos los creadores quieren aprovecharlo para dar rienda suelta a su creatividad y potencial. Por ejemplo, Joe Rogan ha creado Experience AI, varios podcasts completamente generados por la IA. Pero por otra parte, la plataforma debe proteger a los usuarios del contenido inapropiado generado por esta tecnología, y también regular los derechos de autor. Con la nueva política, será necesario etiquetar el contenido creado con IA, de tal forma que sea menos probable crear contenido engañoso y que pretenda hacerse pasar por verdadero. Si los usuarios pueden verificar si lo que están viendo es sintético, es menos probable que puedan ser manipulados por deep fakes o fake news. Por su parte, los creadores deberán informar a la hora de subir videos si contienen alguna parte generada con IA. Entre los parámetros que deberán rellenar los YouTubers cuando suban videos, existe la posibilidad de informar sobre contenido realista generado completamente por la IA, o por el contrario si solo han editado alguna parte usando herramientas con IA.
Desde YouTube, temen que con la cercanía de las elecciones, se puedan crear videos para manipular declaraciones falsas de políticos o informar sobre acontecimientos que no han sucedido. También dentro de los populares YouTube Shorts aparecerán estas etiquetas. En el caso de que un creador reiteradamente intente hacer pasar contenido con IA por verdadero, sin introducir la etiqueta adecuada, podrá ser sancionado y ver sus videos eliminados. El uso de las etiquetas para indicar que un contenido ha sido creado con IA no exime de que deba cumplir con las normas de la plataforma. Si ha generado un contenido violento o sexual, por ejemplo, podrá ser también eliminado y el creador ser sancionado.
Evitar que se hagan pasar por tí con la IA
Existe un innegable temor por parte de los creadores, sobre todo los más famosos, de que falsifiquen su contenido y utilicen su imagen o voz con IA sin su permiso. No solo podrían beneficiarse de crear contenido haciéndose pasar por ellos, sino que también existe el riesgo de que perjudiquen su imágen, poniendo en su boca palabras que no han dicho. Mediante una solicitud de privacidad, será posible pedir a YouTube que elimine un contenido creado con IA si se hace pasar por un individuo real e identificable. No todo el contenido podrá eliminarse, sólo el que YouTube considere que es verdaderamente perjudicial para la persona y en el caso de que sea claramente identificable. Tendrá en cuenta si ha sido creado con un tono humorístico o con interés de difamación. De nuevo, si el implicado es un político o una figura pública, el listón será más alto para permitir que el contenido permanezca en la plataforma. Para los artistas, también será posible denunciar el plagio mediante canciones que utilizan la IA para copiar su voz.
Moderación de contenido con IA
Igual que han hecho otras plataformas, introducir moderadores con IA es algo que parece que va a suceder gradualmente. Este es un trabajo que tiene un peaje en la salud mental de los empleados por lo que las plataformas buscan automatizarlo. Sin embargo, el criterio de un humano sigue siendo mejor que el de la IA para discernir si un contenido es verdaderamente inapropiado o cumple con la política de la plataforma. YouTube asegura que desde hace tiempo combinan el trabajo de 20,000 personas con herramientas de machine learning para llevar a cabo esta tarea. En todo el mundo, los trabajadores de la compañía se encargan de revisar el contenido que la IA ha calificado de apropiado o inapropiado. Según aseguran, la IA les permite optimizar su labor y actuar más rápido cuando es necesario. Con un contenido que evoluciona y cambia debido a la nueva tecnología, también se han preparado para afrontar cualquier nuevo tipo de amenaza que pueda surgir para los usuarios. En cualquier caso, aseguran que el sistema se sigue revisando y mejorando, también gracias al feedback de la comunidad.
