En las plataformas digitales sigue habiendo un problema a la hora de filtrar y moderar el contenido inapropiado. Desde Open AI, han publicado en su blog las razones por las que GPT-4 puede llevar a cabo esta tarea a la perfección, mejor que los humanos. Esto supondría el fin de los miles de moderadores que contratan las grandes empresas para repasar manualmente su contenido. ¿Pero la IA es verdaderamente mejor?
Las ventajas de moderadores con IA
Pese a que suele pasar desapercibido este es uno de los problemas más complicados al que se enfrentan las grandes compañías de internet desde hace años. Con millones de usuarios subiendo contenido de forma diaria a plataformas como YouTube, TikTok, Instagram, Twitter o Google, hacen falta decenas de miles de moderadores para cerciorarse de la seguridad de este contenido. Además se trata de una tarea dura, que requiere muchas horas y que suele estar muy mal pagada. Por ello, Open AI defiende que GPT-4 puede desempeñar esta tarea con casi la misma precisión que los humanos y de forma automática, las 24 horas del día. En el post de Open AI, aseguran que ellos mismos usan GPT-4 para desarrollar y refinar sus propias políticas de contenido. La IA es capaz de etiquetar con precisión el contenido y tomar sus propias decisiones sobre si cumple o no con las normas y estándares. Aseguran que les funciona tan bien que desean ver el sistema implementado en otras muchas plataformas que sufren de este mismo problema. Open AI vende que buscan usar las máquinas para evitar que los humanos tengan que desempeñar esta dura tarea y así aplicar la IA para resolver problemas reales en el mundo.
La primera ventaja que encuentran en usar GPT-4 es que los humanos pueden tener cada uno un juicio particular y sesgado sobre si un contenido es apropiado. Las máquinas sin embargo, implementan una política de forma mucho más uniforme y fiel. Podrían funcionar con políticas que se actualicen constantemente y que recogan un número prácticamente ilimitado de parámetros. Frente a los humanos, que requieren un periodo de formación y aprendizaje, las máquinas podrían aplicar cualquier decisión de forma instantánea. Normalmente, el proceso de redactar y etiquetar el contenido para una nueva política de contenido lleva semanas o meses, y con GPT-4 se podría realizar en horas. Por último, las máquinas no sufrirían un peaje psicológico al tener que procesar el contenido inapropiado. Los moderadores se tienen que enfrentar a imágenes de violencia y sexualidad explícitas de forma habitual. De hecho, frecuentemente el trabajo de los moderadores se subcontrata desde países tercermundistas, con sueldos ínfimos que no ofrecen un apoyo al impacto que tiene en la salud mental pasar horas viendo contenido traumatizante.
No existe el moderador perfecto
Una dura verdad a la que se enfrentan las grandes empresas de contenido online es que ni las máquinas ni los humanos pueden ser moderadores infalibles. Cuando se trata de temas delicados o tabú, frecuentemente los moderadores interpretan de forma equivocada el contenido. Porque muchas veces no es blanco y negro determinar si un contenido es apropiado, hay muchas escalas de grises. De la misma forma, es posible que el moderador pase por alto un contenido ciertamente inapropiado. Esta dificultad se extrapola a todas las plataformas con millones de usuarios, independientemente de que cuenten con un ejército de moderadores humanos o con una potente IA. El propio Open AI cuenta con miles de trabajadores que realizan labores rutinarias como etiquetar contenido desde países africanos, principalmente en Kenya. Utilizar la IA para intentar reemplazar este sector no es algo nuevo. Meta por ejemplo utiliza algoritmos para determinar la sensibilidad del contenido, pero estos frecuentemente ejercen una censura desmedida o ineficiente. Esto resulta muchas veces perjudicial para pequeños creadores de contenido o movimientos que tratan temas poco habituales como podría ser el terror, la moda experimental o el nudismo. La línea entre limitar la libertad de expresión y frenar el contenido inapropiado es muy delgada.
