La plataforma para realizar videoconferencias se podría enfrentar a problemas legales ya que presuntamente utiliza los datos de las reuniones de los usuarios para entrenar su modelo de IA. Parece ser que están trabajando en un sistema de IA capaz de reconocer emociones en los rostros humanos, y por ello la idea de que estén analizando tu cara para muchos es desconcertante.
Problemas de privacidad en Zoom
Durante la pandemia, Zoom creció como nunca, convirtiéndose en la principal plataforma para realizar videoconferencias de forma gratuita. De esta forma, pudimos seguir en contacto con amigos y familiares, pero también con nuestros compañeros de trabajo y profesores. Como prácticamente todas las empresas tecnológicas ahora mismo, Zoom se ha propuesto incorporar la IA en su servicio para permanecer competitiva y mejorar sus funciones. En este caso, los datos para entrenar al modelo de IA provienen de las videoconferencias de los usuarios, y esto es un tema muy delicado. La intención según desvelaba una filtración en mayo, es que la IA sea capaz de reconocer las emociones de los participantes mediante su voz y reconocimiento facial. Para los vendedores, por ejemplo, esto sería una herramienta clave para poder leer a sus posibles clientes en una reunión. Enseguida, una oleada de críticas apuntaba que esta tecnología se podría utilizar para fines discriminatorios, incluso amenazando los derechos humanos.
Solo unos meses después de que esta información produjese una reacción muy negativa por parte de los usuarios y numerosas organizaciones, Zoom vuelve a estar envuelto en la polémica debido a problemas de privacidad. En este caso la compañía realizó cambios en los términos y condiciones de uso para que la empresa pueda utilizar los datos de los usuarios en el proceso de entrenar su modelo de IA. Dado la reacción nuevamente desfavorable, cambiaron las palabras utilizadas para intentar transmitir más transparencia y claridad. La actualización ahora especifica que “Para la IA, no usamos contenido de audio, video ni chat para entrenar nuestros modelos sin el consentimiento de los usuarios”. Pero el problema reside en que precisamente el consentimiento de los usuarios viene marcado de forma automática al usar Zoom IQ (la función de IA incorporada). Se puede usar esta herramienta sin conceder permiso para usar tus datos personales, pero se debe desactivar de forma manual. Este vacío legal y la actitud engañosa de la plataforma tiene a los usuarios enfurecidos.
Zoom IQ AI
Una función de la IA que ya ha integrado Zoom son los resúmenes de las reuniones. La intención es recopilar la información importante discutida en la reunión para que incluso los que no hayan podido asistir la puedan consultar. El resumen aparece al terminar una reunión en el chat o en el email, y también se puede guardar para tener un archivo sobre las reuniones. Otra función de la Zoom IQ AI es para generar mensajes dentro del chat, ya que te ayuda a encontrar el tono y palabras adecuadas para hacer un discurso en la plataforma. Estas funciones son muy similares a las que ha integrado la competencia, Microsoft Teams y Google Meet. Pero al parecer están trabajando en muchas nuevas funciones que incorporarán próximamente. Para utilizar las funciones de IA ya disponibles, el administrador debe activarlas, y todo el que se una a la reunión podrá ver un mensaje alertando sobre que la reunión será luego resumida. Sin embargo, al unirte a una reunión con la IA activada, de forma implícita consientes el uso de tus datos para entrenar el modelo de Zoom.
Esto es un problema ya que en muchas ocasiones no podemos permitirnos evitar las reuniones en un entorno laboral. Al depender del administrador de la reunión, todos los participantes carecen de poder de decisión. Para algunos usuarios, compartir los datos con la IA es verdaderamente preocupante ya que se pueden utilizar para crear un deepfake de su voz o su imagen. Desde Zoom pretenden transmitir que los usuarios tienen el control sobre sus datos y pueden decidir compartirlos con la IA o no. Pero en la práctica, las condiciones son intencionadamente difusas y de naturaleza engañosa. Veremos si la plataforma rectifica con respecto a sus decisiones recientes, pero por el momento muchos usuarios están horrorizados con su actitud. No sería de extrañar que Zoom tenga pronto problemas legales con sus servicios en la UE, dónde la legislación sobre la privacidad y el uso de los datos personales de los usuarios es mucho más rigurosa. Nuevamente la pregunta es si son necesarias estas complicaciones para integrar la IA en todos y cada uno de los servicios digitales.
