Facebook y Microsoft se unen para detectar videos falsos

Facebook Inc se está asociando con Microsoft Corp, la Asociación de coalición de IA y académicos de varias universidades para lanzar un concurso con el fin de detectar mejor las falsificaciones, dijo la compañía en una publicación de blog el jueves.

El gigante de las redes sociales está invirtiendo $ 10 millones en el "Deepfake Detection Challenge", que tiene como objetivo estimular la investigación de detección. Como parte del proyecto, Facebook está encargando a los investigadores que produzcan falsificaciones profundas realistas para crear un conjunto de datos para probar las herramientas de detección.

La compañía dijo que los videos, que se lanzarán en diciembre, contarán con actores pagados y que no se utilizarán datos de los usuarios.

En el período previo a las elecciones presidenciales de EE. UU. en noviembre de 2020, las plataformas sociales han estado bajo presión para enfrentar la amenaza de las falsificaciones profundas, que utilizan inteligencia artificial para crear videos hiperrealistas en los que una persona parece decir o hacer algo que no hizo.

Si bien no ha habido un video falso bien diseñado con consecuencias políticas importantes en los Estados Unidos, el potencial del video manipulado para causar confusión fue demostrado recientemente por un clip "barato" de la Presidenta de la Cámara de Representantes, Nancy Pelosi, que se desaceleró manualmente para pronunciar su discurso. parece arrastrado

En agosto, el Comité Nacional Demócrata demostró la amenaza de los videos falsos al crear uno de su propio presidente, Tom Pérez, para hacer que la audiencia en la convención de piratas informáticos Def Con piense que el verdadero Pérez había entrado en la conferencia.

Algunos investigadores están trabajando en sistemas para autenticar un video o imagen en el punto de captura a través de la marca de agua digital. Pero la rápida evolución de la tecnología deepfake ha creado una carrera armamentista entre los creadores y aquellos que intentan detectar videos.

La tecnología también se está volviendo más accesible para los creadores menos calificados. La semana pasada, una aplicación china llamada Zao que permite a los usuarios transformar sus rostros de manera convincente en estrellas de cine que se dispararon a la cima de la tienda de aplicaciones del país, aunque también enfrentaron una reacción violenta por preocupaciones de privacidad.

El Deepfake Detection Challenge no es la primera vez que Facebook, que actualmente no tiene una política específica con respecto a los videos de deepfake, ha financiado investigaciones académicas sobre la amenaza.

El presidente del Comité de Inteligencia de la Cámara de Representantes, Adam Schiff, exigió en julio que Facebook, Twitter Inc y Google de Alphabet Inc, propietaria de YouTube, compartan sus planes para abordar las falsificaciones profundas. Facebook dijo que está gastando $ 7,5 millones en equipos de la Universidad de California, Berkeley, la Universidad de Maryland y la Universidad de Cornell en respuesta a la amenaza.

El nuevo concurso de Facebook, que se basa en sus lazos con estos investigadores, involucrará a académicos de Cornell Tech, MIT, University of Oxford, UC Berkeley, University of Maryland, College Park y University at Albany-SUNY.

En una declaración el jueves, Schiff calificó el concurso como un "paso prometedor".