El video, publicado en Instagram —que es propiedad de Facebook— durante el fin de semana, retrata falsamente a Zuckerberg diciendo: “Imagina esto por un segundo: un hombre, con el control total de miles de millones de datos robados de personas, todos sus secretos, sus vidas, sus futuros”.

El video fue hecho tomando imágenes de Zuckerberg en 2017 y usando tecnología de inteligencia artificial, conocida como tecnología deepfake, para manipular la cara de Zuckerberg para que parezca que dijo algo que en realidad no dijo. La voz de Zuckerberg es reemplazada por la de un actor.

El video fue creado por una empresa israelí llamada Canny AI, según le conformó a CNN Business este martes el propio cofundador Omer Ben-Ami. El video y varios otros, que representan a celebridades como Kim Kardashian y al presidente de Estados Unidos, Donald Trump, forman parte de una instalación de arte comisionada llamada Spectre que se exhibió en el Sheffield Doc / Fest en Reino Unido del 6 al 11 de junio. Los videos, para los que Canny y un par de otras compañías trabajaron se unieron con artistas para hacer, pretenden mostrar cómo se puede usar la tecnología para manipular los datos.

El mes pasado, Facebook se negó a eliminar un video manipulado que aparentaba que la presidenta de la Cámara de Representantes, Nancy Pelosi, estaba teniendo dificultades para hablar. La compañía dijo que iba a hacer que este video apareciera menos en el “feed” de noticias de la red social. Pelosi más tarde criticó a la compañía: “Creo que han demostrado —al no quitar algo que saben que es falso— que fueron activadores voluntarios de la interferencia rusa en nuestra elección”, le dijo Pelosi a la estación KQED de California.

Cuando se le preguntó si un video documentado de Zuckerberg recibiría el mismo tratamiento que el video manipulado de Pelosi, Neil Potts, director de política pública de Facebook, dijo en una audiencia parlamentaria en Canadá el mes pasado que: “Si fuera el mismo video, cambiando a la presidenta Pelosi por el señor Zuckerberg, obtendría el mismo tratamiento”.

Un portavoz de Instagram le dijo a CNN Business el martes que el sitio tratará el video “de la misma manera en que tratamos toda la información errónea en Instagram”. Si los verificadores de datos de terceros lo marcan como falso, dijo el vocero, los algoritmos del sitio no recomendarán que la gente lo vea.

Quizás un llamado que hizo el martes por la noche la cadena de televisión CBS para que la compañía elimine el video pueda complicar la situación para Facebook e Instagram. El clip de Zuckberg utilizado para hacer el deepfake fue tomado de una transmisión en línea de CBS News.

“CBS solicitó que Facebook elimine este uso falso y no autorizado de la marca registrada de CBSN”, dijo un portavoz de CBS a CNN Business.

El video de Pelosi no era tan falso como el nuevo clip de Zuckerberg, pero fue manipulado usando técnicas de edición de video tradicionales. CNN Business ha preguntado a Facebook si tiene alguna regla específica para videos editados con tecnología deepfake.

El video de Zuckerberg, que fue reportado por primera vez por Vice, se hace público cuando el Congreso de Estados Unidos se prepara para celebrar su primera audiencia sobre las amenazas potenciales planteadas por los videos de deepfake. A principios de este año, el director de Inteligencia Nacional de Estados Unidos advirtió que los adversarios de los Estados Unidos podrían usar tecnología falsa en futuras campañas de desinformación dirigidas al país.

El video tenía menos de 5.000 reproducciones antes de que los medios informativos lo reportaran por primera vez, pero según cómo Facebook decida tratarlo, eso podría sentar un precedente para el manejo de futuros videos deepfake.

Hasta hace poco, los videos falsos eran relativamente raros, ya que son más difíciles de lograr que las imágenes falsas, pero esto está cambiando rápidamente gracias al aumento de las redes de generación adversaria (GAN por sus siglas en inglés). Las GAN pueden usar datos para producir cosas nuevas. La técnica también se utiliza para hacer deepfakes.

En este caso, dijo Ben-Ami, la empresa Canny AI eligió una escena de menos de un minuto en la que habla Zuckerberg, y usó una computadora para combinarla con la voz de un actor y los movimientos faciales apropiados. Tomó cerca de un día hacer una versión inicial del video usando la voz de un artista y la representando de los movimientos faciales de Zuckerberg de otro, dijo. Tomó otras dos o tres horas para hacer la versión final.

CNN Business contactó a los artistas detrás de Spectre pero no recibió una respuesta de inmediato.

Ben-Ami, cuya compañía se enfoca en doblar discursos en videos de un idioma a otro, está preocupado porque los videos que hicieron Canny AI se propaguen sin el contexto en el que fueron creados inicialmente, que fue con fines artísticos. Pero dijo que también quieren plantear preguntas sobre la creación de dichos medios.

“La gente necesita saber que es posible hacerlo”, dijo.

El mes pasado, Facebook anunció que gastaría millones de dólares para financiar instituciones académicas que estudian análisis de imágenes y videos. Parte de ese trabajo consiste en abordar las fallas profundas, dijo la compañía.

CNN Español

Etiquetas: