Una nueva herramienta de Microsoft, llamada Video Authenticator, permite detectar imágenes y audios que hayan sido manipulados mediante inteligencia artifical (IA) para así combatir la desinformación, informó este martes el gigante tecnológico a través de su blog oficial.

La compañía estadounidense asegura que el programa puede analizar tanto una fotografía fija como un video y proporcionar un porcentaje de probabilidad, o una puntuación de confianza que valore si esos medios han sido manipulados de manera artificial.

En el caso de un video, es capaz de ofrecer en tiempo real un diagnóstico porcentuado a medida que se reproduce cada uno de sus fotogramas. "Funciona detectando el límite de fusión de los elementos 'deepfake' y el desteñido sutil o la escala de grises, que pueden pasar desapercibidos para el ojo humano", explica el texto

"Descifrar lo que es verdadero"

Microsoft detalla que el Video Authenticator fue creado utilizando un conjunto de datos públicos de Face Forensic ++ y se probó con otro de DeepFake Detection Challenge, modelos líderes para entrenar y probar tecnologías de detección de 'deepfake'.

"La desinformación se presenta de muchas formas y ninguna tecnología resolverá por sí sola el desafío de ayudar a las personas a descifrar lo que es verdadero y exacto", afirma la compañía estadounidense. En este sentido, hace referencia a los llamados 'ultrafalsos' ('deepfakes', en inglés), que son archivos alterados con IA.

Estos, indica, pueden hacer ver que la gente dice cosas que no dijeron o que estuvieron en lugares donde no estuvieron. "A corto plazo, como por ejemplo para las próximas elecciones estadounidenses, las tecnologías de detección avanzada pueden ser una herramienta útil para ayudar a los usuarios más exigentes a identificar 'deepfakes'", sostiene.

Alfabetización mediática

La empresa afirma que, si bien la nueva herramienta todavía no es perfecta, a largo plazo espera encontrar métodos más sólidos para mantener y certificar la autenticidad de las noticias y otras comunicaciones, a medida que los ultrafalsos sean más sofisticados.

Por otro lado, Microsoft considera que el hecho de mejorar la alfabetización mediática ayudará a la gente a separar la desinformación de los hechos reales y a gestionar los riesgos que plantean los diferentes tipos de falsificaciones, y argumenta que esto permitirá a los ciudadanos pensar de manera crítica acerca del contexto de los medios y a ser más comprometidos, sin dejar por ello de apreciar la sátira y la parodia.

En este sentido, precisa que "aunque no todos los medios sintéticos son malos, se ha demostrado que incluso una intervención breve con recursos de alfabetización mediática ayuda a las personas a identificarlos y tratarlos con más cautela".

Etiquetas: