Nuevas herramientas para detectar deepfakes, el objetivo en el que Facebook invertirá más de 10 millones de dólares

Aunque su faceta lúdica es innegable, hoy en día los deepfakes constituyen también una de las aplicaciones más amenazantes de la inteligencia artificial, por su potencial repercusión sobre la reputación de las personas o sobre la misma esfera pública. Por eso, cada vez surgen más iniciativas para luchar contra esta amenaza… recurriendo a las mismas tecnologías que permitieron crearla. Combatir el fuego con fuego, que suele decirse.


La mejor forma de limitar los efectos negativos de los deepfakes pasa por detectarlo lo antes posible, antes de que alcance una gran difusión. Pero los sistemas de detección de estas falsificaciones van siempre por detrás de los dedicados a su creación, constituyendo un constante juego del gato y el ratón.


Mike Schroepfer, CTO de Facebook, afirma que hoy en día ya es relativamente sencillo para un algoritmo detectar un deepfake… cuando el sistema ya ha tenido ocasión de analizar el vídeo original, pero si alguien graba un video original y luego lo manipula, la tarea se convierte en algo mucho más complejo.


Por ello, Facebook (con la colaboración de otras compañías e instituciones, como Microsoft o el MIT) ha decidido trabajar para dar un empujón a la evolución de las tecnologías de detección de deepfakes. Y eso se ha traducido en dos decisiones: crear un dataset… y convocar un concurso. Y la compañía de Zuckerberg piensa dedicar «más de 10 millones de dólares» a financiar ambas iniciativas.


Un dataset y un concurso para animar a salir a la caza del deepfake


No sería muy útil recurrir al aprendizaje automático para detectar deepfakes si no se contara con un gran almacén de los mismos al que recurrir para entrenar a los algoritmos. Por eso, Facebook ha decidido tomar la iniciativa de crear no ya sólo el dataset, sino los propios deepfakes que lo conformarán, contratando a actores que consientan en ceder su imagen para los mismos.

«Es importante contar con datos disponibles gratuitamente para que la comunidad pueda usarlos, con participantes que consientan claramente, y con pocas restricciones de uso».


Pero una vez que este dataset esté en marcha, será necesario animar a la comunidad de desarrolladores a que lo use para lograr, cuanto antes, avances en la tarea de detectar deepfakes. Y ahí es donde entra el concurso, bautizado como Deepfake Detection Challenge (DFDC), que Facebook piensa convocar para premiar económicamente a los mejores desarrollos.


El objetivo del DFDC será crear herramientas de código abierto que tanto empresas, como instituciones y medios de comunicación puedan usar para detectar con mayor precisión cuándo un video ha sido manipulado.


¿De cuánta precisión estamos hablando? El pasado mes de junio, el Information Sciences Institute de la Universidad del Sur de Californio anunció que, gracias a un dataset de 1000 vídeos manipulados, había sido capaz de crear un algoritmo de detección de vídeos deepfake que mostraba una precisión de hasta el 96%. Es de esperar que la tasa de éxito de los algoritmos creados gracias al DFDC sea aún mayor.


En cualquier caso, desde Facebook dejan claro que la meta de todo esto no es crear un sistema que detecte todo deepfake imaginable, sino tan sólo encontrar formas de hacer que sea mucho más complejo y costoso crear deepfakes realistas.



Fuente: Xataka


¿Quieres conocer más acerca de la inteligencia artificial (IA)? En EducaciónIT tenemos un curso de Machine Learning Fundamentos – Inteligencia Artificial, en el cual desarrollarás un perfil técnico con conocimientos sobre los alcances de la IA y el Machine Learning, sus conceptos, algoritmos, implicancias, y mucho más.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.