Qué son los deepfakes... y así se prepara Facebook para eliminarlos de sus redes sociales - Marketing 4 Ecommerce - Tu revista de marketing online para e-commerce

Las redes sociales nos permiten compartir información valiosa en tiempo real permitiendo que se enteren las personas de cualquier parte del planeta. De igual forma podemos compartir otro tipo de contenido sarcástico o divertido como los memes, y sacar una sonrisa a nuestros seguidores, y con un poco de suerte, volverlo viral.

Sin embargo, otro tipo de contenido que puede ser muy dañino se ha propagado más rápidamente en estas plataformas: las noticias falsas han logrado una gran difusión, y dentro de este tipo de contenido los deepfakes han tomado una posición predominante en redes sociales en los últimos años. Facebook por fin ha querido tomar cartas en el asunto y desde ahora este tipo de vídeos engañosos estarán prohibidos en su plataforma.

Qué son los deepfakes

El término deepfake se refiere a aquellos vídeos con contenido fraudulento que han sido editados cambiando la cara del protagonista para que aparente hacer declaraciones que jamás han hecho o que estén en lugares que nunca han visitado.

Para crearlos se utilizan técnicas de inteligencia artificial y machine learning, ya sea combinando o sustituyendo contenido, y el resultado es sumamente realista, a veces casi indistinguible de un vídeo auténtico.

Si bien esta técnica ha logrado increíbles efectos especiales en las películas y a veces vídeos bastante divertidos e inocuos, también es verdad que pueden ser sumamente dañinos, representando un gran desafío para las redes sociales a medida que su uso se extiende.

Facebook prohíbe los deepfakes de su plataforma

La red social de Mark Zuckerberg ha decidido tomar la delantera y abordar tanto los deepfakes como otro tipo de medios manipulados en su plataforma.

De acuerdo con el comunicado de Monika Bickert, vicepresidenta de gestión de políticas globales de Facebook, la plataforma ha mantenido conversaciones con más de 50 expertos mundiales “para informar el desarrollo de nuestras políticas y mejorar la ciencia de la detección de medios manipulados”.

Cómo detectar las fake news (y otros engaños) en las redes sociales

De esta manera, Facebook asegura que, en el futuro, se eliminarán los deepfakes bajo los siguientes criterios:

Si el vídeo se ha editado o sintetizado, más allá de los ajustes por claridad o calidad, de manera que estos cambios no son evidentes para una persona promedio y que probablemente inducirán a que alguien crea que el protagonista del vídeo dijo lo que en realidad no ha dicho.
Que el vídeo sea producto de la inteligencia artificial o machine learning y que fusione, reemplace o superponga contenido en un vídeo, haciendo parecer que es auténtico.

Esta nueva política de Facebook en torno a los deepfakes no se extenderá al contenido que es una clara parodia o sátira, así como vídeos que han sido editados únicamente para omitir o cambiar el orden de las palabras.

Facebook realizará una doble verificación a los vídeos

Además, los vídeos que no cumplan con estos estándares para su eliminación aún podrán ser revisados por alguno de los verificadores de datos humanos que Facebook ha subcontratado con diferentes agencias.

Estos verificadores humanos incluyen más de 50 socios alrededor del mundo y más de 40 idiomas. Si uno de estos verificadores califica una foto o vídeo como falso o potencialmente falso, se reducirá significativamente su distribución en el news feed, o será rechazado si se trata de un anuncio.

Esta medida contra los deepfakes se produce justo antes de una audiencia en la que la misma Monika Bricket tendrá que explicar las medidas a tomar sobre desinformación en la plataforma, además de representar un importante paso para calmar la ansiedad que las noticias falsas podrían tener de cara a las próximas elecciones presidenciales de Estados Unidos que se realizarán este 2020.