Así funciona la IA con la que Facebook ha detectado (y eliminado) miles de millones de cuentas falsas

El problema de Facebook con las cuentas falsas es casi tan grande (o más) que el que tiene con la desinformación en su plataforma, y la compañía lo sabe. Miles de millones de cuentas falsas que en muchas ocasiones se utilizan con fines maliciosos: durante el tercer trimestre de 2019 Facebook bloqueó alrededor de 1.700 millones de cuentas, y eso no incluye las cuentas que no permite que sean creadas en primer lugar.

Pero a pesar de que Facebook busca eliminar esta plaga que ha atiborrado su red social desde hace algún tiempo, ningún ejército humano ha logrado controlar los millones de cuentas falsas. Es más: la plataforma afronta la creciente presión de la regulación en todo el mundo.

DEC, el nuevo sistema de inteligencia artificial de Facebook para detectar millones de cuentas falsas

Y mientas Facebook se encuentra en el ojo del huracán, decidió tomar cartas en el asunto y ha creado DEC, por las siglas en inglés de Deep Entity Classification, un sistema basado en inteligencia artificial que detecta y elimina cientos de millones de cuentas falsas, superando las limitaciones de los métodos de detección tradicionales (que se centran por ejemplo, en aspectos como si un usuario publica un número exagerado de contenidos o imágenes de productos de una misma marca). Esta podría ser la causa de la desaparición de miles de likes en las páginas de su plataforma en los últimos meses.

El método de detección de cuentas falsas de DEC se basa en el contexto de las páginas y cuentas a las que esté vinculada, y no solo a la IP que utiliza para crear la cuenta, su antigüedad o la cantidad de “me gusta” que tiene, ya que son elementos muy fáciles de evadir. Así, Facebook utilizó “características profundas”, como el tipo de conexiones con cuentas, grupos, etc. que tiene cada usuario en la red. En el caso de los grupos, se valoran aspectos como el número de administradores que tienen, y el perfil de administradores y usuarios que pertenecen a ellos.

Una vez que la red neuronal ejecuta su algoritmo para determinar si la cuenta es normal, spam, o de phishing, Facebook toma este patrón estadístico y lo introduce en el segundo módulo, en el que un árbol de decisión califica cada cuenta para las mismas categorías: spam, cuenta falsa, phishing, bullying, etc., pero basándose en un conjunto mucho más pequeño de datos etiquetados por revisores “humanos” de la empresa.

Tras este escaneo doble y profundo, Facebook determina si tomará medidas contra las cuentas que hayan resultado etiquetadas como falsas, y qué acciones tomará. Este método ha dado como resultado un sistema que, de acuerdo con Facebook, es 97% más preciso a la hora de descubrir cuentas falsas, mucho mejor que cualquier otro que la red social haya implementado.

Y además, si el sistema se equivoca, las cuentas entrarán en un proceso de apelación que les brinda la oportunidad de responder antes de que sean eliminadas por completo.

“Esto es defensa en profundidad”, aseguró Brad Shuttleworth, gerente de producto de Facebook para la integridad comunitaria. “Son estos dos conjuntos de sistemas que trabajan en estrecha colaboración y compensan las fortalezas y debilidades de la otra”.

Facebook solo se enfocará en eliminar las cuentas que sean maliciosas

Además, la red social reconoce que no todas las cuentas falsas tienen intenciones maliciosas. “Cuando las personas mencionan el término “cuenta falsa” a menudo quieren decir sospechosas”, aseguró Bochra Gharbaoui, gerente de ciencia de datos en la unidad de integridad de la comunidad de Facebook.

“No están seguros de cuál es la intención de la cuenta, y también puede ser que estén viendo un comportamiento en Facebook que no se alinea con la forma en la que se espera que se comporten las personas en la plataforma”.

Además de los cambios culturales, las cuentas falsas también podrían ser negocios, organizaciones o entidades “no humanas” como la cuenta de una mascota.

Es importante aclarar que Facebook asegura que las cuentas infractoras que desea deshabilitar son aquellas que tienen la intención de dañar, creadas generalmente por estafadores y spammers que intentan obtener alguna ganancia.

Así, el nuevo sistema de Facebook para detectar y eliminar cuentas falsas promete ser cada vez más efectivo, un sistema en el que el machine learning y la revisión humana convivirán logrando mejores resultados.