¿Cómo Facebook usa el aprendizaje automático para eliminar cuentas falsas?

By Alexander Alvarado

Cuando se trata de ataques cibernéticos, las redes sociales se han convertido en el foco principal de este tipo de situaciones, en donde es posible encontrar una gran cantidad de cuentas creadas especialmente con el propósito de esparcir malware, spam o enlaces phishing.

En el caso de Facebook, esta red social ha estado implementando fuertes medidas para combatir todas estas cuentas con actividad maliciosa.

¿Como? A través de la inteligencia artificial, la cual, permitió que en 2019 un promedio de 2 mil millones de cuentas fuese eliminadas por Facebook, solo en un trimestre, anulando así, las acciones de aquellas personas que habían llegado a la plataforma para cometer los delitos informáticos mencionados anteriormente.

Esto hizo que Facebook tomara la decisión de revelar detalles referentes al sistema de aprendizaje automático que utilizan para interceptar desde adentro a este grupo desestabilizador.

Tipos de cuentas falsas

En este sentido, el gigante azul de las redes sociales establece dos tipos de cuentas falsas: aquellas correspondientes a perfiles personales para negocios o mascotas creadas bajo la figura de páginas, las cuales, resultan sencillas de anular para Facebook.

Luego están aquellas consideradas “cuentas violatorias» referentes a perfiles personales dedicados de forma activa a la estafa y el spam o que infringen de algún modo los términos y condiciones de Facebook, siendo estas, el tipo de cuentas cuya eliminación representa una prioridad, a fin de impedir que puedan establecer una red y perjudiquen cuentas de usuarios reales.

Para entrar en acción respecto a esto, Facebook recurre a reglas codificadas a mano en conjunto con aprendizaje automático para frenar la cuenta falsa antes de que sea activada, acción que, de ser cumplida, Facebook pasaría a la siguiente fase en la cual interviene su nuevo sistema de aprendizaje automático denominado Clasificación de Entidades Profundas (DEC por sus siglas en ingles).

Cuando entra en acción el DEC dispone de un amplio numero de etiquetas generadas por máquinas de baja precisión como resultado de una combinación de reglas y modelos de aprendizaje con capacidad para estimar la falsedad o veracidad de un usuario.

Estos datos se usan para entrenar una red neural, que luego es afinada con un lote de datos de alta precisión etiquetado a mano, provisto por personas de todo el mundo conocedoras del dialecto local.

Es así que al final, el sistema de clasificación adquiere la capacidad para distinguir entre 4 tipos de perfiles falsos:

1. Cuentas ilegitimas no representativas de la persona.
2. Cuentas legitimas hackeadas por atacantes.
3. Spammers.
4. Estafadores.

De acuerdo a declaraciones ofrecidas por Facebook, desde su aplicación, el DEC ha reducido considerablemente el numero de cuentas falsas en la plataforma manteniéndolas al 5% respecto a la cantidad de usuarios activos reales.

Source:: Wwwath’s new