Facebook utilise des vidéos d'entraînement de la police pour reconnaître les tueries de masse

Les équipes du réseau social utilisent des images des entraînements à main armée de la police pour entraîner leurs algorithmes à reconnaître les diffusions en direct de tueries de masse.

Après l'attentat de Christchurch, Facebook a été sous le feu des critiques pour avoir laissé en ligne durant quelques minutes la vidéo diffusée en direct par le tireur. Des centaines de milliers d'abonnés ont pu avoir accès à ces terribles images avant que les modérateurs ne la retirent de la plateforme.

Un apprentissage automatique basé sur les entraînements des forces de police

Le réseau social veut éviter que ce genre de situation se reproduise et The Verge nous apprend qu'à partir du mois d'octobre, les ingénieurs de Facebook vont avoir accès aux images vidéo tournées par les forces de l'ordre du Metropolitan Police Service, opérant dans la banlieue de Londres, au Royaume-Uni.

Ces séquences seront filmées par des caméras portées par les policiers lors de leurs entraînements avec des armes à feu. Elles seront prises notamment lors d'exercices de formation pour empêcher des attentats terroristes ou des prises d'otage.


Ces images, fournies gratuitement par les forces de police, seront ensuite intégrées aux intelligences artificielles de Facebook pour entraîner les algorithmes à identifier ce type de scène, pour ainsi bloquer automatiquement et immédiatement les diffusions en direct de meurtres de masse.

Facebook prend de nombreuses mesures pour empêcher la diffusion d'images terroristes

« La vidéo de l'attaque de Christchurch n'a pas été réparée par nos systèmes de détection automatique car nous n'avions pas assez de contenu décrivant à la première personne des séquences d'événements violents pour former efficacement notre technologie d'apprentissage automatique », explique Facebook, qui va également intégrer ces nouveaux paramètres de reconnaissance d'image à Instagram.


Facebook serait également en discussions avec les forces de l'ordre américaines pour obtenir le même type de documents vidéo. En attendant que l'apprentissage automatique soit opérant, le réseau social a déjà mis en œuvre des mesures pour empêcher les personnes ayant violé les règles d'utilisation de se servir des outils de diffusion en ligne.

Source : The Verge