Avec l'utilisation de plus en plus fréquente de l'intelligence artificielle (IA) sur les photos et les vidéos , le contenu «deepfake» est devenu très courant sur Internet. Bien que bon nombre de ces contenus soient conçus pour le plaisir et le divertissement , ceux-ci peuvent encore devenir des sources de désinformation pour la population moins informée. Ainsi, pour lutter contre la propagation de la désinformation et des fausses nouvelles via des images et des vidéos «deepfake», Microsoft a créé un outil capable de détecter les images et les vidéos créées par l'IA.

L'outil «Video Authenticator», développé par la division R&D du géant du logiciel basé à Redmond, peut analyser des images et des vidéos et détecter si celles-ci sont artificielles ou réelles. L'outil étudie les vidéos et les images et leur donne «un pourcentage ou un score de confiance».

«Aujourd'hui, nous annonçons Microsoft Video Authenticator. Il peut analyser une photo ou une vidéo fixe pour fournir un pourcentage de ou un score de confiance, que le média soit manipulé artificiellement. », A écrit les dirigeants de Microsoft dans un article de blog officiel .

 

Selon Microsoft, en cas d'analyse de vidéos, l'outil fournira le «pourcentage de réalité» pour chaque image de la vidéo en temps réel.

Bien que la détection de supports manipulés par l'IA puisse être difficile, la société affirme que l'outil  «fonctionne en détectant la limite de fusion des éléments de fondu profond et subtil ou en niveaux de gris qui pourraient ne pas être détectables par l'œil humain.»

Pour en venir à quelques détails techniques, l'outil «Video Authenticator» a été développé en utilisant un jeu de données public de FaceForesnics ++ . Il a ensuite été testé sur l'ensemble de données DeepFakeDetection Challenge . Et selon Microsoft, ces deux sont les  «principaux modèles pour la formation et le test des technologies de détection de deepfake» .

Le géant basé à Redmond collabore avec une AI Foundation de San Francisco pour distribuer l'outil. De L'entreprise, avec l'introduction de cet outil, Microsoft vise à empêcher la propagation de la désinformation, en particulier avant les élections américaines.

Ainsi, l'outil  sera distribué aux organisateurs de la campagne électorale et aux médias couvrant l'actualité politique. 

crédit image :Microsoft