Vidéo de l'IREM de Paris - Le Maths Club. De l'optimisation à la manipulation : Quand les mathématiques exploitent les failles de l'IA.

Résumé

L’intelligence artificielle s'immisce dans de nombreux domaines, de la voiture autonome à la reconnaissance d'images. Cependant, derrière sa puissance se cache une vulnérabilité peu connue mais redoutable : les attaques adversariales. Ces attaques exploitent des imperfections dans les modèles pour induire des erreurs de prédiction, parfois de manière imperceptible.

À travers un exemple pratique avec le modèle de classification d'images ResNet50, l'auteur montre comment une image apparemment banale peut être mal classée. En décryptant le raisonnement mathématique et l'optimisation derrière ces attaques, il explore également des pistes pour rendre les systèmes d'IA plus robustes et mieux protégés contre ces vulnérabilités.

Notes

Conférence donnée le 24 mars 2025 par Athmane Bakhta dans le cadre de la chaine "Le Maths Club" des vidéos de l'IREMS de Paris.

Le Maths Club propose depuis 2008 un séminaire à l'intention des étudiants en mathématiques et informatique de niveau L et M, mais les séances sont ouvertes à tous ! Le sous-titre du séminaire est "Les Maths, à quoi ça sert ?". Les conférenciers sont par exemple des chercheurs, des enseignants, des industriels.
Ce séminaire est organisé conjointement par l'UFR de Mathématiques de l'Université Paris Diderot et par l'IREM de Paris.

Cette ressource est en ligne sur le site Vidéo de l'IREM de Paris

Données de publication

Éditeur IREM de Paris , Paris , France , 2025 Format 56 min

Public visé élève ou étudiant, enseignant Niveau licence, lycée, terminale Âge 17, 18, 19, 20

Type Film, vidéo Langue français Support internet