Statisticien de formation, Vincent Brault a été amené à développer des méthodes de traitement des gros ensembles de données, en franglais les Big Data. Maître de conférences à l’IUT2 Grenoble dans le département Science des Données, il est à l’origine du programme national sur les méthodes statistiques pour le Big Data. L’auteur explore les limites et dérives possibles des algorithmes d’IA en montrant que, même bien conçus, ils peuvent poursuivre des objectifs de manière inattendue ou contraire à l’intention humaine. Il illustre ces « mauvais alignements » par des exemples frappants : créatures virtuelles qui optimisent mal, modèles de langage qui « baratinent », ou systèmes qui exploitent les règles plutôt que d’accomplir réellement la tâche. Brault rappelle aussi que l’IA n’est pas un oracle : elle imite des formes humaines de discours sans garantir la vérité, ce qui peut induire en erreur. Enfin, il met en lumière les débats entre accélérationnistes et « doomers », soulignant que la véritable difficulté réside dans la capacité humaine à définir clairement les objectifs et à anticiper les dérives.