AlignementAlignement des systèmes d’IA
Réponse directe
Le travail visant à rapprocher le comportement d’une IA des objectifs et règles souhaités.
Explication détaillée
L’alignement combine entraînement, évaluations, garde-fous et contrôle humain. Les objectifs peuvent être difficiles à formuler et certaines contraintes peuvent entrer en conflit.
Exemple
Apprendre à un assistant à refuser une action dangereuse tout en restant utile.
Analogie
Former un collaborateur aux objectifs, aux limites et aux procédures d’une organisation.
Erreurs fréquentes
Présenter l’alignement comme un problème définitivement résolu par un seul entraînement.
Dernière mise à jour : 22/07/2026 · Rédaction : Alban Speckaert