L’alignement dans le domaine de l’IA (AI alignment) : un enjeu de sécurité majeur.
L’alignement de l’IA désigne l’ensemble des recherches et des techniques qui visent à faire en sorte qu’un système d’intelligence artificielle poursuive réellement les objectifs et les valeurs de ceux qui le conçoivent et l’utilisent, et non une version déformée de ces objectifs. Un modèle est dit « aligné » quand ce qu’il fait correspond à … Lire plus