Alignement (IA)· AI alignment

Ensemble des méthodes visant à faire correspondre le comportement d'un modèle aux intentions et valeurs humaines.

ExempleLa technique 'Constitutional AI' d'Anthropic tente d'aligner Claude sur des principes éthiques en faisant critiquer le modèle ses propres réponses avant de les affiner : alternative partielle au RLHF.