Données d'entraînement· Training data

Ensemble des données utilisées pour ajuster les paramètres d'un modèle.

ExempleGPT-2 a été entraîné sur 8 millions de pages web ; la qualité et la représentativité de ces données déterminent directement les biais et les capacités du modèle final.

En clairC'est le point aveugle de la plupart des discussions. Un modèle ne peut pas être meilleur que ce qu'on lui a montré, et il hérite des trous, des erreurs et des habitudes de ce corpus. Quand un fournisseur refuse de dire ce que le sien contient, il ne protège pas seulement un secret : il empêche d'évaluer ce que vous achetez. Un modèle entraîné sur des textes anciens décrira un monde qui n'existe plus.