Paramètres (poids)

Valeurs numériques ajustées durant l'entraînement d'un modèle et déterminant son comportement.

ExempleGPT-3 contient 175 milliards de paramètres : autant de valeurs numériques ajustées pendant l'entraînement, déterminant comment le modèle transforme chaque token d'entrée en une distribution de sortie.