Transformeur génératif préentraîné
Un transformeur génératif préentraîné (ou GPT, de l’anglais generative pre-trained transformer) est un type de grand modèle de langage basé sur l'architecture transformeur. Le « préapprentissage » consiste à prédire le prochain mot dans une séquence de texte. …
Extrait raccourci de l'article Wikipédia, CC BY-SA 4.0. Image : Wikimedia Commons.