Le tableau ci-dessous présente quelques-uns des modèles les plus influents, classés en fonction de leur date de sortie.
Modèle | Date de publication | Développeur | Licence | Description du modèle |
---|---|---|---|---|
GPT-4 | 2023 | OpenAI | Personnalisé | Successeur du GPT-3, construit sur une architecture similaire mais avec des améliorations. |
GPT-3 | Juin 2020 | OpenAI | Personnalisé | 175 milliards de paramètres, connu pour sa polyvalence et ses capacités. |
Turing-NLG | Février 2020 | Microsoft | Sur mesure | 17 milliards de paramètres, destiné à la compréhension et à la génération de langage naturel. |
GPT-2 | Février 2019 | OpenAI | Modifié par le MIT | Initialement interdit au public en raison d’inquiétudes quant à d’éventuelles utilisations abusives. |
BERT | octobre 2018 | Apache 2.0 | Conçu pour comprendre le contexte des mots dans les requêtes de recherche. | |
Transformer XL | Janvier 2019 | Google/CMU | Apache 2.0 | Modèle de transformateur étendu pour traiter des séquences de texte plus longues. |
GPT | Juin 2018 | OpenAI | Modifié MIT | Premier transformateur génératif pré-entraîné avec 117 millions de paramètres. |
ELMo | mars 2018 | Institut Allen | Apache 2.0 | Représentations profondes des mots contextualisés, permettant d’enrichir le sens des mots. |
Les derniers articles par Mathieu (tout voir)