BERT, GPT-3, Switch-C… Le Transformer à l’assaut du langage naturel
Des « modèles de langue » de plus en plus gigantesques, entraînés sur des quantités de textes tout aussi impressionnantes, promettent un renouveau du traitement du langage naturel. Ils reposent sur le concept de « Transformer ». Le « transformer » apparaît, fin 2017, dans une […]