Ceci est une ancienne révision du document !
Table des matières
Génération de textes avec aitextgen
Cette page est la suite de Générer du texte en python avec textgenrnn
Ressources
- aitextgen de minimaxir sur github.com est une amélioration de textgenrnn de minimaxir sur github.com
Transformers
Transformers: State-of-the-art Natural Language Processing for Pytorch and TensorFlow 2.0.
The FlauBERT model was proposed in the paper FlauBERT: Unsupervised Language Model Pre-training for French by Hang Le et al. It’s a transformer pre-trained using a masked language modeling (MLM) objective (BERT-like).
The CamemBERT model was proposed in CamemBERT: a Tasty French Language Model by Louis Martin, Benjamin Muller, Pedro Javier Ortiz Suárez, Yoann Dupont, Laurent Romary, Éric Villemonte de la Clergerie, Djamé Seddah, and Benoît Sagot. It is based on Facebook’s RoBERTa model released in 2019. It is a model trained on 138GB of French text.