Transformers en machine learning
Six modules : transformations de données de scikit-learn (échelle, encodage, pipelines), puis attention multi-têtes, BERT, GPT et ViT en NumPy.
Modules
- Deux sens pour un mot : transformeur de données et architecture Transformer
- Mettre les variables à la même échelle
- Transformations avancées : quantiles, puissances, catégories et pipelines
- Attention multi-têtes et codage positionnel
- Encodeurs, décodeurs, BERT, GPT et Vision Transformers
- Du tableau brut au modèle : workflow, fuites et mise en production