Transformers en machine learning

Six modules : transformations de données de scikit-learn (échelle, encodage, pipelines), puis attention multi-têtes, BERT, GPT et ViT en NumPy.

Modules

  1. Deux sens pour un mot : transformeur de données et architecture Transformer
  2. Mettre les variables à la même échelle
  3. Transformations avancées : quantiles, puissances, catégories et pipelines
  4. Attention multi-têtes et codage positionnel
  5. Encodeurs, décodeurs, BERT, GPT et Vision Transformers
  6. Du tableau brut au modèle : workflow, fuites et mise en production