Course curriculum

    1. 1.1 Qu'est-ce qu'un LLM ?

    2. 1.2 Comment fonctionne un LLM ?

    3. 1.3 Pourquoi créer son propre LLM ?

    4. QUIZ - CHAPITRE 1

    1. 2.1 Choisir la bonne infrastructure

    2. 2.2 Installer les outils et dépendances

    3. 2.3 Concepts clés avant de coder

    4. QUIZ - CHAPITRE 2

    1. 3.1 Où trouver des datasets de texte pour entraîner un LLM ?

    2. 3.2 Téléchargement et extraction des données

    3. 3.3 Nettoyage et prétraitement des textes

    4. 3.4 Tokenization : Transformer du texte en unités compréhensibles par le modèle

    5. 3.5 Stocker et organiser les données pour l’entraînement

    6. QUIZ - CHAPITRE 3

    1. 4.1 Comprendre l'architecture Transformer

    2. 4.2 Construire un modèle Transformer minimaliste

    3. 4.3 Préparer les données pour l'entraînement

    4. 4.4 Entraîner le modèle sur un petit dataset

    5. 4.5 Tester la génération de texte

    6. QUIZ - CHAPITRE 4

    1. 5.1 Pourquoi l’Attention est essentielle ?

    2. 5.2 Implémenter un Transformer avec Self-Attention

    3. 5.3 Préparer les données et entraîner le modèle

    4. 5.4 Tester la génération de texte améliorée

    5. QUIZ - CHAPITRE 5

    1. 6.1 Pourquoi fine-tuner un modèle pré-entraîné ?

    2. 6.2 Charger un modèle pré-entraîné (GPT-2)

    3. 6.3 Préparer un dataset personnalisé

    4. 6.4 Fine-tuning du modèle avec Hugging Face Trainer

    5. 6.5 Tester le modèle fine-tuné

    6. QUIZ - CHAPITRE 6

About this course

  • $499.99
  • 356 lessons
  • 0 hours of video content

Discover your potential, starting today