#
Quiz de fin de chapitre

Ce chapitre a couvert un grand nombre de notions ! Ne vous inquiétez pas si vous n’avez pas compris tous les détails, les chapitres suivants vous aideront à comprendre comment les choses fonctionnent concrètement.

Mais avant d’aller plus loin, prenons un instant pour voir ce que vous avez appris dans ce chapitre !

###
1. Explorez le Hub et cherchez le modèle `roberta-large-mnli`. Quelle tâche accomplit-il ?

Résumé de texte Classification de texte Génération de texte

###
2. Que renvoie le code suivant ?

    from transformers import pipeline

    ner = pipeline("ner", grouped_entities=True)
    ner(
        "My name is Sylvain and I work at Hugging Face in Brooklyn."
    )  # Je m'appelle Sylvain et je travaille à Hugging Face à Brooklyn.

Il renvoie les scores de classification pour cette phrase, avec les labels "positive" ou "negative". Il renvoie un texte généré qui complète cette phrase. Il renvoie les entités nommées dans cette phrase, telles que les personnes, les organisations ou lieux.

###
3. Que remplace « … » dans ce code ?

    from transformers import pipeline

    filler = pipeline("fill-mask", model="bert-base-cased")
    result = filler("...")

This <mask> has been waiting for you. # Ce <mask> vous attend. This [MASK] has been waiting for you. # Ce [MASK] vous attend. This man has been waiting for you. # Cet homme vous attend.

###
4. Pourquoi ce code ne fonctionne-t-il pas ?

    from transformers import pipeline

    classifier = pipeline("zero-shot-classification")
    result = classifier(
        "This is a course about the Transformers library"
    )  # C'est un cours sur la bibliothèque Transformers

Ce pipeline nécessite que des étiquettes soient données pour classifier ce texte. Ce pipeline nécessite que des phrases soient données, pas juste une phrase. La bibliothèque 🤗 Transformers est cassée, comme d'habitude. Ce pipeline nécessite des phrases plus longues, celle-ci est trop courte.

###
5. Que signifie « apprentissage par transfert » ?

Transférer les connaissances d'un modèle pré-entraîné vers un nouveau modèle en entraînant ce second modèle sur le même jeu de données. Transférer les connaissances d'un modèle pré-entraîné vers un nouveau modèle en initialisant ce second modèle avec les poids du premier. Transférer les connaissances d'un modèle pré-entraîné vers un nouveau modèle en construisant le second modèle avec la même architecture que le premier.

###
6. Vrai ou faux ? Un modèle de langage n’a généralement pas besoin d’étiquettes pour son pré-entraînement.

Vrai Faux

###
7. Sélectionnez la phrase qui décrit le mieux les termes « modèle », « architecture » et « poids ».

Si un modèle est un bâtiment, son architecture est le plan de construction et les poids représentent les personnes qui vivent dedans. Une architecture est une carte pour construire un modèle et les poids sont les villes représentées sur la carte. Une architecture est une succession de fonctions mathématiques permettant de construire un modèle et les poids sont les paramètres de ces fonctions.

###
8. Parmi ces types de modèles, quel est le plus approprié pour générer du texte à partir d’une instruction (prompt) ?

Un modèle basé sur l'encodeur Un modèle basé sur le décodeur Un modèle de séquence-à-séquence

###
9. Parmi ces types de modèles, quel est le plus approprié pour le résumé de texte ?

Un modèle basé sur l'encodeur Un modèle basé sur le décodeur Un modèle de séquence-à-séquence

###
10. Quel type de modèle utiliseriez-vous pour classifier des entrées de texte en fonction de certains labels ?

Un modèle basé sur l'encodeur Un modèle basé sur le décodeur Un modèle de séquence-à-séquence

###
11. De quelle source possible peut être le biais observé dans un modèle ?

Le modèle est une version finetunée d'un modèle pré-entraîné et il a conservé ses biais. Le modèle a été entraîné sur des données qui sont biaisées. La métrique optimisée lors de l'entraînement du modèle est biaisée.