Ce qu'est l'apprentissage profond
- Leçon 1
- 45 min
- Module 1 : Ce qu'est un réseau de neurones
Leçon 1 sur 23 · L'apprentissage profond et les transformeurs expliquésCe qu'est l'apprentissage profond
1. Ce qu'est un réseau de neurones
2. Les tenseurs et PyTorch
3. Comment les réseaux de neurones apprennent
4. Diagnostiquer les problèmes d'entraînement
5. Représenter les séquences et le sens
6. Assembler un transformeur
7. Utiliser des modèles préentraînés
8. Sous le capot : les mathématiquesFacultatif
Ce que vous saurez faire
Comprenez ce qu’est l’apprentissage profond et quand il vaut son coût, avant de construire un réseau. Vous découvrez le problème qui traverse ce cours : envoyer chaque billet de soutien de Larkfield à la bonne équipe.
Avant de commencerCe qu’il faut savoir et avoir sous la main
Ce que vous devez savoir
- Ce que sont un modèle, l’entraînement et une prédiction, dans Ce qu’est l’apprentissage automatique du cours d’apprentissage automatique.
- La régression logistique : une somme pondérée transformée en score entre 0 et 1, dans Comprendre la classification.
- Les données de validation et l’exactitude, dans Données d’entraînement, de validation et de test et Les métriques de classification.
Ce qu’il vous faut sur votre ordinateur
- Un navigateur. Cette leçon ne contient pas de code. Vous installez PyTorch au module 2, dans Installer PyTorch.
Tous les nombres de cette leçon viennent des exécutions enregistrées pour le cours.
Votre téléphone utilise déjà l’apprentissage profond
Section intitulée « Votre téléphone utilise déjà l’apprentissage profond »Ouvrez l’application de photos sur votre téléphone et cherchez « chien ». Elle trouve vos photos de chiens, même si personne n’a écrit « chien » à côté. Dictez un message, et le téléphone le transcrit. Pointez la caméra vers un menu dans une autre langue, et elle affiche une traduction.
Personne n’a écrit les règles de ces outils. Essayez d’écrire la règle pour « cette photo montre un chien » : quatre pattes, du poil, une queue. Un chat correspond aussi, mais pas un chien couché. Le cours d’apprentissage automatique présentait le même problème avec les chats et les pourriels. La réponse était alors d’apprendre la règle à partir d’exemples.
Ces outils sur votre téléphone vont plus loin. Ils apprennent directement à partir des données brutes : les pixels d’une photo, l’onde sonore de votre voix, les mots d’une phrase. Personne ne décide d’abord quels éléments de la photo comptent. Le modèle les trouve. C’est l’apprentissage profond, et ce cours montre son fonctionnement, d’un seul neurone à un petit transformeur.
Le problème de Larkfield : qui répond à ce billet?
Section intitulée « Le problème de Larkfield : qui répond à ce billet? »Larkfield est le magasin pour la maison et le jardin des cours précédents. Cinq équipes de soutien répondent aux billets des clients : livraison, retours, paiement, garantie et compte. Aujourd’hui, une personne lit chaque nouveau billet et l’envoie à une équipe. C’est ce qu’on appelle l’acheminement.
Grace dirige le soutien. Elle veut automatiser l’acheminement pour qu’un billet arrive à la bonne équipe en quelques secondes. Ainsi, personne ne passe la première heure de la journée à faire le tri. Choisir la mauvaise équipe fait perdre du temps. Le billet attend dans la mauvaise file, puis quelqu’un le transfère manuellement.
Grace a noté comment son personnel choisit l’équipe. Voici sa politique d’acheminement en mots simples. La première règle est la plus importante : choisir l’équipe selon la demande principale du client. Les autres sujets que le client mentionne en passant ne déterminent pas l’équipe.
| Équipe | Répond aux billets concernant |
|---|---|
| livraison | une commande en route : retard, perte, suivi, transporteur, boîte manquante, article brisé à l’arrivée |
| retours | le renvoi d’un article : étiquettes, échanges, mauvais article à renvoyer, ramassage d’un retour volumineux |
| paiement | l’argent : doubles facturations, cartes refusées, factures, codes de réduction, remboursement confirmé qui n’apparaît pas sur la carte |
| garantie | un produit qui devient défectueux après utilisation : il cesse de fonctionner, une pièce se brise; réparations, problèmes de sécurité |
| compte | connexion, réinitialisation du mot de passe, changement de courriel, adresses et cartes enregistrées, courriels promotionnels, points de fidélité |
Deux cas limites causent la plupart des erreurs, même chez les humains. Un article brisé à l’arrivée va à la livraison; un article brisé après utilisation va à la garantie. Et « Où est mon remboursement? » va aux retours jusqu’à ce que le magasin confirme avoir reçu l’article. Ensuite, il va au paiement.
Le cours contient 5 896 billets de Larkfield, chacun associé à l’équipe que désigne la politique de Grace. Les billets sont inventés pour ce cours; le module 2 explique comment. Parmi eux, 600 sont des billets de validation. Tous les systèmes d’acheminement de cette leçon sont évalués sur ces billets.
Premier essai : une règle par mots-clés
Section intitulée « Premier essai : une règle par mots-clés »Tomás, ingénieur en IA chez Larkfield, a une idée rapide. « Un billet sur la livraison contient delivery. Cherchons des mots-clés. » Il écrit une liste de motifs de mots pour chaque équipe. La règle vérifie les équipes dans un ordre fixe. La première équipe dont un motif correspond est choisie :
- livraison : deliver, parcel, courier, tracking, arriv…
- retours : return, send back, exchange, label
- paiement : charg…, card, invoice, refund, payment, paid, discount
- garantie : broke, stopped working, guarantee, warrant…, repair, faulty
- compte : log in, password, account, email, sign in
Si aucun motif ne correspond, la règle choisit la livraison, l’équipe la plus fréquente. Voici trois vrais billets de validation, raccourcis, avec les étapes de la règle.
Billet T-64697. « …La bouilloire électrique était affichée à un prix précis sur la page de paiement. Mais mon relevé de carte indique un montant plus élevé. La livraison s’est bien passée plus tôt cette semaine… Pourriez-vous vérifier le montant facturé et confirmer le bon montant? » La règle vérifie d’abord la livraison et trouve deliver. Elle s’arrête : livraison. La politique de Grace indique paiement. Le client mentionne la livraison seulement pour dire qu’elle s’est bien passée.
Billet T-64704. « J’utilise la bouilloire électrique depuis environ une semaine. Hier, la poignée est devenue très chaude pendant l’utilisation, et j’ai remarqué une légère odeur de brûlé… J’ai arrêté de l’utiliser. Pourriez-vous me dire s’il s’agit d’un problème de sécurité connu…? » Aucun motif ne correspond. « Stopped using » (arrêté d’utiliser) n’est pas « stopped working » (cessé de fonctionner). Le client ne dit jamais broke (brisé) ou faulty (défectueux). La règle choisit donc livraison par défaut. La politique de Grace indique garantie : un problème de sécurité après utilisation.
Billet T-64710. « Bonjour, ce n’est pas un problème de livraison, le hamac est arrivé sans problème. Je n’arrive pas à me connecter à mon compte, et je n’ai jamais reçu le courriel de réinitialisation du mot de passe… » La règle trouve deliver et s’arrête : livraison. La politique indique compte. Le client a dit « n’est pas », mais un mot-clé ne peut pas lire « pas ».
Sur l’ensemble des 600 billets de validation, la règle par mots-clés a raison 57.3% du temps. Répondre toujours « livraison », sans rien lire, donne 27.5%. La règle aide donc, mais elle envoie plus de 4 billets sur 10 à la mauvaise équipe. Le graphique montre où elle échoue.
- La demande est simple ou à la limite entre deux équipes
- D'autres mots nuisent au choix
Description textuelle du graphique
Exactitude de la règle par mots-clés sur les billets de validation, selon leur rédaction. Billets simples : 72 %. Billets à une limite de la politique : 54 %. Billets qui mentionnent en passant les mots d’une autre équipe (élément trompeur) : 42 %. Billets présentant d’abord un problème résolu par une autre équipe, puis la vraie demande (deux sujets) : 40 %. Billets avec une négation comme « pas un problème de livraison » : 26 %.
Tomás peut-il corriger la règle? Il peut ajouter des motifs et changer l’ordre. Mais chaque changement qui corrige certains billets cause des erreurs sur d’autres. Le même mot signifie différentes choses dans différents billets. Vous essayez vous-même un changement dans À vous de jouer ci-dessous.
L’idée : laisser le modèle trouver les caractéristiques
Section intitulée « L’idée : laisser le modèle trouver les caractéristiques »Le cours d’apprentissage automatique donnait la première réponse : n’écrivez pas la règle, apprenez-la à partir d’exemples. Ses modèles, comme la régression logistique, apprennent un poids pour chaque variable. Ce sont les colonnes d’un tableau, comme priority ou word_count. Mais une personne a choisi ces colonnes.
Un billet est du texte libre, pas un tableau. Une personne doit donc d’abord transformer le texte en colonnes. La méthode la plus simple crée une colonne par mot : le nombre de fois où il apparaît dans le billet. Une version courante, TF-IDF, donne aussi moins de poids aux mots très fréquents comme « the » (le, la ou les). La régression logistique apprend ensuite un poids pour chaque mot et chaque équipe. « Password » (mot de passe) pousse un billet vers compte; « refund » (remboursement) le pousse vers paiement.
Cela fonctionne bien mieux que les mots-clés. Le modèle apprend l’importance de chaque mot à partir de 4,696 billets d’entraînement, plutôt que des suppositions de Tomás. Mais une personne a encore choisi ce que le modèle voit : des mots isolés, comptés, sans leur ordre.
Un réseau de neurones va plus loin. Il part des données brutes, transformées en nombres, et apprend ses propres caractéristiques dans des couches. La première couche apprend des combinaisons utiles des entrées. La couche suivante apprend des combinaisons de ces combinaisons. Personne ne lui dit quelles combinaisons comptent. Il les trouve à partir des exemples et de leurs bonnes réponses. Le schéma compare les trois méthodes.
Description textuelle du diagramme
Trois lignes. Chaque ligne commence par le texte du billet et se termine par une équipe.
Ligne 1, une personne écrit la règle : le texte passe dans une règle par mots-clés. Par exemple, « deliver » (livrer) va à livraison et « return » (retourner) va à retours.
Ligne 2, une personne choisit les caractéristiques et un modèle apprend les poids. Le texte devient des caractéristiques choisies par une personne, un compte par mot. La régression logistique apprend un poids par mot et équipe.
Ligne 3, un réseau de neurones apprend ses propres caractéristiques : le texte, sous forme de nombres, passe dans des couches. Les couches apprennent quels motifs comptent, à partir d’exemples.
Pourquoi « profond »? On appelle profond un réseau qui enchaîne de nombreuses couches. Chaque couche s’appuie sur la précédente. Pourquoi « neurones »? Les premiers réseaux s’inspiraient vaguement des cellules du cerveau. La prochaine leçon montre à quel point ce lien est limité.
Où cela compte-t-il le plus? Dans une photo, un pixel ne dit presque rien. « Le pixel 4 812 est brun » est une colonne inutile. Un réseau profond apprend d’abord de petits motifs, comme des contours. Il apprend ensuite des formes faites de contours, puis des objets faits de formes. Personne ne pourrait écrire ces colonnes à la main. C’est pourquoi l’apprentissage profond s’est d’abord imposé pour les images et le son.
Le résultat honnête pour Larkfield
Section intitulée « Le résultat honnête pour Larkfield »Priya, scientifique des données chez Larkfield, a évalué chaque système d’acheminement sur les mêmes 600 billets de validation. Elle a aussi entraîné le premier réseau du cours, que vous construisez aux modules 2 et 3. Le graphique les place côte à côte.
Description textuelle du graphique
Exactitude sur les 600 billets de validation. Toujours répondre « livraison » : 27,5 %. La règle par mots-clés : 57,3 %. Comptes de mots (TF-IDF) avec régression logistique, les outils du cours d’apprentissage automatique : 98,8 %. Le premier réseau de ce cours, à sa meilleure époque : 98,3 %.
Lisez le graphique attentivement. Les comptes de mots avec régression logistique acheminent correctement 98.8% des billets. Le premier réseau obtient 98.3%. Sur ces billets courts, les mots déterminent l’équipe, et les compter suffit. Le modèle linéaire est donc le meilleur système d’acheminement pour Larkfield, et le moins cher. Larkfield devrait l’utiliser.
Omar, le responsable de produit, pose la question évidente : « Alors, pourquoi apprendre l’apprentissage profond avec cette tâche? » Priya a deux réponses.
D’abord, la tâche est petite, familière et rapide. Vous pouvez donc observer chaque partie d’un réseau qui apprend : ses formes, sa perte, ses erreurs. Une référence de base solide et simple à ses côtés permet de juger honnêtement chaque résultat. Ensuite, les comptes de mots ont une limite, et vous la verrez. « Endommagé à l’arrivée » et « pas endommagé, il s’est brisé après un mois » exigent l’ordre des mots et le contexte. Le module 5 montre des billets où le comptage échoue. Les modules 5 et 6 construisent ensuite l’attention et un petit transformeur. C’est le type de réseau utilisé dans les modèles de langage actuels.
Ce transformeur fera moins bien que le modèle linéaire sur ces billets. Environ 4 700 billets sont bien trop peu pour apprendre une langue à partir de zéro. La solution est de partir d’un modèle qui a déjà lu beaucoup de texte, un modèle préentraîné. Le module 7 en exécute un. L’étude de cas « Faire le réglage fin d’un petit transformeur » mesure ce qu’apporte ce préentraînement.
Quand l’apprentissage profond vaut son coût, et quand il ne le vaut pas
Section intitulée « Quand l’apprentissage profond vaut son coût, et quand il ne le vaut pas »L’apprentissage profond est un bon choix quand ces conditions sont réunies :
- Les données d’entrée sont brutes et riches : images, son, texte libre. Une personne ne peut pas écrire les caractéristiques utiles.
- Le motif est difficile à décrire, comme « un chien » ou « une voix fatiguée ».
- Il y a beaucoup de données, ou un modèle préentraîné qui a déjà appris sur beaucoup de données et que vous pouvez adapter.
Les modèles du cours d’apprentissage automatique sont généralement meilleurs dans ces cas :
- Les données forment un tableau de faits qu’une personne a choisis : montants, dates, comptes, catégories. Le gradient boosting (amplification par gradient) est très difficile à battre dans ce cas.
- Il y a peu de données, quelques milliers de lignes ou moins.
- Les gens ont besoin d’explications, par exemple pourquoi un prêt a été refusé.
- La vitesse et le coût comptent plus que le dernier point d’exactitude.
L’apprentissage profond coûte plus de données, plus de temps de calcul et plus de réglages à ajuster. Ses résultats sont plus difficiles à expliquer, et il peut échouer sans signe visible de plusieurs façons. Le module 4 traite de ces échecs. L’étude de cas « Réseau profond ou gradient boosting? » entraîne les deux sur le même tableau de données. Elle demande lequel vaut son coût.
Les études de cas à la fin du cours
Section intitulée « Les études de cas à la fin du cours »Les billets de Larkfield traversent chaque leçon, pour que vous voyiez un problème sous plusieurs angles. Le cours se termine par quatre études de cas sur d’autres données. Elles portent sur des images, un tableau, un modèle préentraîné et un tout petit modèle de langage. Chacune utilise des données réelles et publiques, du fichier brut jusqu’à un résultat testé et une recommandation.
Études de cas de ce cours
À la fin du cours, vous appliquez ce que vous avez appris à un projet réaliste, des données jusqu’à la recommandation. Terminez-en au moins une pour obtenir le certificat; les autres sont facultatives.
- Classer des images de vêtementsEntraîner et diagnostiquer un petit réseau sur Fashion-MNIST, du début à la fin : une référence de base, des courbes d'entraînement, une matrice de confusion, les erreurs du réseau et un modèle enregistré et reproductible.
- Réseau profond ou gradient boosting?Comparer un réseau de neurones et le gradient boosting sur un jeu de données tabulaires ouvert, avec la même séparation et la même métrique, puis décider honnêtement si le réseau vaut son coût.
- Faire le réglage fin d'un petit transformeurAdapter un petit transformeur préentraîné à une tâche de classification de texte sur des données ouvertes, le comparer à un modèle entraîné à partir de zéro et mesurer ce que le préentraînement apporte.
- Entraîner un tout petit modèle de langageEntraîner un transformeur au niveau des caractères sur des textes du domaine public par prédiction du jeton suivant, observer ses échantillons s'améliorer pendant l'entraînement et mesurer la perte sur un texte mis de côté.
Certaines descriptions utilisent des mots que le cours enseigne plus tard, comme matrice de confusion ou réglage fin. Pour l’instant, lisez la liste comme un aperçu du parcours du cours. Chaque étude de cas est aussi une pièce pour votre portfolio. C’est un projet que vous pouvez montrer et présenter en entrevue. La plupart des apprenants les commencent après le module 7.
Exercice guidé : règle, modèle ou réseau?
Section intitulée « Exercice guidé : règle, modèle ou réseau? »- Lisez les six tâches ci-dessous.
- Pour chaque tâche, choisissez une méthode : une règle écrite par une personne, un modèle du cours d’apprentissage automatique ou un réseau de neurones.
- Écrivez une raison pour chaque choix : quelles sont les données d’entrée, combien y en a-t-il, et faut-il une explication?
- Comparez vos réponses avec l’exemple de réponse.
Les six tâches :
- Offrir la livraison gratuite pour toute commande de plus de 50 $.
- Trouver un pot de fleurs fissuré dans une photo qu’un client envoie avec un billet.
- Prédire si une entreprise cliente paiera une facture en retard, avec un tableau de 15 faits sur 3 000 clients.
- Acheminer les billets de Larkfield aux cinq équipes.
- Transcrire le message vocal d’un client.
- Expliquer à un client pourquoi sa demande de garantie a été refusée, avec la raison dans la politique.
Afficher un exemple de réponse
| Tâche | Méthode | Pourquoi |
|---|---|---|
| 1. Livraison gratuite au-delà de 50 $ | Règle | La règle est exacte et tient en une ligne. |
| 2. Pot fissuré dans une photo | Réseau | Les données d’entrée sont des pixels. Personne ne peut écrire « fissuré » en colonnes, et des modèles d’images préentraînés existent. |
| 3. Paiement en retard à partir de 15 faits | Cours d’apprentissage automatique | Un petit tableau de faits choisis : le gradient boosting ou la régression logistique coûte moins cher. Ces modèles sont souvent aussi bons ou meilleurs, et plus faciles à expliquer. |
| 4. Acheminer des billets | Cours d’apprentissage automatique d’abord | Les comptes de mots avec régression logistique atteignent 98,8 %. Un réseau vaut un essai seulement quand l’ordre des mots compte, et seulement s’il dépasse cette référence de base. |
| 5. Transcrire la voix | Réseau | Le son est une donnée brute. Utilisez un modèle vocal préentraîné; n’en entraînez pas un à partir de zéro. |
| 6. Expliquer une demande refusée | Règle, ou modèle simple avec une personne | Le client a besoin d’une raison tirée de la politique. Les poids d’un réseau ne peuvent pas la donner. |
La question clé n’est pas « quel modèle est le plus intelligent? » C’est « quelles sont les données d’entrée, combien y en a-t-il, et qui doit comprendre la réponse? »
À vous de jouer : vérifier le paiement d’abord
Section intitulée « À vous de jouer : vérifier le paiement d’abord »Tomás voit que le billet T-64697 a été envoyé à la livraison parce que la règle vérifie la livraison d’abord. Il place le paiement en tête de liste : paiement, livraison, retours, garantie, compte.
Avant de lire la réponse, faites une prédiction : l’exactitude sur les 600 billets de validation augmente-t-elle beaucoup, un peu, ou diminue-t-elle? Le cas T-64697 est-il corrigé? Le cas T-64710 (« ce n’est pas un problème de livraison… je n’arrive pas à me connecter ») est-il corrigé?
Afficher la réponse
Le cas T-64697 est corrigé : il contient card (carte) et charge (débit), donc le paiement correspond maintenant en premier. Le cas T-64710 reste incorrect : il ne contient aucun mot lié au paiement, donc la livraison correspond ensuite.
Sur les 600 billets, l’exactitude passe de 57,3 % à seulement 58,8 %. Le nouvel ordre corrige 56 billets, mais en classe mal 47 autres. Voici un billet qu’il classe maintenant mal, T-64700 : « J’ai reçu le remboursement de ma première commande hier, donc c’est réglé. Par contre, mon arrosoir a été marqué comme livré ce matin, mais le livreur l’a laissé chez mon voisin… » Le client mentionne d’abord un remboursement déjà réglé. Le paiement correspond maintenant en premier, et le billet quitte l’équipe de livraison.
Chaque mot apparaît dans des billets de plusieurs équipes. Une règle qui examine un mot à la fois ne peut pas savoir quelle mention correspond à la vraie demande. Un modèle qui pondère tous les mots ensemble le peut.
Erreur courante
Un meilleur score ailleurs comme raison de changer
Symptôme : Tomás lit qu’un grand réseau achemine très bien les billets de soutien. Il veut remplacer immédiatement le modèle de comptage des mots de Priya par un réseau. Un mois plus tard, le réseau est plus lent à entraîner, plus difficile à expliquer à Grace, sans être plus exact.
Cause : un résultat sur d’autres données ne dit rien sur les billets de Larkfield. Sur ces billets, le modèle linéaire en achemine déjà 98,8 % correctement, et le premier réseau atteint 98,3 %. La question n’a jamais été « un réseau est-il puissant? » C’était plutôt « sur nos données, un réseau dépasse-t-il assez notre référence de base pour justifier son coût? »
Solution : comparez chaque nouveau modèle à la référence de base simple, sur les mêmes billets de validation, avec la même mesure. Gardez le modèle simple, sauf si le nouveau gagne clairement. Notez aussi le coût : le temps d’entraînement, l’ordinateur nécessaire et la façon dont vous expliquerez ses réponses.
Vérification des connaissances
Section intitulée « Vérification des connaissances »Vérifiez votre compréhension
Dans vos mots : que fait un réseau de neurones que la régression logistique du cours d'apprentissage automatique ne fait pas?
Afficher la réponse
La régression logistique apprend un poids pour chaque caractéristique, mais une personne choisit les caractéristiques, comme un compte par mot. Un réseau de neurones part des données brutes sous forme de nombres et apprend ses propres caractéristiques dans des couches. Chaque couche apprend des combinaisons de ce que la couche précédente a trouvé. Le réseau peut donc trouver des régularités que personne n’a décrites dans une colonne. C’est surtout important pour les images, le son et le texte.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Vérifiez votre compréhension
Pourquoi la règle par mots-clés envoie-t-elle le billet T-64710 (« ce n'est pas un problème de livraison… je n'arrive pas à me connecter à mon compte ») à la livraison?
Afficher la réponse
La règle vérifie d’abord les motifs liés à la livraison, et le billet contient le mot « delivery » (livraison). La première correspondance l’emporte, donc la règle s’arrête là. Un mot-clé ne peut pas interpréter « isn’t » (n’est pas). La règle n’examine jamais « log in » (se connecter) ni « password » (mot de passe), qui viennent plus loin dans le billet. La politique de Grace choisit l’équipe selon la demande principale, qui concerne ici le compte.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Vérifiez votre compréhension
Faites une prédiction : Larkfield veut prédire quelles commandes seront retournées. Elle dispose d'un tableau de 12 faits par commande (prix, catégorie, délai de livraison…) et de 8 000 commandes passées. Faut-il essayer l'apprentissage profond en premier? Pourquoi?
Afficher la réponse
Non. Les données forment un petit tableau de faits qu’une personne a choisis. Essayez donc d’abord les modèles du cours d’apprentissage automatique : la régression logistique comme référence de base, puis le gradient boosting. Ils s’entraînent rapidement, demandent moins de données et sont plus faciles à expliquer. Un réseau mérite un essai seulement s’il les dépasse clairement sur les mêmes données de validation. L’étude de cas « Réseau profond ou gradient boosting? » teste précisément cette question.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Récapitulatif
- L’apprentissage profond apprend ses propres caractéristiques à partir de données brutes, comme des pixels, du son ou du texte. Il le fait dans une chaîne de couches. Les modèles du cours d’apprentissage automatique apprennent des poids pour des caractéristiques qu’une personne a choisies.
- Le problème de Larkfield : acheminer chaque billet à l’une des cinq équipes, selon la politique de Grace. Une règle par mots-clés obtient 57.3%; elle échoue devant les négations et les mentions secondaires de mots associés aux autres équipes.
- Sur ces billets, le comptage des mots avec la régression logistique obtient 98.8%, et le premier réseau, 98.3%. Le modèle linéaire est le meilleur modèle d’acheminement de Larkfield. Le cours utilise cette tâche pour comprendre comment les réseaux apprennent, puis où le comptage des mots atteint ses limites.
- Choisissez l’apprentissage profond pour des données brutes riches, des régularités difficiles à décrire, et beaucoup de données ou un modèle préentraîné. Choisissez les modèles du cours d’apprentissage automatique pour des tableaux de faits, peu de données et des décisions à expliquer.
Ensuite, examinez l’intérieur du réseau : un neurone, qui s’avère être une vieille connaissance, puis des couches de neurones.
Leçon suivante : Neurones et couches