Représenter la provenance
- Leçon 10
- 50 min
- Module 3 : Retrouver la structure et les tableaux
Où nous en sommes
Dans les deux dernières leçons, nous avons retrouvé des sections, des tableaux et des cellules de feuille de calcul, et chacun a gardé une page et un cadre. Mais une valeur seule ne dit toujours pas lequel de deux montants imprimés nous avons lu, ni quelles lignes forment une taxe. Dans cette leçon, nous conservons un enregistrement de preuve avec chaque valeur et le dessinons sur la page originale, comme un surligneur sur une note de frais.
Leçon 10 sur 19 · IA documentaire et multimodaleReprésenter la provenance
1. Comprendre les documents en entrée
2. Préparer et extraire le contenu
3. Retrouver la structure et les tableaux
4. Utiliser les modèles multimodaux de façon réfléchie
5. Valider et réviser les résultats
6. Évaluer et livrer le pipeline
7. Études de cas
Ce que vous saurez faire
Avec chaque valeur extraite par le pipeline, conservez son emplacement : le fichier, la page et le cadre, ou la feuille et la cellule. Dessinez ensuite cet emplacement sur la page originale. Un agent peut alors vérifier une valeur en quelques secondes, sans chercher dans le document.
Avant de commencerCe qu’il faut savoir et avoir sous la main
Ce que vous devez savoir
- Les lignes avec leurs cadres, les points (pt) sur les pages PDF et les pixels (px) sur les images. Voir L’idée : trois chemins, un seul enregistrement dans Chemins texte et OCR.
- Les cadres reportés sur l’image originale, dans Conserver l’original, dans Préparation des images.
- Les cellules de tableau avec une page et un cadre, et les cellules de feuille de calcul avec une adresse. Voir L’idée : un tableau, un enregistrement par ligne, une position par cellule et Feuilles de calcul : lire les cellules, jamais une image dans Tableaux et feuilles de calcul.
Ce qu’il vous faut sur votre ordinateur
- Votre projet à la fin de la leçon précédente :
python -m pytest -qaffiche74 passed(74 tests réussis). - Le dépôt des laboratoires dans
~/projects/nextia-learning-labs, à jour.
Testé avec Python 3.12.13, RapidOCR 3.10.0 et Pillow 12.3.0 sur macOS (puce Apple). Les commandes Windows et Linux ne sont pas testées.
Obtenir le fichier de la leçon
Section intitulée « Obtenir le fichier de la leçon »-
Dans le dossier du projet, copiez le module et ses tests depuis l’instantané :
Fenêtre de terminal S=../nextia-learning-labs/C13/snapshots/end-of-m03cp $S/doc_extract/provenance.py doc_extract/cp $S/tests/test_provenance.py tests/Fenêtre de terminal $S = "..\nextia-learning-labs\C13\snapshots\end-of-m03"Copy-Item "$S\doc_extract\provenance.py" doc_extract\Copy-Item "$S\tests\test_provenance.py" tests\ -
Exécutez les tests :
Fenêtre de terminal python -m pytest -qLa dernière ligne est
77 passed(77 tests réussis). C’est le nombre de tests de l’instantanéend-of-m03.
Un surligneur sur un rapport de dépenses
Section intitulée « Un surligneur sur un rapport de dépenses »Pensez à un rapport de dépenses à la fin d’un voyage d’affaires. Vous tapez « Hôtel : 412,50 » dans un formulaire, et le comptable demande : « D’où vient ce nombre? » Un employé soigneux ne répond pas « du reçu ». Il agrafe le reçu au formulaire et marque le montant avec un surligneur. Le comptable vérifie alors en deux secondes : le bon reçu, la bonne ligne, le bon nombre. Sans le surlignage, le comptable doit lire tout le reçu. Il risque de s’arrêter au mauvais 412,50 : le dépôt, pas le total.
Surligner le montant coûte très peu au moment de le copier. Retrouver son emplacement plus tard coûte beaucoup plus.
Le problème : une valeur sans son emplacement
Section intitulée « Le problème : une valeur sans son emplacement »Tomás le dit en réunion : « On n’a pas besoin du numéro de page, on a la valeur. » Regardez ce que « on a la valeur » signifie pour D036, la photo en français prise au téléphone à Montréal. Le pipeline indique total 1011.78 (total de 1 011,78). Mais le reçu affiche 1 011,78 deux fois : sur la ligne TOTAL et sur la ligne de paiement, « Cash 1 011,78 » (comptant). Une valeur seule ne permet pas de savoir quelle ligne a été lue. Si la règle avait lu la ligne du paiement comptant, la valeur serait la même ici. Mais sur un reçu avec de la monnaie rendue, elle serait fausse, et personne ne pourrait comprendre pourquoi.
La taxe montre le même problème sous un autre angle. Le pipeline indique tax 131.78 (taxe de 131,78), et ce nombre n’apparaît nulle part sur le reçu. C’est la somme de deux lignes imprimées, TPS 44,00 et TVQ 87,78. Un agent qui cherche 131,78 sur la photo ne trouve rien et commence à douter d’une valeur correcte.
Vous avez aussi vu un troisième cas dans Chemins texte et OCR : le modèle de vision a écrit LARKEFIELD sur le PDF net D009. Sa réponse contenait seulement des valeurs, sans emplacement sur la page. Pour la vérifier, une personne doit ouvrir le fichier et chercher le nom du fournisseur.
Grace a posé cette question à l’équipe du projet : « Le système peut-il nous montrer exactement d’où vient chaque valeur? » Sans emplacement, chaque vérification commence par une recherche.
L’idée : un enregistrement de preuve pour chaque valeur
Section intitulée « L’idée : un enregistrement de preuve pour chaque valeur »La provenance signifie « d’où vient quelque chose ». Le mot est ancien : dans un musée, la provenance d’un tableau est la liste de ses propriétaires, jusqu’à l’artiste. Pour une valeur extraite, la provenance est un petit enregistrement conservé à côté de la valeur : la preuve. Dans ce projet, la preuve d’une valeur comprend ces éléments :
- le fichier, tel que le client l’a envoyé (l’original, jamais une copie préparée);
- pour une page : le numéro de page et le cadre, le plus petit rectangle entourant le texte, sous forme de quatre nombres
[x0, top, x1, bottom]; - l’unité du cadre :
pt(points, 1/72 de pouce) sur une page PDF,px(pixels) sur un fichier image; - pour une feuille de calcul : la feuille, l’adresse de la cellule et la plage fusionnée si la valeur en provient;
- le chemin qui l’a lue (couche texte, OCR, tableau, feuille) et le texte vu à cet emplacement.
Pourquoi deux unités? Une page PDF a une taille fixe en points; son image n’est qu’un rendu à une certaine résolution. Un cadre en points reste le même, quelle que soit la résolution du rendu de la page. Une photo JPEG n’a pas de points : ses pixels constituent l’original. Chaque fichier garde donc sa propre unité, et l’enregistrement indique laquelle.
Il reste un cas : l’OCR sur un PDF numérisé. Le projet produit une image de la page à 200 ppp (points par pouce), et l’OCR renvoie des cadres dans ces pixels. Un point vaut 1/72 de pouce, donc un pixel à 200 ppp vaut 72/200 = 0,36 point. Le projet multiplie chaque valeur en pixels par 0,36 et conserve le cadre en points, l’unité d’une page PDF.
Description textuelle du diagramme
Cinq façons de lire une valeur mènent à un seul enregistrement. La couche texte d’un PDF numérique fournit un cadre en points. L’OCR sur une photo fournit un cadre dans les pixels de la photo. L’OCR sur une page PDF numérisée lit un rendu à 200 ppp. Son cadre en pixels est donc multiplié par 72/200 et conservé en points. Une cellule de tableau a sa page et son cadre en points. Une cellule de feuille de calcul a sa feuille et son adresse, plus la plage fusionnée si elle fournit la valeur. L’enregistrement de preuve contient ces éléments, le chemin qui a lu la valeur et le texte vu à cet endroit. Il est conservé à côté de la valeur et peut être dessiné sur le fichier original.
Un petit exemple : un cadre, des pixels aux points
Section intitulée « Un petit exemple : un cadre, des pixels aux points »D019 est un reçu numérisé dans un PDF. Sa page mesure 612 × 792 points (une page au format lettre américain). Rendue à 200 ppp pour l’OCR, elle mesure 1 700 × 2 200 pixels. Les règles ont trouvé le total sur deux lignes d’OCR :
page 1700 x 2200 px at 200 dpilines: [('TOTAL', [793, 1612, 881, 1643]), ('CAD 278.88', [1196, 1609, 1354, 1638])]stored: Evidence(file='scan0001.pdf', page=1, box=[285.6, 579.2, 487.4, 591.5], unit='pt', sheet=None, cell=None, path='ocr', seen='TOTAL CAD 278.88')Suivez le calcul à la main. La preuve couvre les deux lignes, l’étiquette et le montant, parce qu’une personne les vérifie ensemble. Le cadre est donc le rectangle qui entoure les deux. En pixels : gauche 793, haut 1 609 (le bord supérieur le plus haut), droite 1 354, bas 1 643. Multipliez maintenant par 0,36. Haut : 1 609 × 0,36 = 579,2. Droite : 1 354 × 0,36 = 487,4. Bas : 1 643 × 0,36 = 591,5. (Le bord gauche, 285,6, vient de 793,3 pixels avant l’arrondi.) Le cadre conservé est en points, unit='pt', et seen garde le texte que l’OCR a lu à cet endroit.
Montrer d’où vient chaque valeur
Section intitulée « Montrer d’où vient chaque valeur »-
Affichez la preuve de chaque champ de D011, un reçu numérique :
Fenêtre de terminal python -m doc_extract.provenance D011vendor Larkfield found page 1, box [76, 23, 151, 37] ptorder_number LK-103119 found page 1, box [14, 102, 101, 111] ptdate 2026-08-22 found page 1, box [14, 89, 213, 98] ptcurrency CAD found page 1, box [14, 227, 213, 236] ptsubtotal 189.00 found page 1, box [14, 189, 213, 198] ptshipping absent (not_found) absent -tax 22.68 found page 1, box [14, 202, 213, 223] pttotal 211.68 found page 1, box [14, 227, 213, 236] ptpayment_method Cash found page 1, box [14, 252, 213, 261] ptboxes drawn on out/evidence/D011-text-p1.pngChaque valeur trouvée a une page et un cadre. Les frais d’expédition absents n’ont pas de cadre,
-: il n’y a rien à pointer, et l’enregistrement n’invente pas d’emplacement. Leur raison,not_found(non trouvé), n’est pas l’une des trois raisons du contrat. C’est ce que les règles écrivent quand aucune ligne ne correspond. Elles savent que la valeur manque, mais pas pourquoi. Ici, la vraie raison estnot_printed(non imprimé), car un reçu de caisse n’a pas de ligne d’expédition. Quand un champ obligatoire manque, Combiner les méthodes interroge le modèle, qui donne aussi une raison. Le cadre de la taxe couvre deux lignes (202 à 223 points) : GST et PST. La devise partage le cadre du total, parce que « CAD » est imprimé sur la ligne TOTAL. -
Ouvrez
out/evidence/D011-text-p1.png. Le projet a dessiné un cadre rouge et le nom du champ pour chaque valeur sur une image de la page. Les noms au bord droit sont coupés sur ce reçu étroit; ce sont les cadres que vous vérifiez. -
Regardez l’enregistrement que le pipeline conserve :
Fenêtre de terminal python -m doc_extract.provenance D011 --jsonVoici le total, tiré de la sortie réelle :
"total": {"value": "211.68","status": "found","reason": null,"evidence": {"file": "receipt-lk-103119.pdf","page": 1,"box": [14.2, 226.8, 212.6, 235.8],"unit": "pt","sheet": null,"cell": null,"path": "text","seen": "TOTAL CAD 211.68"}}Le terminal affiche chaque nombre de
boxsur une ligne distincte; c’est la même liste. -
Passez maintenant à la photo D036. La première exécution lit la page avec l’OCR, ce qui prend environ une seconde :
Fenêtre de terminal python -m doc_extract.provenance D036vendor Larkfield found page 1, box [492, 162, 791, 238] pxorder_number LK-706142 found page 1, box [252, 428, 660, 502] pxdate 2026-08-09 found page 1, box [255, 381, 991, 491] pxcurrency CAD inferred page 1, box [216, 1110, 915, 1210] pxsubtotal 880.00 found page 1, box [225, 988, 926, 1089] pxshipping absent (not_found) absent -tax 131.78 found page 1, box [220, 1029, 922, 1171] pxtotal 1011.78 found page 1, box [216, 1110, 915, 1210] pxpayment_method Cash found page 1, box [212, 1190, 905, 1289] pxboxes drawn on out/evidence/D036-ocr-p1.pngLes cadres utilisent les pixels de la photo
IMG_4817.jpgelle-même (1 200 × 1 600 pixels), pas d’une copie préparée. Les cadres sont hauts parce que la photo est inclinée : une ligne inclinée d’environ 5 degrés exige un rectangle plus haut.
L’enregistrement --json répond aux questions de la section sur le problème. Voici le texte vu pour quatre champs de D036 :
total 1011.78 found seen: 'TOTAL 1 011,78 $'payment_method Cash found seen: 'Cash 1 011,78'tax 131.78 found seen: 'TPS 5 % 44,00 + TVQ 9,975 % 87,78'currency CAD inferred seen: 'TOTAL 1 011,78 $'Le total a été lu sur la ligne TOTAL, pas sur la ligne du paiement comptant. La taxe montre les deux lignes qu’elle additionne. Et la devise porte la mention inferred (déduit) : « CAD » n’est pas imprimé. Les règles l’ont déduit du symbole « $ » sur un reçu de Montréal. La preuve montre la ligne sur laquelle cette conclusion repose.
Le même enregistrement pour les cellules de tableau et de feuille de calcul
Section intitulée « Le même enregistrement pour les cellules de tableau et de feuille de calcul »Une valeur provenant d’un tableau ou d’une feuille de calcul reçoit le même traitement. La liste de prix dans le PDF fournit une page et un cadre de cellule; la feuille de calcul fournit une feuille et une cellule :
python -m doc_extract.provenance D056python -m doc_extract.provenance D057SP-MIST: price each 36.00 CAD <- aquaflow-price-list.pdf, page 1, box [440, 708, 505, 727] ptSP-TRV: price each 89.00 CAD <- aquaflow-price-list.pdf, page 2, box [440, 108, 505, 127] ptSP-HOSE: price each 16.00 CAD <- aquaflow-price-list.pdf, page 2, box [440, 127, 505, 146] ptSP-BASE: price each 12.50 CAD <- aquaflow-price-list.pdf, page 2, box [440, 146, 505, 165] ptHR-30: price each 59 CAD <- aquaflow-price-list.xlsx, sheet Prices, cell E5HR-50: price each 119 CAD <- aquaflow-price-list.xlsx, sheet Prices, cell E6HR-15C: price each 34 CAD <- aquaflow-price-list.xlsx, sheet Prices, cell E7HR-30P: price each 79 CAD <- aquaflow-price-list.xlsx, sheet Prices, cell E8HR-50: category Hose reels <- sheet Prices, cell A6, merged range A5:A8La sortie PDF traverse le saut de page : SP-MIST est à la page 1, SP-TRV à la page 2. Chaque valeur indique sa page. L’unité CAD vient de l’en-tête de colonne, comme dans la leçon précédente. La dernière ligne demande de l’attention. La catégorie de HR-50 est dans la cellule A6, mais A6 est vide dans le fichier. La valeur se trouve dans A5, en haut de la plage fusionnée A5:A8. La preuve indique les deux. Un réviseur qui ouvre A6 et ne trouve rien comprend alors pourquoi.
Voici la correspondance du module entre chaque valeur et son emplacement, pour trois types de sources :

Description textuelle du diagramme
Chaque panneau montre une valeur, son emplacement d’origine et son enregistrement. À gauche, le total de la photo en français D036 est 1 011,78 : page 1 de IMG_4817.jpg, cadre [216, 1110, 915, 1210] dans les pixels de la photo, lu par OCR. Le cadre vert couvre l’étiquette TOTAL et le montant « 1 011,78 $ ». Au milieu, le prix unitaire de SP-TRV est 89,00 CAD : page 2 de aquaflow-price-list.pdf, cadre [440, 108, 505, 127] en points. Le cadre vert correspond à la cellule « Each » (à l’unité) de la première ligne de la page 2. À droite, la catégorie de HR-50 est « Hose reels » (dévidoirs) : feuille Prices, cellule A6 de aquaflow-price-list.xlsx. La cellule A6 elle-même est vide, encadrée en vert. La valeur vient de la plage fusionnée A5:A8, encadrée en orange, dont la valeur est conservée dans A5.
Amira, qui relie le pipeline au système de billets de soutien, pose la question pratique : « Qu’est-ce que je conserve? » Mei répond : « L’enregistrement, tel que --json l’affiche, à côté de la valeur. L’écran du billet peut ensuite dessiner le cadre quand un agent clique sur une valeur. Ça coûte quelques centaines d’octets par valeur; retrouver l’emplacement coûte une minute de travail humain. »
Quand conserver la provenance, et ce qu’elle coûte
Section intitulée « Quand conserver la provenance, et ce qu’elle coûte »Conservez-la toujours, pour chaque valeur, dès la première version du pipeline. Elle coûte peu au moment de l’extraction. La couche texte, l’OCR et les lecteurs de tableaux et de feuilles de calcul connaissent déjà l’emplacement de chaque valeur. provenance D011 prend environ 0,2 seconde, surtout pour dessiner l’image. L’ajouter plus tard coûte cher, parce que les emplacements sont perdus lorsque seules les valeurs sont sauvegardées.
La provenance a des limites, et l’enregistrement ne doit pas les cacher :
- Un cadre montre où le texte a été lu, pas que la valeur est correcte. Un cadre d’OCR autour d’un chiffre mal lu pointe au bon endroit avec une mauvaise valeur. C’est son utilité : une personne voit l’erreur immédiatement.
- Les cadres des règles couvrent des lignes entières. La preuve d’un total couvre l’étiquette et le montant. C’est utile pour une personne, mais moins précis qu’un cadre autour des chiffres seulement.
- Le modèle de vision ne fournit aucun cadre. Il faut trouver un emplacement sur la page pour ses valeurs. Dans Combiner les méthodes, le projet cherche la valeur du modèle dans les lignes d’OCR. Il marque comme non vérifiée une valeur qu’il n’y trouve pas.
- Une valeur déduite a une preuve de sa raison, pas d’elle-même. Le « CAD » de D036 n’est pas imprimé. Marquez-le
inferred, comme le fait le projet, pour que personne ne le cherche sur la page.
Erreur courante
Le cadre est dessiné au mauvais endroit
Symptôme : L’écran du billet montre D011 avec le cadre du total autour de la ligne d’article « 1 x 189.00 », plus haut sur le reçu. Un agent voit « total 211.68 » à côté d’un cadre autour de 189,00 et commence à douter d’une valeur correcte.
Cause : Le cadre est en points, [14.2, 226.8, 212.6, 235.8]. L’écran a produit un rendu de la page à 100 ppp et utilisé les nombres comme des pixels. Un point vaut 100/72 pixels à cette résolution. Chaque coordonnée est donc trop petite d’un facteur de 1,39. Le cadre s’est retrouvé entre 163 et 170 points, sur la ligne « 1 x 189.00 » :
total box in pt: [14.2, 226.8, 212.6, 235.8]drawn at 100 dpi, right: [20, 315, 295, 328] pxdrawn at 100 dpi, unit forgotten: [14, 227, 213, 236] px = in pt [10, 163, 153, 170]lines there: ['1 x 189.00', '189.00']
Description textuelle du diagramme
Les deux images montrent le même reçu rendu à 100 points par pouce. À gauche, le cadre du total a été converti des points aux pixels et entoure la ligne TOTAL avec CAD 211.68. À droite, les mêmes quatre nombres ont été utilisés comme des pixels. Chaque coordonnée est environ 28 % trop petite. Le cadre est donc plus haut et plus étroit, et entoure presque toute la ligne d’article « 1 x 189.00 ».
Diagnostic : Lisez l’unit de la preuve et la taille de l’image. Un cadre trop petit et trop proche du coin supérieur gauche indique un problème d’unité. Un cadre bien placé sur une page et mal placé sur une autre indique un problème de numéros de page.
Correction : Ne conservez jamais un cadre sans son unité, et convertissez-le au moment du dessin. Utilisez points × ppp / 72 pour une page PDF, et les pixels tels quels pour un fichier image. provenance.draw() fait exactement cela (k = DRAW_DPI / 72 pour pt). Testez le dessin sur une valeur connue, comme le fait test_absent_values_have_no_evidence_and_boxes_are_drawn.
Conséquence dans le travail en IA : une preuve erronée est pire qu’une absence de preuve. Elle semble probante, alors un réviseur lui fait confiance, ou cesse de faire confiance à tous les cadres.
À vous de jouer : un PDF numérisé plutôt qu’une photo
Section intitulée « À vous de jouer : un PDF numérisé plutôt qu’une photo »Changez une condition : exécutez la même commande sur D019, un reçu numérisé en PDF, plutôt que sur la photo D036. L’OCR lit les deux. Prédisez l’unité des rectangles et la taille de page nécessaire pour les tracer. Puis exécutez :
python -m doc_extract.provenance D019Afficher la réponse
vendor Larkfield found page 1, box [346, 377, 424, 390] pt order_number LK-853270 found page 1, box [285, 454, 374, 466] pt date 2026-07-04 found page 1, box [285, 441, 487, 454] pt currency CAD found page 1, box [286, 579, 487, 592] pt subtotal 249.00 found page 1, box [286, 541, 487, 554] pt shipping absent (not_found) absent - tax 29.88 found page 1, box [286, 552, 488, 578] pt total 278.88 found page 1, box [286, 579, 487, 592] pt payment_method Mastercard found page 1, box [285, 603, 487, 617] ptboxes drawn on out/evidence/D019-ocr-p1.pngL’unité est pt (point), même si l’OCR a lu des pixels. Le fichier est un PDF, donc son unité est le point. Les rectangles de l’OCR, en pixels à 200 ppp, ont été multipliés par 0,36. Pour les tracer, utilisez la page PDF (612 × 792 points) à n’importe quelle résolution, avec un facteur de ppp / 72. Tous les rectangles commencent près de x = 285 points, presque au milieu de la largeur de la page. Le reçu numérisé est une petite bande de papier au centre d’une page de numériseur au format lettre.
Vérification des connaissances
Section intitulée « Vérification des connaissances »Vérifiez votre compréhension
Expliquez à Tomás, avec D036, pourquoi « nous avons la valeur » ne suffit pas et ce qu'ajoute la fiche de preuve.
Afficher la réponse
Dans D036, le montant 1 011,78 apparaît deux fois : sur la ligne TOTAL et sur la ligne du paiement comptant. La valeur seule ne dit donc pas quelle ligne la règle a lue. La taxe de 131,78 n’est imprimée nulle part : c’est la somme de TPS 44,00 et de TVQ 87,78. Et la devise CAD est déduite du symbole « $ ». La fiche de preuve indique le fichier, la page, le rectangle en pixels de la photo et le texte observé. Un agent voit donc en quelques secondes d’où vient le total et quelles deux lignes composent la taxe. L’agent voit aussi que la devise est une conclusion. Sans cette fiche, chaque vérification commence par une recherche dans le document.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Vérifiez votre compréhension
Prédisez : le projet produit désormais les images des pages PDF à 300 ppp pour l'OCR, plutôt qu'à 200 ppp. Les rectangles stockés de D019 changent-ils?
Afficher la réponse
Très peu. L’OCR renverrait des rectangles en pixels à 300 ppp, avec des nombres environ 1,5 fois plus grands. Mais le projet les multiplie par 72/300 plutôt que par 72/200. Les rectangles stockés restent en points, donc aux mêmes endroits sur la page. Ils peuvent bouger d’une fraction de point, car l’OCR trace ses rectangles un peu différemment sur une image plus nette. C’est pourquoi le projet stocke des points pour les pages PDF : l’unité ne dépend pas de la résolution utilisée.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Vérifiez votre compréhension
Vérification pratique : exécutez python -m doc_extract.provenance D011 --json et trouvez la preuve de la taxe. Que contient « seen », et pourquoi le rectangle couvre-t-il deux lignes?
Afficher la réponse
seen (texte observé) contient GST 5% 9.45 + PST 7% 13.23. La taxe de D011 est la somme de deux lignes de taxe imprimées, GST 9,45 et PST 13,23. Donc, 22,68 n’est imprimé nulle part. La preuve couvre les deux lignes : le rectangle mesure [14.2, 201.8, 212.6, 223.3] points. Il va du haut de la ligne GST au bas de la ligne PST. Un réviseur voit les deux montants qui composent la valeur.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Récapitulatif du module
Section intitulée « Récapitulatif du module »Ce module a conservé la structure et la source de tout ce que le pipeline lit. Vous pouvez maintenant transformer une politique en blocs avec des chemins de sections et des notes de bas de page liées. Les éléments répétitifs de la page sont exclus. Vous pouvez aussi séparer un fichier en documents (Sections et hiérarchie). Vous pouvez reconstituer un tableau coupé par un saut de page, avec ses lignes d’en-tête, ses unités et ses cellules fusionnées. Vous pouvez aussi lire une feuille de calcul par ses cellules (Tableaux et feuilles de calcul). Et vous pouvez stocker la preuve de chaque valeur et la tracer sur l’original (cette leçon). Votre projet correspond à l’instantané end-of-m03 : python -m pytest -q affiche 77 passed (77 tests réussis). Seul README.md diffère : la version de l’instantané contient les commandes de ce module. Copiez-la depuis l’instantané si vous le souhaitez.
Exercice du module : un schéma pour un tableau sur deux pages
Section intitulée « Exercice du module : un schéma pour un tableau sur deux pages »Concevez un schéma pour un tableau qui s’étend sur deux pages. Un schéma définit la forme de l’enregistrement que le pipeline stocke pour chaque cellule. Grâce à lui, une personne peut vérifier chaque valeur sur la page.
Exercice guidé : la liste de prix AquaFlow dans le PDF
Section intitulée « Exercice guidé : la liste de prix AquaFlow dans le PDF »-
Énumérez ce qu’il faut pour le tableau entier, à partir de
tables D056. Il faut le fichier, les pages ([1, 2]), les lignes d’en-tête (2), les noms de colonnes et les unités (CADpour les deux prix). -
Choisissez une clé pour chaque ligne. Un numéro de ligne change quand le fournisseur ajoute un produit; le SKU ne change pas. La clé est donc le SKU.
-
Énumérez ce qu’il faut pour chaque cellule, à partir de la leçon précédente : la valeur imprimée, la page, le rectangle en points et
filled(remplie). Ajoutez l’unité de sa colonne. -
Écrivez le schéma et remplissez-le pour deux vraies cellules. Prenez le prix de SP-TRV, à la première ligne de la page 2, et la catégorie de HR-50, remplie depuis une cellule fusionnée. Les valeurs viennent de
provenance D056et du petit exemple de la leçon précédente :{"table": {"file": "aquaflow-price-list.pdf", "pages": [1, 2], "header_rows": 2,"columns": ["Category", "SKU", "Description", "Unit", "Price (CAD) / Each", "Price (CAD) / Case of 6"],"units": {"Price (CAD) / Each": "CAD", "Price (CAD) / Case of 6": "CAD"}},"cells": [{"row": "SP-TRV", "column": "Price (CAD) / Each", "value": "89.00", "unit": "CAD","page": 2, "box": [440, 108, 505, 127], "box_unit": "pt", "filled": false},{"row": "HR-50", "column": "Category", "value": "Hose reels", "unit": null,"page": 1, "box": [40, 138, 150, 214], "box_unit": "pt", "filled": true}]} -
Vérifiez le schéma face aux quatre problèmes du tableau. Les lignes d’en-tête sont décrites une seule fois, sans être stockées comme lignes. Les unités sont associées aux colonnes. Une cellule remplie l’indique et pointe vers le rectangle fusionné. Et chaque cellule a sa propre page : un tableau sur deux, trois ou dix pages ne nécessite aucun autre champ.
Exercice autonome : un produit, deux fichiers
Section intitulée « Exercice autonome : un produit, deux fichiers »Le service des achats reçoit la même liste en PDF et en feuille de calcul. Étendez le schéma pour qu’un enregistrement de produit contienne des valeurs de l’un ou l’autre fichier, avec les preuves appropriées. Remplissez-le pour SP-HOSE à partir des deux fichiers. Vous pouvez afficher les données nécessaires en Python avec tables.recover et sheets.read, comme dans la leçon précédente. Quelles valeurs diffèrent entre les deux fichiers, et comment l’enregistrement devrait-il le montrer?
Afficher une solution détaillée
Les vraies valeurs de SP-HOSE, obtenues avec les deux lecteurs :
pdf Category = Sprinklers | page 2 | box [40, 108, 150, 165] | filled Truepdf Price (CAD) / Each = 16.00 | page 2 | box [440, 127, 505, 146] | filled Falsepdf Price (CAD) / Case of 6 = 86.40 | page 2 | box [505, 127, 572, 146] | filled Falsesheet Category = Sprinklers | Prices!A37 | merged A31:A38sheet Price each (CAD) = 16 | Prices!E37 | merged -sheet Price per case (CAD) = 86.4 | Prices!F37 | merged -sheet Pack weight (kg) = 0.8 | Prices!G37 | merged -Un enregistrement par produit, une entrée par champ et une liste de sources par champ. Chaque source a sa propre forme de preuve : une page et un rectangle, ou une feuille et une cellule.
{ "sku": "SP-HOSE", "fields": { "price_each": {"value": "16.00", "unit": "CAD", "sources": [ {"file": "aquaflow-price-list.pdf", "page": 2, "box": [440, 127, 505, 146], "box_unit": "pt", "seen": "16.00"}, {"file": "aquaflow-price-list.xlsx", "sheet": "Prices", "cell": "E37", "seen": 16}]}, "category": {"value": "Sprinklers", "unit": null, "sources": [ {"file": "aquaflow-price-list.pdf", "page": 2, "box": [40, 108, 150, 165], "box_unit": "pt", "filled": true, "seen": "Sprinklers (cont.)"}, {"file": "aquaflow-price-list.xlsx", "sheet": "Prices", "cell": "A37", "merged": "A31:A38"}]}, "weight": {"value": "0.8", "unit": "kg", "sources": [ {"file": "aquaflow-price-list.xlsx", "sheet": "Prices", "cell": "G37", "seen": 0.8}]} }}Voici ce qui diffère entre les fichiers : le PDF imprime du texte (« 16.00 »), la feuille de calcul stocke un nombre (16). L’enregistrement stocke donc une valeur normalisée, et chaque source conserve ce qu’elle a observé. Le poids figure seulement dans la feuille de calcul, donc sa liste contient une seule source. La catégorie vient d’une cellule fusionnée dans les deux fichiers, et chaque source l’indique à sa façon. Le PDF a filled et le rectangle fusionné sur la page 2; la feuille de calcul a la plage fusionnée A31:A38. Quand deux sources sont en désaccord, l’enregistrement conserve les deux. C’est le début d’un conflit, que Combiner les méthodes transmet à une personne.
Vérification de fin : retrouver l’emplacement de chaque valeur
Section intitulée « Vérification de fin : retrouver l’emplacement de chaque valeur »Reliez chaque valeur structurée à un emplacement source que vous pouvez inspecter. Pour chaque valeur ci-dessous, donnez sa preuve, puis ouvrez cet emplacement et vérifiez la valeur sans chercher dans le document.
- D036 :
total 1011.78(total de 1 011,78). - D056 : SP-TRV,
price each 89.00(prix unitaire de 89,00). - D057 : HR-50,
category Hose reels(catégorie dévidoirs). - D054 : la note de bas de page « ² Prix en dollars canadiens, taxes incluses. » : à quel bloc appartient-elle, et où est ce bloc?
Afficher une solution détaillée
-
Total de D036.
IMG_4817.jpg, page 1, rectangle [216, 1110, 915, 1210] px, texte observéTOTAL 1 011,78 $. Ouvrezout/evidence/D036-ocr-p1.pngou la photo elle-même : le rectangle entoure la ligne TOTAL, pas celle du paiement comptant. -
Prix de SP-TRV.
aquaflow-price-list.pdf, page 2, rectangle [440, 108, 505, 127] pt. Vérifiez-le sans image : découpez ce rectangle de la page 2 avec pdfplumber et lisez son texte.import pdfplumberfrom doc_extract import documentswith pdfplumber.open(documents.get("D056").path) as pdf:print(repr(pdf.pages[1].crop((440, 108, 505, 127)).extract_text()))'89.00' -
Catégorie de HR-50.
aquaflow-price-list.xlsx, feuille Prices, cellule A6, plage fusionnée A5:A8. Ouvrez les cellules avec openpyxl :from openpyxl import load_workbookfrom doc_extract import documentsws = load_workbook(documents.get("D057").path)["Prices"]print("E6 =", ws["E6"].value, "| A5 =", ws["A5"].value, "| A6 =", ws["A6"].value)E6 = 119 | A5 = Hose reels | A6 = NoneA6 est vide dans le fichier et A5 contient la valeur : exactement ce que dit la preuve. E6 contient le prix de HR-50, soit 119.
-
Note de bas de page ². Elle appartient au paragraphe « Vous payez les frais de retour : 12,95 dollars² sont déduits du remboursement. ». Son chemin est
Returns policy > Return shipping costs(politique de retour, puis frais de retour). Il se trouve à la page 1, dans le rectangle [318, 329, 548, 356] pt, dans « À vous de jouer » de Sections et hiérarchie. La note elle-même est imprimée au bas de la colonne gauche, mais sa preuve suit son appel de note.
Chaque valeur a mené à un emplacement, et chaque emplacement a montré la valeur sans recherche. Une valeur dont vous ne pouvez pas ouvrir l’emplacement n’est pas traçable. Par exemple, une valeur de modèle sans rectangle, que le prochain module traite.
Récapitulatif
- La provenance indique d’où vient une valeur. Le projet stocke une fiche de preuve avec chaque valeur. Elle contient le fichier, la page et le rectangle englobant avec son unité, ou la feuille, la cellule et la plage fusionnée. Elle contient aussi le chemin et le texte observé.
- Les rectangles des pages PDF sont stockés en points, même après l’OCR d’une page numérisée (pixels × 72 / 200). Les rectangles des fichiers image restent en pixels du fichier original.
- La preuve répond à ce que la valeur seule ne peut pas dire. Elle indique lequel de deux montants imprimés a été lu, quelles lignes composent une taxe et quelles valeurs sont déduites. Une valeur absente n’a pas de rectangle.
- Tracez la preuve sur l’original (
out/evidence/) et faites toujours la conversion selon l’unité. Un rectangle dans la mauvaise unité ressemble à une preuve, mais pointe vers la mauvaise ligne. - Stockez la provenance dès la première version : c’est peu coûteux quand la valeur est lue, mais coûteux à retrouver ensuite.
Ensuite, le module 4 utilise le modèle de vision de façon réfléchie. Vous décidez quoi lui envoyer et quand l’appeler, et vous trouvez un emplacement sur la page pour ses réponses.
Leçon suivante : Conception des entrées et des requêtes