diplomsko delo
Povzetek
Nestrukturirani dokumenti zajemajo informacije v oblikah in postavitvah, ki se lahko od enega primerka do drugega razlikujejo, kar lahko oteži in podraži nalogo pridobivanja informacij. Kot rešitev se je v zadnjih letih za razumevanje dokumentov na področju dokumentne inteligence pričela uporaba nevronskih jezikovnih modelov, usposobljenih na učnih množicah dokumentov. V diplomskem delu za pridobivanje informacij iz skeniranih trgovinskih računov uporabljamo prehodno učeni nevronski jezikovni model, zgrajen iz transformatorjev. Model je natančno učen z uporabo učne množice SROIE za izluščitev štirih kategorij, tj. imen in naslovov trgovin, datumov in skupnih cen. Za pridobivanje informacij smo uporabili prepoznavo imenskih entitet. Za primerjavo izvajamo poskuse s spreminjanem hiperparametrov modela. S spremembo nevronskega jezikovnega modela smo pri poskusih dosegli največjo
natančnost klasifikacije: 96,7 %.
Ključne besede
dokumentna inteligenca;obdelava naravnih jezikov;prepoznava imenskih entitet;jezikovni modeli;transformatorji;diplomske naloge;
Podatki
Jezik: |
Slovenski jezik |
Leto izida: |
2021 |
Tipologija: |
2.11 - Diplomsko delo |
Organizacija: |
UM FERI - Fakulteta za elektrotehniko, računalništvo in informatiko |
Založnik: |
[U. Knupleš] |
UDK: |
004.652.8(043.2) |
COBISS: |
95975171
|
Št. ogledov: |
274 |
Št. prenosov: |
20 |
Ocena: |
0 (0 glasov) |
Metapodatki: |
|
Ostali podatki
Sekundarni jezik: |
Angleški jezik |
Sekundarni naslov: |
Named entity recognition on unstructured documents using neural language models |
Sekundarni povzetek: |
Layouts and formats of information, in unstructured documents, can differ from one another and can make the extraction of information difficult and costly. Therefore, in recent years, the field of document intelligence began with the usage of neural language models trained on datasets of documents for document understanding. In the thesis, we adopt a pre-trained neural language model based on transformers, for information extraction out of scanned store invoices. The model is fine-tuned, using the SROIE dataset, based on four categories to extract store names and addresses, dates and total prices. For information extraction we used named entity recognition to classify tokens into the four prementioned categories. We conducted experiments using altered hyperparameters of the model for comparison. With the usage of the fine-tuned, altered neural language model, we achieved a maximum classification accuracy score of 96.7 %. |
Sekundarne ključne besede: |
Document intelligence;natural language processing;named entity recognition;langauge models;transformers; |
Vrsta dela (COBISS): |
Diplomsko delo/naloga |
Komentar na gradivo: |
Univ. v Mariboru, Fak. za elektrotehniko, računalništvo in informatiko, Računalništvo in informacijske tehnologije |
Strani: |
IX, 35 str. |
ID: |
13344285 |