magistrsko delo
Jure Žerak (Avtor), Sašo Karakatič (Mentor)

Povzetek

Magistrsko delo ima namen preizkusiti metodo prenosnega učenja na obdelavi naravnega jezika in jo primerjati s klasičnimi metodami učenja nevronskih mrež, metodo LSTM. V delu sta uporabljena opisna metoda za teoretični in eksperiment za praktični del dela. V slednjem smo ugotovili, da je metoda prenosnega učenja na majhni količini podatkov bolj točna od klasičnih metod, vendar za to potrebuje več časa. Delo primerja prednaučeni model Bert in klasično metodo LSTM, zato je priporočljivo primerjati rezultate tudi z drugimi prednaučenimi modeli in klasičnimi metodami.

Ključne besede

nevronske mreže;prenosno učenje;klasifikacija besedila;magistrske naloge;

Podatki

Jezik: Slovenski jezik
Leto izida:
Tipologija: 2.09 - Magistrsko delo
Organizacija: UM FERI - Fakulteta za elektrotehniko, računalništvo in informatiko
Založnik: [J. Žerak]
UDK: 004.85(043.2)
COBISS: 44103683 Povezava se bo odprla v novem oknu
Št. ogledov: 362
Št. prenosov: 72
Ocena: 0 (0 glasov)
Metapodatki: JSON JSON-RDF JSON-LD TURTLE N-TRIPLES XML RDFA MICRODATA DC-XML DC-RDF RDF

Ostali podatki

Sekundarni jezik: Angleški jezik
Sekundarni naslov: Classification of text using transfer learning
Sekundarni povzetek: The aim of this Master's thesis is to test the method of transfer learning with natural language processing and to compare it to a standard neural network model, namely LSTM. The thesis is using the descriptive method for the theoretical part and experimental method for the practical part. In the experiment we have discovered that, while transfer learning is more accurate than the standard model, it is also slower in the learning process. The thesis compares only the pretrained model Bert and standard model LSTM and that is why it is recommended to also check other pretrained models and standard models for comparison.
Sekundarne ključne besede: neural networks;transfer learning;NLP;PyTorch;LSTM;
Vrsta dela (COBISS): Magistrsko delo/naloga
Komentar na gradivo: Univ. v Mariboru, Fak. za elektrotehniko, računalništvo in informatiko, Informatika in tehnologije komuniciranja
Strani: IX, 64 f.
ID: 12104482