magistrsko delo
Povzetek
Cilj magistrskega dela je razvoj metodologije za določanje protipomenk in sopomenk besed za njihove različne pomene. Zanima nas odogovor na vprašanje, ali sta dani besedi v določenih pomenih sopomenki oziroma ali sta potipomenki. Naš pristop vključuje gručenje množice stavkov z dano besedo po njenih pomenih, določanje ustreznega para pomenov kandidatnega para besed ter dva ločena modela za klasifikacijo parov sopomenk oziroma protipomenk v kontekstu. Pri tem uporabljamo kontekstualne vektorske vložitve besed tipa BERT, ki predstavljajo tako informacije o besedi kot tudi o njenem kontekstu. Vse našteto ima potencialno rabo v slovaropisju, pri strojnem prevajanju besedil, avtomatskem povzemanju besedil in ekstrakciji podatkov iz besedila.
Najbolje ocenjeno gručenje besed po pomenih dosega povprečno oceno ARI 0.30. Najboljša metoda za določanje sopomenskega para pomenov dosega klasifikacijsko točnost 0.78 za sopomenke in 0.73 za protipomenke. Model na osnovi modela CroSloEngual BERT, ki najbolje določa protipomenke, dosega 90-% preciznost in 61-% priklic ter 60-% klasifikacijsko točnost, model, ki najbolje določa sopomenke, pa ima 99-% preciznost, 50-% priklic in 51-% točnost.
Ključne besede
protipomenke;sopomenke;vektorske vložitve besed;model BERT;magisteriji;
Podatki
Jezik: |
Slovenski jezik |
Leto izida: |
2022 |
Tipologija: |
2.09 - Magistrsko delo |
Organizacija: |
UL FRI - Fakulteta za računalništvo in informatiko |
Založnik: |
[J. Pegan] |
UDK: |
004.8:81'322(043.2) |
COBISS: |
124811523
|
Št. ogledov: |
23 |
Št. prenosov: |
11 |
Ocena: |
0 (0 glasov) |
Metapodatki: |
|
Ostali podatki
Sekundarni jezik: |
Angleški jezik |
Sekundarni naslov: |
Semantic detection of synonyms and antonyms with contextual embeddings |
Sekundarni povzetek: |
The goal of this work is to develop a methodology for sense-based synonym and antonym detection. We are seeking to answer the question whether pairs of words in given contexts are synonyms or antonyms.
Our approach includes sense clustering on a set of words in contexts, determining a matching sense of a candidate word pair, and two separate models for contextual synonym and antonym classification. We use contextual word embeddings from BERT models which represent information on words and their context. Everything listed has a potential use in lexicography, machine text translation, automated text summarization and information extraction.
Best scored word sense clustering achieves average ARI score of 0.30. Our best methodology for determining sense pairs reaches classification accuracy of 0.78 on synonyms and 0.73 on antonyms. The best CroSloEngual BERT-based model for antonym detection has 90 % precision, 61 % recall and 60 % accuracy, the best model for synonym detection has 99 % precision, 50 % recall in 51 % accuracy. |
Sekundarne ključne besede: |
antonyms;synonyms;word embeddings;BERT model;natural language processing;computer science;computer and information science;master's degree;Obdelava naravnega jezika (računalništvo);Računalniško jezikoslovje;Računalništvo;Univerzitetna in visokošolska dela; |
Vrsta dela (COBISS): |
Magistrsko delo/naloga |
Študijski program: |
1000471 |
Konec prepovedi (OpenAIRE): |
1970-01-01 |
Komentar na gradivo: |
Univ. v Ljubljani, Fak. za računalništvo in informatiko |
Strani: |
78 str. |
ID: |
16608115 |