master's thesis
Juš Hladnik (Avtor), Marko Robnik Šikonja (Mentor)

Povzetek

Topic modeling is an unsupervised machine learning technique that aims to discover hidden semantic structures within large collections of text documents, thus facilitating the exploration and understanding of vast textual data. We conduct a comprehensive comparison of four popular topic modeling algorithms, namely LDA, NMF, Top2vec and BERTopic, in the context of the Slovenian language. To assess the performance of these algorithms we use topic coherence and topic diversity quantitative evaluation and additionally manually interpret extracted topics. Our results demonstrate that all models achieve higher topic coherence on the news corpus compared to tweets. While BERTopic is the only algorithm to produce satisfactory results on the tweets corpus, all models perform well on the news corpus. Furthermore, we introduce a novel method, MBTS (Maximum Bipartite Topic Similarity), for comparing the similarity of topic models and evaluating their stability. This method relies on semantic similarity and maximum graph bipartite matching. Our findings have important implications for the selection and application of topic modeling algorithms in the context of the Slovenian language. Moreover, the MBTS method opens up a new and important area of topic model stability evaluation.

Ključne besede

topic modeling;language models;Slovene language;topic model stability and similarity;natural language processing;transformer models;computer science;master's thesis;

Podatki

Jezik: Angleški jezik
Leto izida:
Tipologija: 2.09 - Magistrsko delo
Organizacija: UL FRI - Fakulteta za računalništvo in informatiko
Založnik: [J. Hladnik]
UDK: 004.8:81'322(043.2)
COBISS: 158061571 Povezava se bo odprla v novem oknu
Št. ogledov: 82
Št. prenosov: 27
Ocena: 0 (0 glasov)
Metapodatki: JSON JSON-RDF JSON-LD TURTLE N-TRIPLES XML RDFA MICRODATA DC-XML DC-RDF RDF

Ostali podatki

Sekundarni jezik: Slovenski jezik
Sekundarni naslov: Tematska analiza slovenskih novic in družbenih omrežij
Sekundarni povzetek: Modeliranje tem je nenadzorovana metoda strojnega učenja, ki si prizadeva odkriti skrite semantične strukture znotraj velikih zbirk dokumentov, s čimer omogoča raziskovanje in razumevanje obsežnih besedilnih podatkov. Celovito primerjamo štiri priljubljene algoritme za modeliranje tem, in sicer LDA, NMF, Top2vec in BERTopic, v kontekstu slovenskega jezika. Modele kvantitativno ovrednotimo z metrikama koherentnost tem in raznolikost tem, poleg tega odkrite teme tudi ročno pregledamo in interpretiramo. Naši rezultati kažejo, da vsi modeli dosegajo višjo koherenco tem na korpusu novic v primerjavi s tviti. Medtem ko algoritem BERTopic edini dosega zadovoljive rezultate na korpusu tvitov, na korpusu novic vsi modeli dosegajo dobre rezultate. Poleg tega predstavimo novo metodo, MBTS (največja dvostranska podobnost tem), za primerjavo podobnosti modelov za modeliranje tem in ocenjevanje njihove stabilnosti. Ta metoda temelji na semantični podobnosti in maksimalnem dvostranskem ujemanju grafov. Naše ugotovitve imajo pomembne posledice za izbiro in uporabo algoritmov za modeliranje tem v kontekstu slovenskega jezika. Poleg tega metoda MBTS odpira novo in pomembno področje evalvacije stabilnosti modelov za modeliranje tem.
Sekundarne ključne besede: modeliranje tem;jezikovni modeli;slovenščina;stabilnost in podobnost modelov za modeliranje tem;magisteriji;Obdelava naravnega jezika (računalništvo);Računalniško jezikoslovje;Strojno učenje;Računalništvo;Univerzitetna in visokošolska dela;
Vrsta dela (COBISS): Magistrsko delo/naloga
Študijski program: 1000471
Konec prepovedi (OpenAIRE): 1970-01-01
Komentar na gradivo: Univ. v Ljubljani, Fak. za računalništvo in informatiko
Strani: VIII, 68 str.
ID: 19212167