Izgradnja podpore za slovenščino v okolju Spacy

diplomsko delo

Luka Dragar (Author), Marko Robnik Šikonja (Mentor)

Abstract

Predstavljen je postopek izgradnje podpore za slovenščino v okolju Spacy, ki je ena najpopularnejših knjižnic za obdelavo naravnega jezika. Opisane so osnovne funkcionalnosti orodij za obdelavo naravnega jezika in predsta- vljene nekatere obstoječe knjižnice, modeli ter korpusi s tega področja. Po- drobneje je predstavljeno okolje Spacy in njegova implementacija cevovoda za označevanje besedil. Praktični del obsega izdelavo novih modelov za le- matizacijo, oblikoskladenjsko označevanje, skladenjsko razčlenjevanje in pre- poznavanje imenskih entitet v standardnem in nestandardnem slovenskem jeziku. Ena od komponent izdelave so besedni vektorji, ki jih generiramo iz obstoječih prosto dostopnih korpusov. Modeli strojnega učenja so ustvarjeni s pomočjo odprtokodne knjižnice Thincc. Opisan je postopek konfiguracije in treniranja modelov na ročno označenih učnih množicah ssj500k (za stan- dardno slovenščino) in Janes-Tag (za nestandardno slovenščino). Zgrajene komponente ovrednotimo s primerjavo hitrosti ter natančnosti že obstoječih modelov.

Keywords

označevanje besedil;Spacy;korpus;besedni vektorji;interdisciplinarni študij;univerzitetni študij;diplomske naloge;

Data

Language:	Slovenian
Year of publishing:	2022
Typology:	2.11 - Undergraduate Thesis
Organization:	UL FRI - Faculty of Computer and Information Science
Publisher:	[L. Dragar]
UDC:	004.8:81'322.2(043.2)
COBISS:	121780227
Views:	446
Downloads:	86
Average score:	0 (0 votes)
Metadata:

Other data

Secondary language:	English
Secondary title:	Building support for Slovene in Spacy library
Secondary abstract:	We present the implementation of the Slovenian annotation pipeline in Spacy, which is one of the most popular libraries for natural language processing. We outline some of the existing tools, models and corpora. Spacy and it’s low-level pipeline for language annotations are described in detail. We imple- mentint new models for lemmatization, part-of-speech tagging, dependency parsing and named entity recognition for Slovenian. We generate static word embeddings from existing and publicly available corpora. The models are built using neural networks and the open source library Thincc. We describe the configuration and training of the models on two public corpora, ssj500k (for standard Slovenian) and Janes-Tag (for nonstandard Slovenian). The models are evaluated and compared to existing tools.
Secondary keywords:	natural language processing;text annotation;Spacy;corpus;word embeddings;computer science;computer and information science;computer science and mathematics;interdisciplinary studies;diploma;Obdelava naravnega jezika (računalništvo);Strojno učenje;Računalništvo;Univerzitetna in visokošolska dela;
Type (COBISS):	Bachelor thesis/paper
Study programme:	1000407
Embargo end date (OpenAIRE):	1970-01-01
Thesis comment:	Univ. v Ljubljani, Fak. za računalništvo in informatiko
Pages:	39 str.
ID:	16391546