Cross-lingual embeddings for hate speech detection in comments

master's thesis

Rok Marinšek (Author), Marko Robnik Šikonja (Mentor), Alexander M. Fraser (Co-mentor)

Abstract

With the recent explosion of social media content, the amount of online hate speech is increasing, making it impossible to filter it manually. For automatic hate speech detection, a lot of annotated data is needed, which is mostly available for high-resource languages. In spite of data scarcity in low-resource languages, we want to detect hate speech in those languages. We use cross-lingual embeddings to achieve an acceptable performance in hate speech detection in a target language, using data from another language. We use hate speech comments from English, German, and Croatian. We use fastText word embeddings, align them with the RCSLS method, and achieve reasonable performance in 2 out of 6 language pairs. With Multilingual BERT, we improve upon this method, and achieve acceptable performance in 3 out of 6 language pairs.

Keywords

word embedding;cross-lingual embedding;deep learning;hate speech detection;natural language processing;RCSLS method;BERT language model;computer science;computer and information science;master's degree;

Data

Language:	English
Year of publishing:	2019
Typology:	2.09 - Master's Thesis
Organization:	UL FRI - Faculty of Computer and Information Science
Publisher:	[R. Marinšek]
UDC:	004.8:81(043.2)
COBISS:	1538458051
Views:	1064
Downloads:	380
Average score:	0 (0 votes)
Metadata:

Other data

Secondary language:	Slovenian
Secondary title:	Uporaba medjezičnih vektorskih vložitev za odkrivanje sovražnega govora v komentarjih
Secondary abstract:	V zadnjih letih se je z eksplozijo vsebin na družbenih medijih povišala količina sovražnega govora. Zaradi velike količine podatkov je ročno moderiranje sovražnih vsebin nemogoče. Trenutno za avtomatsko odkrivanje sovražnega govora najpogosteje uporabljamo nevronske mreže. Za njihovo učenje je potrebno veliko označenih primerov, ki so večinoma na voljo le za večje jezike, npr. za angleščino. Označenih podatkov za manjše jezike je načeloma malo. Vseeno bi želeli tudi v teh jezikih zaznavati sovražni govor. V tem delu s pomočjo medjezikovnih vložitev razvijemo metodo, ki ob prenosu dosega sprejemljive rezultate za ciljni jezik. Komentarji s sovražnim govorom so v angleščini, nemščini in hrvaščini. Uporabimo fastText vložitve, jih poravnamo z metodo RCSLS, in dosežemo sprejemljive rezultate za dva od šestih jezikovnih parov. Z modelom BERT izboljšamo to metodo in dosežemo sprejemljive rezultate za tri od šestih jezikovnih parov.
Secondary keywords:	vektorska vložitev;medjezikovna vložitev;globoko učenje;odkrivanje sovražnega govora;obdelava naravnega jezika;metoda RCSLS;jezikovni model BERT;računalništvo;računalništvo in informatika;magisteriji;
Type (COBISS):	Master's thesis/paper
Study programme:	1000471
Embargo end date (OpenAIRE):	1970-01-01
Thesis comment:	Univ. v Ljubljani, Fak. za računalništvo in informatiko
Pages:	VI, 63 str.
ID:	11287919