magistrsko delo
Matic Bobnar (Avtor), Sašo Karakatič (Mentor)

Povzetek

V magistrskem delu raziskujemo vlogo velikih jezikovnih modelov v vzponu generativne umetne inteligence. Predstavimo osnovne koncepte, kot so transformerji, žetoni in vektorske reprezentacije, ter opisujemo ključne prednosti, slabosti in izzive z generativnimi modeli. Posebno pozornost namenjamo izzivom varnosti, kot so pozivni injekcijski napadi. Podrobno analiziramo delovanje teh napadov, njihove vrste in predstavimo možne pristope za obrambo pred njimi. V okviru eksperimenta prikazujemo izdelavo spletne ankete, ki implementira različne jezikovne modele. S pomočjo pridobljenih podatkov iz ankete nato analiziramo občutljivost posameznih modelov na različne intenzitete injekcijskih napadov ter preučujemo njihove vplive na uporabniške dimenzije, kot so uporabnost, točnost, razumljivost in relevantnost. Na koncu ugotavljamo, kateri modeli se najbolje odzivajo na napade in predstavljajo najvarnejšo uporabo.

Ključne besede

generativna umetna inteligenca;generativni modeli;veliki jezikovni modeli;pozivni injekcijski napadi;inženering pozivov;magistrske naloge;

Podatki

Jezik: Slovenski jezik
Leto izida:
Tipologija: 2.09 - Magistrsko delo
Organizacija: UM FERI - Fakulteta za elektrotehniko, računalništvo in informatiko
Založnik: [M. Bobnar]
UDK: 004.8.056(043.2)
COBISS: 226895619 Povezava se bo odprla v novem oknu
Št. ogledov: 0
Št. prenosov: 12
Ocena: 0 (0 glasov)
Metapodatki: JSON JSON-RDF JSON-LD TURTLE N-TRIPLES XML RDFA MICRODATA DC-XML DC-RDF RDF

Ostali podatki

Sekundarni jezik: Angleški jezik
Sekundarni naslov: Prompt injection attacks on large language models
Sekundarni povzetek: In the master's thesis, we explore the role of large language models in the rise of generative artificial intelligence. We present fundamental concepts such as transformers, tokens, and vector representations, and describe the key advantages, disadvantages, and challenges of generative models. Special attention is given to security challenges, such as prompt injection attacks. We analyze the functioning of these attacks in detail, their types, and propose possible defense approaches. As part of the experiment, we develop an online survey application that implements various language models. Using the data collected from the survey, we analyze the sensitivity of individual models to different intensities of injection attacks and examine their impacts on user dimensions such as usability, accuracy, understandability, and relevance. Finally, we identify which models respond best to the attacks and represent the most secure usage.
Sekundarne ključne besede: generative artificial intelligence;generative models;large language models;prompt injection attacks;prompt engeneering;
Vrsta dela (COBISS): Magistrsko delo/naloga
Komentar na gradivo: Univ. v Mariboru, Fak. za elektrotehniko, računalništvo in informatiko, Informatika in podatkovne tehnologije
Strani: 1 spletni vir (1 datoteka PDF (XVII, 72 str.))
ID: 25750865