Razlaga v umetni inteligenci na podlagi strojnega učenja iz človeških razlag

magistrsko delo

Timotej Volavšek (Avtor), Ivan Bratko (Mentor)

Povzetek

Zaradi hitrega razvoja in vsak dan širše prisotnih praktičnih aplikacij umetne inteligence se vse bolj pojavlja tudi potreba po razumljivosti inteligentnih sistemov. S tem problemom se ukvarja področje razložljive umetne inteligence, ki stremi k razvoju umetne inteligence z zmožnostjo razlage svojih odločitev na človeku razumljiv način. Zanimalo nas je, ali lahko s strojnim učenjem na podlagi človeških razlag rešitev nalog planiranja sestavimo algoritem za avtomatsko generiranje razlag planov. S tem namenom smo izvedli poskus, v katerem so udeleženci razložili svoje odločitve tekom reševanja problemov iz domene sveta kock. Njihove razlage smo pretvorili v obliko, primerno za strojno učenje, in jih uporabili za indukcijo odločitvenega drevesa. Na podlagi naučenega klasifikatorja lahko algoritem za planiranje nato izbere ustrezno vrsto razlage za vsako svojo akcijo. Tako dobimo razlage, ki so bolj podobne človeškim in posledično bolj razumljive. Razložljiva umetna inteligenca na podlagi učenja iz človeških razlag je na področju planiranja še neraziskana ideja. Naši rezultati predstavljajo prvi poskus s tem pristopom. Odpirajo tudi možnost številnih praktičnih aplikacij na drugih, bolj kompleksnih domenah planiranja.

Ključne besede

razložljiva umetna inteligenca;planiranje;razložljivo planiranje;strojno učenje;svet kock;človeške razlage;

Podatki

Jezik:	Slovenski jezik
Leto izida:	2021
Tipologija:	2.09 - Magistrsko delo
Organizacija:	UL PEF - Pedagoška fakulteta
Založnik:	[T. Volavšek]
UDK:	004.89(043.2)
COBISS:	72797187
Št. ogledov:	209
Št. prenosov:	10
Ocena:	0 (0 glasov)
Metapodatki:

Ostali podatki

Sekundarni jezik:	Angleški jezik
Sekundarni naslov:	Explanation in artificial intelligence based on machine learning from human explanations
Sekundarni povzetek:	The fast progress in artificial intelligence (AI), combined with the constantly widening scope of its practical applications also necessitates the need for AI to be understandable to humans. This issue is the key focus of the field of Explainable AI, which aims to develop approaches to AI which would make its decisions and actions more comprehensible to humans interacting with it. We used machine learning from examples of human explanations to develop an algorithm which can automatically generate explanations of its problem-solving process in natural language. Specifically, it explains plans in the blocks world domain. We recorded human participants explaining the reasons for their actions as they solved blocks world problems, and transformed their explanations into a form which could then be used for machine learning. We used these examples to induce a classifier which our planner can use to select an appropriate explanation in any given situation. The use of machine learning from human explanations is a hitherto unexplored idea in explainable planning. Our results represent the first demonstration of this approach. This opens the possibility of numerous practical applications on other, more complex planning domains.
Sekundarne ključne besede:	cognitive psychology;artificial intelligence;kognitivna psihologija;umetna inteligenca;
Vrsta datoteke:	application/pdf
Vrsta dela (COBISS):	Magistrsko delo/naloga
Komentar na gradivo:	Univ. v Ljubljani, Skupni interdisciplinarni študijski program druge stopnje Kognitivna znanost, v sodelovanju z Universität Wien, Univerzita Komenského v Bratislave in Eötvös Loránd Tudományegyetem
Strani:	48 str.
ID:	13230095