magistrsko delo
Povzetek
Zaradi nedefiniranosti procesov odločanja globokih nevronskih mrež in njihovega dolgotrajnega učenja predstavlja določitev prenesenega znanja ključen izziv pri implementaciji učinkovite detekcije objektov na novih domenah. Preneseno znanje opredeljuje struktura plasti nevronske mreže, nad katerimi izgradimo nov model, ter izbira plasti, ki jim med učenjem zamrznemo vrednosti uteži. V magistrskem delu analiziramo vpliv števila zamrznjenih plasti na uspešnost učenja s prenosom znanja. V prvem delu opišemo tehnike prenosa znanja ter podamo formalno definicijo detekcije objektov, pri čemer opredelimo poznane metode in izpostavimo ključne izzive, povezane z njimi. Nato predstavimo izveden eksperiment, v katerem primerjamo uspešnost štirih konfiguracij pri prenosu znanja na modelu YOLOv4 na štiri različne ciljne domene. Ugotovimo, da so pri različnih ciljnih domenah uspešne različne konfiguracije, ki so odvisne od stopnje podobnosti izvorne in ciljne domene ter plasti izvornega modela, na kateri je določena značilka izluščena. Čeprav predstavljeni rezultati kažejo nemožnost predvidevanja optimalne konfiguracije prenosa znanja, izveden eksperiment nakazuje, da je učenje tudi v primeru neoptimalnega prenosa znanja uspešnejše od učenja brez prenosa znanja.
Ključne besede
učenje s prenosom znanja;prenos znanja;detekcija objektov;obdelava videoposnetkov;globoko učenje;magistrske naloge;
Podatki
Jezik: |
Slovenski jezik |
Leto izida: |
2022 |
Tipologija: |
2.09 - Magistrsko delo |
Organizacija: |
UM FERI - Fakulteta za elektrotehniko, računalništvo in informatiko |
Založnik: |
[M. Žalik] |
UDK: |
004.853:[004.81:159.953.5](043.2) |
COBISS: |
113505027
|
Št. ogledov: |
119 |
Št. prenosov: |
36 |
Ocena: |
0 (0 glasov) |
Metapodatki: |
|
Ostali podatki
Sekundarni jezik: |
Angleški jezik |
Sekundarni naslov: |
Analysis of the efficiency of transfer learning for object detection |
Sekundarni povzetek: |
Due to the unexplainability of the decision-making processes within deep neural networks and their long training times, determining the suitable knowledge to transfer represents a key challenge in their usage in new domains. The transferred knowledge is determined by the structure of the layers, over which a new model is built, and the choice of the layers with frozen weights during training. In the master's thesis, the influence of the number of frozen layers on the success of learning through knowledge transfer is analyzed. For this purpose, we first examine knowledge transfer techniques in the context of object detection, together with key methods and challenges associated with them. Afterwards, the performed experiment is presented, in which the performance of four transfer learning configurations to four different target domains is compared on the YOLOv4 model. Based on the conducted experiment, we conclude that different configurations are successful for different target domains, depending on the degree of similarity between the source and target domains and the layer of the source model where a particular feature is extracted. Although the presented results show the impossibility of predicting the optimal configuration of knowledge transfer in advance, the performed experiment suggests that transfer learning is more successful than learning without knowledge transfer even in the case of suboptimal transfer learning configuration. |
Sekundarne ključne besede: |
transfer learning;knowledge transfer;object detection;video processing;deep learning; |
Vrsta dela (COBISS): |
Magistrsko delo/naloga |
Komentar na gradivo: |
Univ. v Mariboru, Fak. za elektrotehniko, računalništvo in informatiko, Računalništvo in informacijske tehnologije |
Strani: |
1 spletni vir (1 datoteka PDF (XVII, 49 f.)) |
ID: |
15538448 |