Detail publikace

A Survey on Stability of Learning with Limited Labelled Data and its Sensitivity to the Effects of Randomness

PECHER Branislav, SRBA Ivan a BIELIKOVÁ Mária. A Survey on Stability of Learning with Limited Labelled Data and its Sensitivity to the Effects of Randomness. ACM Computing Surveys, roč. 57, č. 1, 2024, s. 1-40. ISSN 0360-0300. Dostupné z: https://dl.acm.org/doi/10.1145/3691339?cid=81474695895
Název česky
Prieskum stability učenia s obmedzenými označenými údajmi a jeho citlivosti na vplyvy náhodnosti
Typ
článek v časopise
Jazyk
angličtina
Autoři
Pecher Branislav, Ing. (UPGM FIT VUT)
Srba Ivan ()
Bieliková Mária, prof. Ing., PhD. (UPGM FIT VUT)
URL
Abstrakt

Učenie s obmedzenými označenými údajmi, ako sú prompting, učenie v kontexte, doladenie (fine-tuning), meta-učenie alebo učenie s malým počtom príkladov (few-shot learning), sa zameriava na efektívne trénovanie modelu pomocou iba malej množiny označených vzoriek. Tieto prístupy však vykazujú nadmernú citlivosť na účinky nekontrolovanej náhodnosti spôsobenej nedeterministickými procesmi počas trénovania. Táto náhodnosť negatívne ovplyvňuje stabilitu modelov, čo vedie k veľkým rozdielom vo výsledkoch medzi jednotlivými spusteniami trénovania. Ak je táto citlivosť ignorovaná, môže neúmyselne, ale bohužiaľ aj úmyselne, vytvárať falošný dojem o pokroku vo výskume. Táto oblasť výskumu nedávno začala priťahovať pozornosť a počet relevantných štúdií neustále rastie. V tomto prieskume poskytujeme komplexný prehľad 415 prác, ktoré sa zaoberajú účinkami náhodnosti na stabilitu učenia s obmedzenými označenými údajmi. Rozlišujeme štyri hlavné úlohy riešené v týchto prácach (skúmať/hodnotiť; určiť; zmierniť; porovnávať/zaznamenávať účinky náhodnosti) a uvádzame zistenia pre každú z nich. Navyše identifikujeme a diskutujeme sedem výziev a otvorených problémov spolu s možnými smermi na podporu ďalšieho výskumu. Hlavným cieľom tohto prieskumu je zdôrazniť dôležitosť tejto rastúcej oblasti výskumu, ktorá doteraz nezískala primeranú pozornosť, a ukázať významné smery pre budúci výskum.

Rok
2024
Strany
1-40
Časopis
ACM Computing Surveys, roč. 57, č. 1, ISSN 0360-0300
Kniha
ACM Computing Surveys
Vydavatel
Association for Computing Machinery
DOI
10.1145/3691339
BibTeX 
@ARTICLE{FITPUB12956,
   author = "Branislav Pecher and Ivan Srba and M\'{a}ria Bielikov\'{a}",
   title = "A Survey on Stability of Learning with Limited Labelled Data and its Sensitivity to the Effects of Randomness",
   pages = "1--40",
   booktitle = "ACM Computing Surveys",
   journal = "ACM Computing Surveys",
   volume = 57,
   number = 1,
   year = 2024,
   publisher = "Association for Computing Machinery",
   ISSN = "0360-0300",
   doi = "10.1145/3691339",
   language = "english",
   url = "https://www.fit.vut.cz/research/publication/12956"
}
Nahoru