Základné piliere algoritmov. Lineárna algebra a kalkulus v praxi strojového učenia.
Dáta v strojovom učení nie sú ničím iným ako vektormi a maticami. Lineárna algebra umožňuje efektívne spracovanie miliónov vstupných parametrov súčasne prostredníctvom maticových operácií. Bez pochopenia tenzorov a transformácií nie je možné konfigurovať moderné neurónové siete.
Kľúčové koncepty: Skalárny súčin, vlastné čísla, dekompozícia matíc (SVD).
Reprezentácia objektov v multidimenzionálnom priestore pre výpočet podobnosti.
Základný mechanizmus pre dopredný chod algoritmov a váženie vstupov.
Strojové učenie je v jadre predpovedanie pravdepodobnosti výskytu určitého javu. Bayesovská štatistika nám umožňuje aktualizovať hypotézy na základe nových prichádzajúcich dát. Tieto princípy sú kritické pre pochopenie toho, ako funguje učenie s učiteľom pri klasifikačných úlohách.
Pracujeme s distribúciami, rozptylom a strednou hodnotou, aby sme eliminovali šum v dátach a identifikovali reálne vzorce správania systému.
Optimalizácia je proces minimalizácie chybovej funkcie. Diferenciálny počet, konkrétne derivácie a gradienty, nám hovoria, akým smerom a o koľko musíme upraviť parametre modelu, aby sme dosiahli presnejší výsledok. Gradientný zostup je motorom takmer každého moderného ML algoritmu.
Bez matematickej optimalizácie by učenie trvalo neúmerne dlho alebo by nikdy nedosiahlo globálne minimum chybovej plochy. Pre efektívny výpočet týchto operácií je nutný správny hardvérový stack.