Lekce 20 - Neuronové sítě – Dense vrstva a optimalizátory
V minulé lekci, Neuronové sítě – Softmax a refaktoring, jsme se seznámili s funkcí Softmax a provedli další refaktoring.
V této lekci tutoriálu Neuronové sítě - Pokročilé se zaměříme na dense vrstvu a optimizéry.
Dense vrstva
Nadešel čas, abychom se věnovali naší poslední vrstvě. Připomeňme si, že logistická regrese měla vektor vah w, který byl vynásoben vektorem x obsahujícím atributy jednoho příkladu (nebo maticí v případě batch příkladů). Pro přístup one-vs-rest jsme měli několik logistických regresí. Když jsme pak zpracovávali příklady z datové sady, museli jsme je předat každému neuronu. Jak se ukázalo, můžeme spojit váhy všech neuronů dohromady do matice vah: 𝕎. Kromě toho můžeme přidat bias explicitně a zbavit se dodatečné 1, kterou jsme doplňovali ke každému příkladu. V důsledku toho můžeme celou logistickou regresi pro více tříd vyjádřit následujícím vzorcem:
CrossEntropy(softmax(𝕏𝕎+𝕓))
Vrstva, která je zodpovědná za lineární kombinaci (𝕏𝕎+𝕓), se nazývá dense vrstva, nebo také fully-connected vrstva. Právě na ni se nyní zaměříme. Zbývající prvky vrstvy jako softmax a cross entropy již máme z minulých lekcí.
...konec náhledu článku...
Pokračuj dál
Došel jsi až sem a to je super! Věříme, že ti první lekce ukázaly něco nového a užitečného.
Chceš v kurzu pokračovat? Přejdi do prémiové sekce.
Koupit pouze tento kurz
Získej okamžitý přístup ke kurzu bez
časového omezení.
475 Kč
Před koupí tohoto článku je třeba koupit předchozí díl
Obsah článku spadá pod licenci Premium, koupí článku souhlasíš se smluvními podmínkami.
- Přístup k jednotlivým lekcím dle způsobu pořízení.
- Kvalitní znalosti v oblasti IT.
- Dovednosti, které ti pomohou získat vysněnou a dobře placenou práci.
Popis článku
Požadovaný článek má následující obsah:
V tomto tutoriálu Pythonu pro pokročilé probereme dense vrstvu a optimizéry. Tyto znalosti budeme potřebovat pro naši první neuronovou síť.
Kredity získáš, když podpoříš naši síť. To můžeš udělat buď zasláním symbolické částky na podporu provozu nebo přidáním obsahu na síť.
