Lekce 15 - Neuronové sítě – Křížová entropie

V minulé lekci, Neuronové sítě - K-fold a refaktoring, jsme probrali křížovou validaci K-fold a refaktorovali jsme naši třídu Neuron.

V této lekci tutoriálu Neuronové sítě - Pokročilé probereme ztrátové funkce křížová entropie a binární křížová entropie. V praxi se tyto funkce běžně označují jako cross entropy a binary cross entropy, a proto budeme anglické názvy používat také.

Importy, které budeme potřebovat jsou:

import numpy as np
import matplotlib.pyplot as plt
import sklearn.datasets, sklearn.model_selection

Cross-entropy loss

Doposud jsme používali Mean-Squared error (MSE) loss funkci. V této lekci tutoriálu si ukážeme detailněji cross-entropy loss funkci, která je vhodnější pro klasifikační problémy. MSE je preferovanou ztrátou, pokud provádíme regresi (snažíme se předpovědět reálné číslo), ale pro klasifikační úlohu, kdy bychom měli předpovědět, ze které třídy příklad pochází, je křížová entropie mnohem lepší. Proč tomu tak je, si nyní vysvětlíme.

...konec náhledu článku...
Pokračuj dál