Deep Learning

Diep leren (ook bekend als diep gestructureerd leren) maakt deel uit van een bredere familie van machine learning-methoden op basis van kunstmatige neurale netwerken met representatief leren. Leren kan onder toezicht, semi-gesuperviseerd of niet-gesuperviseerd zijn.

Deep-learning architecturen zoals diepe neurale netwerken, diepe geloofsnetwerken, diep versterkend leren, terugkerende neurale netwerken en convolutionele neurale netwerken zijn toegepast op gebieden zoals computervisie, spraakherkenning, natuurlijke taalverwerking, machinevertaling, bio-informatica, medicijnontwerp, medische beeldanalyse, klimaatwetenschap, materiaalinspectie en bordspelprogramma's, waar ze resultaten hebben opgeleverd die vergelijkbaar zijn met en in sommige gevallen de prestaties van menselijke experts overtreffen.

Kunstmatige neurale netwerken (ANN's) werden geïnspireerd door informatieverwerking en gedistribueerde communicatieknooppunten in biologische systemen. ANN's hebben verschillende verschillen met biologische hersenen. Met name kunstmatige neurale netwerken zijn meestal statisch en symbolisch, terwijl het biologische brein van de meeste levende organismen dynamisch (plastisch) en analoog is.

Het adjectief "deep" in deep learning verwijst naar het gebruik van meerdere lagen in het netwerk. Vroeg werk toonde aan dat een lineair perceptron geen universele classificator kan zijn, maar dat een netwerk met een niet-polynomiale activeringsfunctie met één verborgen laag van onbeperkte breedte dat wel kan. Deep learning is een moderne variant die zich bezighoudt met een onbeperkt aantal lagen van begrensde grootte, die praktische toepassing en geoptimaliseerde implementatie mogelijk maakt, terwijl theoretische universaliteit behouden blijft onder milde omstandigheden. Bij deep learning mogen de lagen ook heterogeen zijn en sterk afwijken van biologisch geïnformeerde connectionistische modellen, omwille van efficiëntie, trainbaarheid en begrijpelijkheid, vandaar het "gestructureerde" deel.