kramann.info
© Guido Kramann

Deep Learning

(EN google-translate)

(PL google-translate)

Insbesondere durch die Deep Learning-Technik hat es in den letzten Jahren einige bedeutende Durchbrüche im KI-Bereich gegeben.

Zuletzt wurden durch Varianten des Programms AlphaGo die besten GO-Spieler der Welt besiegt.

Heise, vom 27.05.2017: Künstliche Intelligenz: AlphaGo besiegt Ke Jie zum dritten Mal.

Youtube vom 19.06.2017: The Future of Go Summit: AlphaGo & Ke Jie match 3 moves analysis

In der jüngsten Variante des Programms "AlphaGo Zero" wurde darauf verzichtet, Meisterpartien zum Lernen vorzugeben. Kopien/Varianten der Software spielten einfach gegen das vorangehende "Alpha Go", um das Spiel genau kennenzulernen.

Spektrum vom 05.12.2017: AlphaGo besiegt sich selbst.

Youtube vom 29.10.2017: AlphaGo Zero vs AlphaGo Master Game 3 of 20.

Was hat sich zwischen früheren Neuronalen Netzen und heutigem Deep Learning verändert?

Die Grundlage von Deep Learning sind vielschichtige Neuronale Netze.
Vormals gab es Schwierigkeiten tiefe Netze zu belernen, weil sich die Fehlergradienten darin verlieren.
Um das Problem zu beheben, wird beim Deep Learning durch sg. Pretraining das Netz zunächst so belernt, dass Eingangssignale und Ausgangssignale einer Schicht gleich sind.
Danach erfolgt das Finetuning, das eigentliche Erlernen einer Fähigkeit.
Außerdem wurde die sigmoide Funktion durch die "ReLU" == Rectified linear Unit ersetzt, was ausgedehnte Plateaus beim Lernen vermeiden hilft.

Anwendungsgebiete für Deep Learning

Varianten des Deep Learning werden in allen drei wesentlichen KI-Lerntypen eingesetzt:

Überwachtes Lernen (Datensätze mit schon vorhandenen kategorisierenden Bezeichnern - Labeln)
Unüberwachtes Lernen (Datensätze werden ohne Vorgaben aufgrund ihrer Eigenschaften in Kategorien unterteilt)
Reinforced Lernen (Über eine Rückkopplung, die Aufschluß darüber gibt, wie sich ein Netz bewährt, wird es angepaßt)

Konkrete Anwendungsfälle:

Bilderkennung
Entscheidungsfinder
Vorsortieren großer Datenmengen

Warum lohnt sich die Beschäftigung mit Deep Learning?

Das Konzept ist bestechend: Software wird nicht programmiert, sondern sie lernt selber, was sie können soll.
Viele Aufgaben sind so komplex, dass es gar nicht gelingt, Programme zu schreiben, die diese gut lösen.

Ablauf der Lehrveranstaltung im Wintersemester 2018/19 (Entwurf)

----------------
Deep Learning:

Im Skript verfügbare Themen:
1 Neuronale Netze
2 Backtracking
3 Implementierung 
4 JNI
5 BlueJ & Processing
6 Selber Processing-Libraries erstellen

Neue speziell auf Deep Learning bezogene Themen
7 Theorie Deep Learning
8 Testimplementierung
9  DL4J verstehen
10 DL4J benutzen
11 DL4J einbetten: Android / Processing

Termine:
22.11. 1, 2        Neuronale Netze, Backtracking
29.11. 3, 4        Implementierung, JNI
06.12. 5, 6        BlueJ & Processing, Selber Processing-Libraries erstellen
13.12. 7, 8        Theorie Deep Learning, Testimplementierung
20.12. 9, 10, 11   DL4J-Beispiele / eigene Umsetzung
10.01.             *** Projekt ***
17.01.             *** Projekt ***
24.01.             *** E-Test / Projekt *** 

* Projekt kann in Zweiergruppen bearbeitet werden.

* E-Test-Note und Projektnote zählen jeweils zu 50% in dieser LV.

* Projektthemen ev. mit Elektrokutschen: Objekterkennung / Navigation

Code 0-1: Entwurf für den Ablauf der LV.