Wie ein neuronales Netz eine Ziffer erkennt, Schritt für Schritt

Auf der Seite Wie ein neuronales Netz Ziffern erkennt läuft ein echtes, wenn auch kleines neuronales Netz. Wir nehmen eine handgeschriebene 3 aus dem MNIST-Testsatz und verfolgen sie Schritt für Schritt durch das Netz. Alle Zahlen in diesem Artikel sind echte Werte dieses Netzes, keine erfundenen Beispiele.

Schritt 1: aus dem Bild werden Zahlen

Das Netz sieht ein Bild nicht so wie wir. Es bekommt nur eine Reihe von Zahlen, eine für jedes Pixel eines Bildes von 28 × 28, insgesamt 784 Zahlen. Ein weißes Pixel ist 0, ein schwarzes 1, die grauen Ränder der Striche liegen dazwischen. Von den 784 Pixeln unserer Ziffer enthalten 132 Tinte, alle anderen sind null.

Bevor eine Zeichnung von der Seite das Netz erreicht, wird sie so aufbereitet, wie einst die MNIST-Ziffern: in ein Feld von 20 × 20 eingepasst und so verschoben, dass der Schwerpunkt der Tinte in der Mitte liegt. Eine kleine und eine große Zeichnung sehen für das Netz gleich aus.

Schritt 2: ein Neuron addiert

Die erste Schicht hat 32 Neuronen. Jedes schaut auf alle Pixel und multipliziert jedes mit einem eigenen Gewicht. Die Gewichte eines Neurons bilden ein Muster: Positive Gewichte (auf der Seite blau) sind Stellen, an denen Tinte die Summe erhöht, negative (orange) Stellen, an denen sie sie senkt. Dann addiert das Neuron alles, zählt seinen Bias dazu und gibt das Ergebnis nur weiter, wenn es positiv ist. Sonst gibt es null weiter und bleibt aus. Diese Regel heißt ReLU.

Bei unserer Ziffer leuchtet Neuron 31 am stärksten. Tinte auf seinen blauen Stellen brachte +6,07, Tinte auf seinen orangen Stellen -2,56, und sein Bias ist +0,11. Die Summe beträgt 3,62, und weil sie positiv ist, gibt das Neuron sie weiter.

Von den 32 Neuronen der ersten Schicht leuchten 14 auf. Jedes reagiert auf einen anderen kurzen Strich an einer anderen Stelle, wie ihre Muster auf der Seite zeigen. Diese Zahlen sind alles, was das Netz „sieht“: keine Augen, nur gewichtete Summen.

Schritt 3: aus Strichen werden größere Formen

Die zweite Schicht hat 16 Neuronen und sieht keine Pixel mehr. Ihre Eingabe ist, wie stark die Neuronen der ersten Schicht leuchten, und sie rechnet genau gleich: mit dem Gewicht multiplizieren, addieren, Bias dazuzählen, eine negative Summe durch null ersetzen. So setzt sie einfache Striche zu größeren Teilen einer Ziffer zusammen. Von den 16 Neuronen der zweiten Schicht leuchten bei unserer Ziffer 8 auf.

Was genau ein Neuron der zweiten Schicht „bedeutet“, lässt sich nicht einfach sagen. Das Netz hat diese Zwischenschritte beim Lernen selbst gebildet, und niemand hat ihnen Namen gegeben.

Schritt 4: aus zehn Summen wird eine Antwort

Die letzte Schicht hat 10 Ausgänge, einen für jede Ziffer. Jeder addiert die Neuronen der zweiten Schicht mit seinen eigenen Gewichten. Der Ausgang für die Ziffer 3 hat die Summe 14,97, der zweithöchste ist der Ausgang für die 5 mit 4,38.

Die Softmax-Funktion wandelt dann alle zehn Summen in Anteile um, die zusammen 100 % ergeben. Je höher die Summe, desto größer der Anteil. Die Ziffer 3 bekommt mehr als 99,9 %, also wählt das Netz sie als Antwort.

Wie das Netz seine Gewichte gelernt hat

Das Netz hat insgesamt 25.818 gelernte Zahlen: 25.760 Gewichte und 58 Bias-Werte. Niemand hat sie von Hand eingestellt. Am Anfang waren sie fast zufällig, und das Netz riet ins Blaue.

Dann bekam es 60.000 handgeschriebene Ziffern mit den richtigen Antworten. Nach jeder Gruppe von 64 Ziffern wurde gemessen, wie stark es danebenlag, und jedes Gewicht wurde ein Stück in die Richtung verschoben, die den Fehler verkleinert. Das nennt man Backpropagation und Gradientenabstieg. Den ganzen Satz ist das Netz 30-mal durchgegangen.

Damit das Netz auch mit der Maus gezeichnete Ziffern versteht, wurde jede Trainingsziffer bei jedem Durchgang ein wenig zufällig verschoben, gedreht, geneigt und dünner oder dicker gemacht. Das Netz hat also nie zweimal genau dasselbe Bild gesehen.

Wie oft es sich irrt

Wir haben das Netz an 10.000 Testziffern geprüft, die es beim Lernen nie gesehen hat. 9.780 davon hat es richtig beantwortet, also 97,8 %.

Ziffer	Testziffern	Richtig	Häufigste Verwechslung
0	980	98,9 %	8 (3×)
1	1.135	98,9 %	2 (4×)
2	1.032	98,2 %	7 (6×)
3	1.010	98,0 %	5 (12×)
4	982	97,5 %	9 (13×)
5	892	97,8 %	3 (11×)
6	958	98,3 %	0 (4×)
7	1.028	97,9 %	2 (12×)
8	974	97,2 %	2 (4×)
9	1.009	95,3 %	3 (14×)

Am besten gelingt dem Netz die 0 (98,9 % richtig), am schlechtesten die 9 (95,3 %). Sein häufigster Fehler im ganzen Testsatz: Es antwortete 3 statt 9, und zwar 14-mal.

Ein kleines Netz gegen größere

Der Artikel, mit dem LeCun und Kollegen MNIST 1998 vorgestellt haben, vergleicht viele Verfahren an denselben Testziffern. Ein einfacher linearer Klassifikator, bei dem jedes Pixel direkt zu den zehn Ausgängen führt, lag in 12 % der Fälle falsch. Ein Netz mit zwei verborgenen Schichten aus 300 und 100 Neuronen hatte 3,05 % Fehler und 2,5 %, wenn es zusätzlich mit künstlich verzerrten Ziffern lernte. Das Faltungsnetz LeNet-5 mit 60.000 Parametern lag nur in 0,95 % der Fälle falsch.

Unser Netz hat 25.818 Parameter und irrt sich in 2,2 % der Fälle. Ein Faltungsnetz verwendet denselben kleinen Strichdetektor an jeder Stelle des Bildes und muss einen Strich daher nicht für jede Position einzeln lernen. Die Netze, die heute Sprache erkennen oder Texte schreiben, arbeiten nach demselben Prinzip gewichteter Summen, sind aber um viele Größenordnungen größer.

Warum es Ihre Zeichnung falsch liest

• Es kennt nur Ziffern wie die aus MNIST. Diese schrieben Mitarbeiter des US Census Bureau und amerikanische Schüler. Eine 1 mit langem Aufstrich oder eine durchgestrichene 7 kann schlechter abschneiden.
• Es kann nicht „Ich weiß es nicht“ sagen. Es wählt immer eine der zehn Ziffern.
• Eine Maus zeichnet anders als ein Stift. Striche mit Maus oder Finger sehen anders aus als die Stiftstriche auf Papier, aus denen MNIST entstanden ist.

Wenn das Netz Ihre Ziffer falsch erkennt, schauen Sie auf der Seite in Schritt 2, welche Neuronen der ersten Schicht aufgeleuchtet sind, und in Schritt 4, welche Ausgänge sie gestärkt haben. Oft sieht man sofort, welcher Strich das Netz in die Irre geführt hat.

Probieren Sie es selbst aus auf der Seite Wie ein neuronales Netz Ziffern erkennt: Zeichnen Sie eine Ziffer und klicken Sie auf ein beliebiges Neuron.