Maschinelles Lernen mit der „Deep Neural Network Library“

Eine Alternative zu einer vollständig verbundenen Ebene ist eine Faltungsebene, wobei ein Neuron in einer Faltungsebene nur mit Neuronen in einem kleinen Bereich der darunterliegenden Ebene verbunden ist. Üblicherweise wäre dieser Bereich ein Neuronenraster von 5 × 5 (oder 7 × 7 oder 11 × 11). Die Größe dieses Rasters wird als Filtergröße bezeichnet. Somit kann man sich eine Faltungsebene derart vorstellen, dass sie eine Faltung an ihrem Input ausführt. Diese Art von Verbindungsraster ahmt das in Wahrnehmungsbereichen des Gehirns gesehene Raster nach, wie zum Beispiel Netzhautganglienzellen oder Zellen in der Sehrinde.

In einer DNN-Faltungsebene sind die „Gewichte“ der Filter für jedes Neuron in dieser Ebene gleich. Typischerweise wird eine Faltungsebene als „so und so viele Unterebenen“ jeweils mit einem anderen Filter implementiert. Hunderte verschiedener Filter können in einer Faltungsebene verwendet werden. Man kann sich eine DNN-Faltungsebene derart vorstellen, dass sie gleichzeitig hunderte verschiedener Faltungen an ihrem Eingang durchführt, wobei die Ergebnisse dieser Faltungen der nächsten Ebene darüber zur Verfügung stehen. DNNs, die Faltungsebenen enthalten, werden Convolutional Neural Networks (CNNs) genannt.
…