Neuronale Netze zur Klassifikation von Bild- und Videomaterial

Betreiber von Internet-Portalen und Social Media Kanälen stehen vor der Herausforderung, ihre Online-Angebote laufend auf gesetzeswidrige und jugendgefährdende Inhalte hin überprüfen zu müssen. Ohne ein aktives Monitoring besteht die Gefahr, dass zum Beispiel User-Posts mit der Darstellung von gewaltverherrlichenden oder pornografischen Inhalten eine Abmahnung nach sich ziehen und die Reputation des Betreibers beschädigen. Mit Hilfe innovativer, KI-basierter Tools und Methoden ist es heute möglich, problematischen Content automatisch zu erkennen und die Redaktion zu informieren bzw. die Veröffentlichung zu unterbinden. 

Einleitung
Zur Analyse und Kategorisierung von grafischen Inhalten werden seit einigen Jahren mit großem Erfolg Verfahren des Maschinellen Lernens, vor allem Convolutional Neural Networks (CNNs) eingesetzt. Praktisch alle großen IT-Konzerne bieten mittlerweile Umgebungen an, in denen man CNNs mit eigenem Material trainieren kann, aber es gibt auch viele fertige Dienste, die bereits für verschiedene Fragestellungen vortrainiert sind. Auch Aufbau und Training eines eigenen Neuronalen Netzes sind möglich.

Am Beispiel der Aufgabe, rechtswidrige und jugendgefährdende Inhalte auf Webseiten und in sozialen Medien zu erkennen, stellen wir repräsentativ Verfahren und einige Tools und Services vor und diskutieren die Frage, ob man selber Neuronale Netze trainieren und ggf. aufbauen sollte, bestehende Services nutzen kann oder ob eine Kombination verschiedener Verfahren sinnvoll ist. Schließlich betrachten wir kurz den Einfluss von Rahmenbedingungen wie Aufwand, Performance und Kosten auf die Umsetzungs-Entscheidungen.

Die Analyse von Videos wird zurückgeführt auf die Analyse von Bildern, indem ein Video-Sequenzierungsservice vorgeschaltet wird und dann die erzeugten Keyframes analysiert werden.

------

4 Seiten