Was ist Data Augmentation?

Data Augmentation bezeichnet einen Prozess um den Trainingsdatensatz zu vergrößern, indem neue, aber realistische Daten erstellt werden. Dazu werden verschiedene Techniken angewandt, um künstliche Datenpunkte aus bestehenden zu generieren.

Was ist Data Augmentation?

In vielen Anwendungsfällen steht man vor dem Problem, dass der Datensatz für Deep Learning Algorithmen schlicht nicht groß genug ist. Dabei ist jedoch vor allem im Bereich des Supervised Learnings das Sammeln von neuen Datenpunkten nicht nur teuer, sondern möglicherweise auch gar nicht möglich.

Wenn wir jedoch einfach neue Datensätze erstellen, kann es auch schnell zu einem Problem mit Overfitting kommen. Aus diesem Grund gibt es verschiedene Techniken im Bereich der Data Augmentation, die sicherstellen, dass das Modell auch wirklich neue Zusammenhänge aus künstlich erstellen Datenpunkten erlernen kann.

In welchen Bereichen sind kleine Datensätze ein Problem?

In den letzten Jahren wurden viele neue Machine Learning und vor allem Deep Learning Architekturen vorgestellt, die außergewöhnliche Performance in verschiedenen Anwendungsfeldern versprechen. Jedoch haben alle diese Architekturen gemein, dass sie viele zu lernende Parameter besitzen. Moderne Neuronale Netzwerke in der Bild- oder Textverarbeitung besitzen schnell mehrere Millionen Parameter. Wenn jedoch der Datensatz nur wenige hundert Datenpunkte hat, reichen diese schlicht nicht aus, um das Netzwerk ausreichend zu trainieren und führen deshalb zu Overfitting. Das bedeutet, dass das Modell lediglich den Datensatz auswendig lernt und somit schlecht generalisiert, also nur schlechte Ergebnisse für neue Daten liefert.

Jedoch ist es gerade in diesen Bereichen, also der Bild- und Textverarbeitung, schwierig und teuer große Datensätze zu bekommen. So gibt es nur vergleichweise wenige Bilder, die konkrete Labels haben, also beispielsweise ob darin ein Hund oder eine Katze zu sehen ist. Zusätzlich kann durch Data Augmentation auch die Performance des Modells besser werden, selbst wenn die Größe des Datensatzes kein Problem ist. Durch die Veränderung des Datensatzes wird das Modell nämlich robuster und lernt auch von Daten, die sich in ihrer Struktur von dem eigentlichen Datensatz unterscheiden.

Welchen Zweck erfüllt Data Augmentation?

Die Data Augmentation spielt eine entscheidende Rolle in der Datenwissenschaft und im maschinellen Lernen und verfolgt zwei Hauptziele: die Erweiterung der effektiven Größe des Datensatzes und die Verbesserung der Leistung des Modells.

Ein wesentliches Ziel ist die Stärkung der Datensatzgröße. In vielen Fällen gestaltet sich der Erwerb eines umfangreichen, gelabelten Datensatzes als schwierig und kostspielig. Die Datenanreicherung schließt diese Lücke, indem sie zusätzliche Trainingsexemplare generiert und zu robusteren Modellen beiträgt.

Ein weiterer entscheidender Zweck besteht darin, die Generalisierung des Modells zu verbessern. Indem das Modell verschiedenen Transformationen derselben Datenpunkte ausgesetzt wird, lernt es, sich an unterschiedliche Szenarien anzupassen. Dies führt zu einer besseren Leistung bei unbekannten oder realen Daten.

Darüber hinaus hilft die Data Augmentation, insbesondere wenn das Modell zu spezialisiert auf das Erfassen von Rauschen in den Trainingsdaten wird, die Überanpassung zu mildern. Sie gleicht Klassenungleichgewichte aus, verbessert die Robustheit des Modells gegenüber Datenvariabilität und fördert die Anpassungsfähigkeit an vielfältige Bedingungen.

Letztendlich dient die Datenanreicherung dazu, realistischere und vielfältigere Trainingsdaten zu schaffen, den Aufwand für die Datenannotation zu reduzieren und die Kosten-Effizienz der Modellentwicklung zu verbessern. Sie ermöglicht es Modellen, besser mit realen Herausforderungen umzugehen und präzisere Vorhersagen zu liefern.

Welche Methoden gibt es Daten zu ändern?

Abhängig vom Anwendungsbereich gibt es verschiedene Methoden neue Datenpunkte zu erstellen und dadurch den Datensatz künstlich zu erweitern. Dazu betrachten wir die Bereiche Bild-, Text- und Audioverarbeitung.

Bildverarbeitung

Es gibt verschiedene Anwendungsfälle in denen Machine Learning Modelle Bilder als Input bekommen, beispielsweise zur Bildklassifizierung oder der Erstellung von neuen Bildern. Die Datensätze in diesem Bereich sind meist verhältnismäßig klein und können nur mit großem Aufwand erweitert werden.

Deshalb gibt es im Bereich der Data Augmentation viele Möglichkeiten einen kleinen Bilddatensatz um ein vielfaches zu vergrößern. Bei der Arbeit mit Bildern sind diese Methoden auch besonders effektiv, da sie dem Modell neue Ansichten ergeben und es somit robuster machen. Zu den häufigsten Methoden in diesem Bereich zählen:

Geometrische Änderungen: Ein gegebenes Bild kann gedreht, gespiegelt oder ausgeschnitten werden, um aus einem gegebenen Datenpunkt einen neuen zu erstellen.
Farbliche Änderungen: Durch Änderungen der Helligkeit oder Farben (z.B. schwarz-weiß) kann ein gegebenes Bild verändert werden ohne, dass sich das Label, also z.B. „in dem Bild ist ein Hund zu sehen“, verändert.
Auflösungsänderung: Scharfe Bilder können gezielt unschärfer gemacht werden, um ein robustes Modell zu trainieren, das die Aufgabe auch mit schlechteren Eingabedaten zuverlässig erfüllen kann.
Weitere Methoden: Darüber hinaus gibt es noch weitere Methoden zur Veränderung von Bildern, die deutlich aufwändiger sind. Es können zum Beispiel zufällige Teile des Bildes gelöscht werden oder mehrere Bilder mit demselben Label vermischt werden.

Textverarbeitung

Zwar gibt es eine große Menge an Text, die wir beispielsweise auch über das Scraping von Websiten selbst generieren können, jedoch sind diese meist nicht gelabeled und können somit nicht für Supervised Learning genutzt werden. Auch hier gibt es einige einfachere und schwierigere Methoden, um neue Datenpunkte zu erschaffen. Dazu zählen:

Übersetzung: Die Übersetzung eines Satzes in eine andere Sprache und anschließende Rückübersetzung in die ursprüngliche Sprache liefert neue Sätze und Wörter, die jedoch immer noch denselben Inhalt haben.
Neuanordnung von Sätzen: Die Anordnung von Sätzen in einem Paragraphen kann verändert werden, ohne dass der Inhalt davon beeinträchtigt wird.
Austausch von Wörtern: Es können auch gezielt Wörter mit deren Synonymen ausgetauscht werden, um dem Modell einen breiten Wortschatz beizubringen und dadurch robuster zu werden.

Audioverarbeitung

Auch bei der Verarbeitung von Audiodateien kann Data Augmentation vorgenommen werden. In diesem Feld bestehen nämlich ähnliche Probleme wie bei der Textverarbeitung, da Daten für das Supervised Learning nur sehr selten sind. Deshalb haben sich die folgenden Techniken zur Änderung von Datensätzen durchgesetzt:

Hinzufügen von Noise: Durch das Einarbeiten von Noise in Form von beispielsweise Störgeräuschen können Datenpunkte vervielfacht und der Datensatz somit vergrößert werden.

Audio Augmentation — Hinzufügen von Hintergrundgeräuschen | Quelle: PyTorch

Änderung der Geschwindigkeit: Durch die Erhöhung oder Verringerung der Abspielgeschwindigkeit, werden die Machine Learning Modelle robuster und können auch mit schneller gesprochenen Passagen gut umgehen.

Was sind die Vor- und Nachteile von Data Augmentation?

Die Änderung von Datensätzen im Bereich der Data Augmentation kann Vor- und Nachteile in der Anwendung haben.

Zum einen werden performante Modelle heutzutage immer größer und es müssen mehr Parameter trainiert werden. Dadurch läuft man schnell Gefahr, dass der Datensatz zu klein ist und das Modell overfitted, also zu sehr die Eigenschaften des Trainingsdatensatzes auswendig lernt und schlechte auf neue Daten reagiert. Dieses Problem kann durch Data Augmentation gelöst werden. Des Weiteren sind in verschiedenen Anwendungsfällen große Datensätze, vor allem im Bereich des Supervised Learnings, nur mit hohem Ressourceneinsatz zu bekommen. Somit ist eine künstliche Vergrößerung des Datensatzes von Vorteil.

Abgesehen von der Datensatzgröße, führt Data Augmentation oft zu robusteren Modellen, die auch bei unsauberen Daten, beispielsweise mit Störgeräuschen oder schlechter Qualität, noch gute Ergebnisse liefern können. In der Realität kann es mitunter zu Problemen bei der Datenqualität kommen, weshalb robuste Modelle immer von Vorteil sind.

Auf der anderen Seite bedeutet Data Augmentation einen weiteren Schritt im Training eines Modells. Das kann nicht nur Zeit, sondern auch Ressourcen kosten, wenn speicherintensive Daten, wie Bilder oder Videos, verarbeitet werden müssen. Zusätzlich werden die Biases aus dem alten Datensatz übernommen, weshalb die Sicherstellung eines fairen Datensatzes umso wichtiger wird.

Welche Tools und Bibliotheken können für die Data Augmentation genutzt werden?

In der Welt der Datenanreicherung gibt es eine breite Palette von Bibliotheken und Tools, die den Prozess der Data Augmentation effizienter und bequemer gestalten. Diese Bibliotheken bieten verschiedene vordefinierte Transformationen und Anpassungsoptionen, die auf verschiedene Datentypen und -bereiche zugeschnitten sind. Hier ist ein Überblick über einige beliebte Bibliotheken und Tools zur Datenanreicherung:

Augmentor:

Augmentor ist eine vielseitige Python-Bibliothek, die speziell für die Datenanreicherung von Bildern entwickelt wurde. Sie ermöglicht Dir, leicht Operationen wie Rotation, Spiegelung und Änderung der Größe auf Bilder anzuwenden.
Zu den Funktionen gehören eine einfache API, Stapelverarbeitung und die Möglichkeit, mehrere Anreicherungen miteinander zu verknüpfen.
Augmentor ist eine ausgezeichnete Wahl, um Bilddatensätze für Aufgaben im Bereich Computer Vision zu verbessern.

ImageDataGenerator (Keras):

Wenn Du mit Deep-Learning-Modellen in Keras arbeitest, ist die Klasse ImageDataGenerator ein leistungsstarkes Werkzeug zur Datenanreicherung von Bildern.
Es bietet eine breite Palette von Bildtransformationen, einschließlich Rotation, Zoomen und horizontales/vertikales Spiegeln.
Integriert nahtlos mit Keras vereinfacht es den Prozess der Datenanreicherung für das Training neuronaler Netzwerke.

NLTK (Natural Language Toolkit):

NLTK ist eine umfassende Bibliothek für die natürliche Sprachverarbeitung. Sie enthält verschiedene Techniken zur Textanreicherung für NLP-Aufgaben.
Funktionen wie Synonymaustausch, Worteingabe und Satzumformulierung stehen zur Verfügung, um Textdaten anzureichern.
NLTK ist eine wertvolle Ressource zur Verbesserung von Textdatensätzen in NLP-Anwendungen.

OpenCV:

OpenCV (Open Source Computer Vision Library) ist eine vielseitige Computer-Vision-Bibliothek, die Funktionen zur Bildanreicherung bietet.
Es bietet eine breite Palette von Bildverarbeitungsfunktionen wie Rotation, Skalierung und Farbanpassung und ist sowohl für grundlegende als auch für fortgeschrittene Anforderungen zur Bildanreicherung geeignet.
OpenCV wird oft für die Datenanreicherung verwendet, wenn Du mit Bilddaten in Computer-Vision-Projekten arbeitest.

TensorFlow Data Augmentation Layers:

TensorFlow, ein beliebtes Deep-Learning-Framework, bietet Datenanreicherungsschichten als Teil seiner Keras-API.
Diese Schichten können direkt in Deine neuronale Netzwerkarchitektur integriert werden und ermöglichen die Echtzeit-Datenanreicherung während des Modelltrainings.
Dieser Ansatz stellt sicher, dass Dein Modell vielfältige Trainingsdaten sieht, ohne zusätzliche Vorverarbeitungsschritte.

Librosa:

Librosa ist eine Python-Bibliothek für die Audio- und Musikanalyse. Sie bietet Funktionen zur Datenanreicherung von Audio.
Techniken wie Zeitdehnung, Tonhöhenverschiebung und Hinzufügen von Rauschen stehen zur Anreicherung von Audiodatensätzen zur Verfügung.
Librosa wird häufig in der Spracherkennung und Audioklassifikation verwendet.

Albumentations:

Albumentations ist eine Bibliothek, die für die erweiterte Bildanreicherung entwickelt wurde, insbesondere für Aufgaben im Bereich Computer Vision.
Sie ist bekannt für ihre Geschwindigkeit und Flexibilität und bietet eine breite Palette von Anreicherungen sowie die Möglichkeit, mit verschiedenen Bildformaten zu arbeiten.
Albumentations ist bei Praktikern, die an Bildsegmentierung und Objekterkennung arbeiten, beliebt.

Benutzerdefinierte Skripte und Pipelines:

Je nach Deinen spezifischen Daten und Anforderungen kannst Du benutzerdefinierte Skripte und Pipelines zur Datenanreicherung mit Bibliotheken wie NumPy und scikit-image erstellen.
Benutzerdefinierte Skripte bieten Flexibilität bei der Gestaltung einzigartiger Anreicherungstechniken, die auf Deine Daten zugeschnitten sind.

Bei der Auswahl einer Bibliothek oder eines Tools für Data Augmentation solltest Du den Datentyp berücksichtigen, mit dem Du arbeitest, sowie die spezifischen Anforderungen Deines Projekts. Diese Bibliotheken können den Prozess der Datenanreicherung erheblich vereinfachen und ermöglichen es Dir, vielfältigere und angereicherte Datensätze zu generieren, um das Training und die Leistung von Modellen zu verbessern.

Das solltest Du mitnehmen

Data Augmentation ist eine Methode bei der ein Datensatz vergrößert wird, indem abgewandelte Datenpunkte nochmals hinzugefügt werden.
Dadurch kann ein Datensatz vergrößert und das trainierte Modell robuster gemacht werden, da es mit verschiedenen Abwandlungen des Datensatzes umgehen kann.
Data Augmentation kann in der Bild-, Text- oder auch Audioverarbeitung angewandt werden.