Der Wasserstein-Verlust, auch bekannt als Earth Mover’s Distance (EMD), ist ein mathematischer Begriff, der in der maschinellen Lerntheorie und insbesondere im Bereich der generativen Modelle wie Generative Adversarial Networks (GANs) eine wichtige Rolle spielt. Er beschreibt die minimalen Kosten, die erforderlich sind, um eine Probability Distribution in eine andere umzuformen, indem „Masse“ von einem Punkt zum anderen transportiert wird.
Im Kontext des maschinellen Lernens wird der Wasserstein-Verlust häufig verwendet, um die Ähnlichkeit zwischen zwei Verteilungen zu messen. Dies ist besonders nützlich, wenn es darum geht, generierte Daten (z.B. von einem GAN) mit realen Daten zu vergleichen. Der Wasserstein-Verlust bietet eine intuitive und robuste Methode, um die Distanz zwischen diesen Verteilungen zu quantifizieren, was wiederum hilft, die Qualität der generierten Daten zu bewerten und zu verbessern.
Ein wesentlicher Vorteil des Wasserstein-Verlusts ist seine Fähigkeit, auch dann nützliche Informationen zu liefern, wenn die Verteilungen nur wenige oder gar keine überlappenden Merkmale aufweisen. Dies macht ihn besonders geeignet für Anwendungen, bei denen die Unterschiede zwischen den Verteilungen subtil, aber wichtig sind.
Der Wasserstein-Verlust basiert auf der Theorie des optimalen Transports, die ursprünglich aus der Mathematik stammt. In der Praxis wird er oft als Loss-Funktion in maschinellen Lernalgorithmen eingesetzt, um die Konvergenz von Modellen zu verbessern und bessere Ergebnisse zu erzielen.