Was ist die Random Search?

Im Bereich des maschinellen Lernens und der Optimierung ist die Suche nach der besten Kombination von Hyperparametern, um ein Modell effizient und effektiv zu trainieren, eine entscheidende Aufgabe. Eine Methode, die erhebliche Aufmerksamkeit erregt hat, ist als “Random Search” bekannt. In diesem Artikel werden wir in die Welt der Random Search eintauchen und ihre Prinzipien, Methoden und Anwendungen erkunden. Ob du ein Datenwissenschaftler bist, der deine Modelle feinabstimmen möchte, oder einfach neugierig auf die Techniken bist, die modernes maschinelles Lernen antreiben, wird dieser Artikel wertvolle Einblicke in das Konzept und die Praxis der Zufallssuche bieten.

Was ist die Random Search?

Die Zufallssuche ist eine Technik, die im maschinellen Lernen und in der Optimierung verwendet wird, um den optimalen Satz von Hyperparametern für ein Modell zu finden. Im maschinellen Lernen sind Hyperparameter Parameter, die nicht aus den Daten gelernt werden, sondern vor dem Training festgelegt werden und die die Leistung eines Modells erheblich beeinflussen können.

Im Gegensatz zur Grid Search, die systematisch alle möglichen Kombinationen von Hyperparametern innerhalb vordefinierter Bereiche auswertet, geht die Random Search zufälliger vor. Anstatt den gesamten Hyperparameterraum erschöpfend zu durchsuchen, wählt sie zufällig eine bestimmte Anzahl von Hyperparameterkombinationen aus, um sie zu bewerten.

Die grundlegende Idee hinter der Random Search basiert auf der Intuition, dass das Erkunden zufällig ausgewählter Konfigurationen in hochdimensionalen Hyperparameterräumen effizienter und effektiver sein kann als eine systematische Suche. Sie erkennt an, dass nicht alle Hyperparameter gleich starken Einfluss auf die Leistung des Modells haben, und einige möglicherweise einen stärkeren Einfluss haben als andere.

Die Random Search ist ein leistungsstarkes Werkzeug im Werkzeugkasten der Hyperparameteroptimierung, das in der Praxis des maschinellen Lernens weit verbreitet ist, um die Leistung von Modellen zu verbessern, ohne eine erschöpfende Suche über Hyperparameterraster durchzuführen. Ihre Effizienz und Wirksamkeit machen sie zu einem wertvollen Ansatz für Praktiker, die optimale Hyperparameter für ihre Modelle suchen.

Random Search vs. Grid Search

Die Optimierung von Hyperparametern ist ein entscheidender Schritt bei der Entwicklung von maschinellen Lernmodellen, und zwei gängige Techniken, die zu diesem Zweck verwendet werden, sind die Random Search und die Grid Search. Obwohl beide Methoden darauf abzielen, den besten Satz von Hyperparametern zu finden, gehen sie das Problem unterschiedlich an. Das Verständnis der Unterschiede zwischen Zufallssuche und Rastersuche kann dir helfen, die richtige Technik für dein spezifisches Problem auszuwählen.

Grid Search:

• Systematische Erkundung: Die Grid Search ist ein systematischer Ansatz, der alle möglichen Kombinationen von Hyperparametern innerhalb vordefinierter Bereiche oder Werte durchsucht. Sie erstellt ein Raster oder ein Netz von Hyperparametern und bewertet jede Kombination.
• Umfassende Suche: Die Rastersuche stellt sicher, dass jede Hyperparameterkombination getestet wird, was in Fällen vorteilhaft sein kann, in denen du eine erschöpfende Suche durchführen möchtest.
• Ressourcenintensiv: Die Grid Search kann rechenintensiv sein, insbesondere wenn du es mit einer großen Anzahl von Hyperparametern oder breiten Wertebereichen zu tun hast. Dadurch kann sie erhebliche Rechenressourcen und Zeit erfordern.
• Begrenzte Flexibilität: Sie eignet sich möglicherweise nicht gut für Probleme, bei denen einige Hyperparameter wichtiger sind als andere, da sie alle Hyperparameter gleich behandelt.

Random Search:

• Zufällige Stichproben: Die Random Search geht zufälliger vor. Sie wählt Hyperparameterwerte zufällig aus vordefinierten Bereichen oder Verteilungen aus. Diese Zufälligkeit reduziert die Notwendigkeit für eine erschöpfende Suche.
• Effiziente Erkundung: Die Zufallssuche ist oft effizienter in hochdimensionalen Hyperparameterräumen, da sie mit weniger Iterationen einen breiteren Wertebereich erkundet als die Rastersuche.
• Ressourcenschonend: Die Random Search ist rechnerisch weniger aufwändig als die Rastersuche und eignet sich daher für Fälle, in denen die Rechenressourcen begrenzt sind.
• Anpassungsfähig an die Bedeutung: Die Random Search erkennt an, dass nicht alle Hyperparameter gleich wichtig sind. Sie ist besonders nützlich, wenn du vermutest, dass nur einige Hyperparameter die Leistung des Modells signifikant beeinflussen.

Die Wahl zwischen Random Search und Grid Search hängt von deinem spezifischen Problem und den verfügbaren Ressourcen ab:

Verwende die Grid Search, wenn:

• Du über genügend Rechenressourcen und Zeit verfügst, um alle möglichen Kombinationen zu untersuchen.
• Du vermutest, dass alle Hyperparameter einen signifikanten Einfluss auf die Modellleistung haben.
• Du möchtest, dass eine umfassende Suche über den gesamten Hyperparameterraum sichergestellt ist.

Verwende die Zufallssuche, wenn:

• Du begrenzte Rechenressourcen hast oder Modelle schnell optimieren musst.
• Du glaubst, dass nur eine Teilmenge von Hyperparameter die Modellleistung signifikant beeinflusst.
• Du willst, dass eine effiziente Suchstrategie genutzt wird, die ein Gleichgewicht zwischen Exploration und Ausnutzung herstellt.

In der Praxis beginnen viele Wissenschaftler mit der Random Search, um schnell vielversprechende Hyperparameterbereiche zu identifizieren, und nehmen dann die Feinabstimmung mit der Grid Search oder einer gezielteren Optimierungsmethode vor. Die Wahl zwischen diesen Techniken ist oft eine Abwägung zwischen Rechenkosten und dem Wunsch nach einer umfassenden Suche.

Was sind Hyperparameter im Machine Learning?

In maschinellem Lernen sind Hyperparameter Parameter, die nicht aus den Daten gelernt werden, sondern vor dem Trainingsprozess festgelegt werden. Sie spielen eine entscheidende Rolle bei der Konfiguration und Optimierung von maschinellen Lernmodellen. Im Gegensatz zu Modellparametern, die durch das Training erlernt werden und die interne Funktionsweise eines Modells definieren, regeln Hyperparameter das Gesamtverhalten des Modells und wie es lernt.

Hier sind einige wichtige Punkte, um Hyperparameter zu verstehen:

1. Modellarchitektur: Hyperparameter sind oft mit der Architektur oder Struktur des Modells verbunden. Sie bestimmen die Anzahl der Schichten und Neuronen in einem neuronalen Netzwerk, die Tiefe eines Entscheidungsbaums oder die Wahl des Kernels in einer Support Vector Machine (SVM).
2. Lernprozess: Hyperparameter steuern verschiedene Aspekte des Lernprozesses, wie die Lernrate in gradientenbasierten Algorithmen. Lernraten bestimmen, wie schnell oder langsam ein Modell aus den Daten lernt.
3. Regularisierung: Hyperparameter können Regularisierungstechniken beinhalten, wie die Stärke der L1- oder L2-Regularisierung in linearen Modellen oder neuronalen Netzwerken. Regularisierung hilft, Überanpassung zu verhindern, indem sie Strafterme zur Verlustfunktion hinzufügt.
4. Vorverarbeitung: Einige Hyperparameter sind mit Schritten zur Datenverarbeitung verbunden. Zum Beispiel können in der natürlichen Sprachverarbeitung (NLP) Hyperparameter die Größe des Vokabulars oder die maximale Länge von Eingabesequenzen bestimmen.
5. Optimierungsstrategie: Techniken wie die Random Search und die Grid Search werden verwendet, um optimale Hyperparameter zu finden. Diese Methoden erkunden systematisch verschiedene Hyperparameterkombinationen, um die Konfiguration zu identifizieren, die die beste Modellleistung ergibt.
6. Domänenabhängig: Die Wahl der Hyperparameter kann stark von der Domäne abhängen. Was für einen Typ von Problem oder Datensatz gut funktioniert, ist möglicherweise für ein anderes nicht geeignet. Daher sind Domänenkenntnisse und Experimente wesentlich für die Festlegung effektiver Hyperparameter.

Gemeinsame Hyperparameter:

Obwohl es je nach dem im maschinellen Lernen verwendeten Algorithmus und der verwendeten Bibliothek unzählige Hyperparameter gibt, gehören einige gemeinsame Hyperparameter dazu:

• Lernrate: Steuert die Schrittgröße während der Optimierung in gradientenbasierten Algorithmen.
• Anzahl der versteckten Einheiten oder Schichten: Bestimmt die Architektur von neuronalen Netzwerken.
• Stärke der Regularisierung: Steuert den Grad der angewendeten Regularisierung, um Überanpassung zu verhindern.
• Kernel-Typ: Im Kontext von Support Vector Machines (SVMs) gibt an, welche Kernel-Funktion zur Transformation von Daten verwendet wird.
• Batch-Größe: Bestimmt die Anzahl der in jeder Iteration während des Trainings verarbeiteten Proben.
• Anzahl der Bäume oder Tiefe: Relevant für Entscheidungsbaum-Algorithmen wie Random Forests und Gradient Boosting.
• Aktivierungsfunktionen: Definieren, wie Neuronen in neuronalen Netzwerken ihre Eingabe transformieren.
• Epochen: Die Anzahl der Male, die der gesamte Schulungsdatensatz während des Trainings vorwärts und rückwärts durch das neuronale Netzwerk geht.
• Dropout-Rate: Eine Technik zur Verhinderung von Überanpassung in neuronalen Netzwerken, indem in jedem Trainingsschritt zufällig ein Teil der Neuronen ausgelassen wird.

Zusammenfassend sind Hyperparameter wesentliche Einstellungen, die Maschinenlernpraktiker anpassen, um Modelle feinzutunen und optimale Leistungen zu erzielen. Das richtige Abstimmen von Hyperparametern kann ein anspruchsvoller, aber entscheidender Aspekt bei der Erstellung effektiver maschineller Lernmodelle sein.

Warum musst du die Hyperparameter abstimmen?

Maschinelles Lernen hat sich in verschiedenen Bereichen, von der Bilderkennung bis zur natürlichen Sprachverarbeitung, als äußerst leistungsfähig erwiesen. Die Wirksamkeit dieser Modelle wird jedoch nicht nur von den Algorithmen und den Daten bestimmt; ein entscheidender Faktor wird oft übersehen – die Hyperparameter.

Hyperparameter sind Konfigurationseinstellungen, die extern zum Modell selbst liegen und nicht aus den Daten gelernt werden können. Sie spielen eine entscheidende Rolle dabei, wie ein maschinelles Lernmodell aus den Trainingsdaten lernt und verallgemeinert. Das Abstimmen dieser Hyperparameter ist aus mehreren Gründen entscheidend:

Im Kern geht es bei der Abstimmung von Hyperparametern darum, die Leistung eines Modells zu maximieren. Es handelt sich um den Prozess, die richtige Kombination von Hyperparametern zu finden, die es dem Modell ermöglicht, bei einer bestimmten Aufgabe außergewöhnlich gut zu arbeiten. Diese Optimierung kann zu erheblichen Verbesserungen der Vorhersagegenauigkeit führen.

Overfitting tritt auf, wenn ein Modell die Trainingsdaten zu genau anpasst und dabei nicht nur die zugrunde liegenden Muster, sondern auch das Rauschen erfasst. Ordentlich abgestimmte Hyperparameter wie Regularisierungsstärken können dazu beitragen, Overfitting zu mildern und sicherzustellen, dass das Modell nicht zu stark auf die Trainingsdaten spezialisiert wird und gut auf neue, nicht gesehene Daten verallgemeinern kann.

Auf der anderen Seite ist Underfitting das gegenteilige Problem, bei dem ein Modell zu einfach ist, um die Komplexität der Daten zu erfassen. Durch Anpassen von Hyperparametern kannst du das Modell komplexer machen und ihm ermöglichen, die Beziehungen innerhalb der Daten besser darzustellen.

Es existiert keine Einheitskonfiguration, die für alle Modelle geeignet ist. Unterschiedliche Datensätze und Aufgaben erfordern unterschiedliche Einstellungen der Hyperparameter. Die Abstimmung von Hyperparametern ermöglicht es dir, deinen maschinellen Lernalgorithmus an die spezifischen Merkmale deiner Daten anzupassen.

Ineffiziente Hyperparameter-Einstellungen können zu längeren Trainingszeiten, höherem Speicherverbrauch und gesteigerten Rechenkosten führen. Eine ordentliche Abstimmung hilft dabei, ein Gleichgewicht zwischen der Leistung des Modells und der Ressourceneffizienz zu finden.

Bestimmte Domänen oder Branchen haben einzigartige Anforderungen oder Einschränkungen, die spezifische Hyperparameterauswahl erforderlich machen. Zum Beispiel kann in der medizinischen Diagnostik die Erreichung hoher Modellinterpretierbarkeit entscheidend sein, was die Auswahl der Hyperparameter beeinflussen kann.

Letztendlich sind maschinelles Lernen Modelle Werkzeuge, die entwickelt wurden, um reale Probleme zu lösen und Geschäftsziele zu erreichen. Die Abstimmung von Hyperparametern stellt sicher, dass deine Modelle diese Ziele erreichen, sei es die Verbesserung der Kundenbindung, die Optimierung von Marketingkampagnen oder die Verbesserung von Produktempfehlungen.

Hyperparameter-Abstimmungsmethoden wie Grid Search, Random Search, bayesianische Optimierung und automatisierte Tools wie AutoML-Plattformen bieten systematische Möglichkeiten, den Hyperparameterraum effizient zu erkunden. Durch die Investition von Zeit und Mühe in die Abstimmung von Hyperparametern können Maschinenlernpraktiker das volle Potenzial ihrer Modelle nutzen und beeindruckendere Ergebnisse erzielen.

Wie funktioniert die Random Search?

Die Random Search ist eine Technik zur Optimierung von Hyperparametern, die dabei hilft, den besten Satz von Hyperparametern für ein maschinelles Lernmodell zu finden. Im Gegensatz zur Rastersuche, die systematisch alle möglichen Kombinationen von Hyperparametern innerhalb vordefinierter Bereiche erkundet, verfolgt die Zufallssuche einen eher probabilistischen Ansatz. So funktioniert sie:

(1) Definition eines Hyperparameter-Suchraums:

Zuerst musst du die Hyperparameter definieren, die du abstimmen möchtest, und die Bereiche oder Verteilungen, die sie annehmen können. Wenn du beispielsweise mit einem Entscheidungsbaum-Klassifikator arbeitest, möchtest du Parameter wie die maximale Tiefe, die Mindestanzahl von Proben pro Blatt und das Kriterium für die Aufteilung optimieren.

(2) Festlegen der Anzahl der zufälligen Konfigurationen:

Die Zufallssuche erfordert, dass du die Anzahl der zufälligen Kombinationen von Hyperparametern angibst, die du bewerten möchtest. Dies ist ein entscheidender Vorteil gegenüber der Rastersuche, da du Rechenressourcen entsprechend deinem Budget und Zeitrahmen zuweisen kannst.

(3) Zufällige Auswahl von Hyperparametern:

Die Random Search generiert zufällige Kombinationen von Hyperparametern aus dem vordefinierten Suchraum. Jede Kombination stellt eine einzigartige Konfiguration des maschinellen Lernmodells dar.

(4) Modelle trainieren und bewerten:

Für jede zufällig ausgewählte Konfiguration trainierst du ein maschinelles Lernmodell mit deinen Trainingsdaten und bewertest seine Leistung anhand eines Validierungssatzes oder einer Kreuzvalidierungsstrategie (z. B. k-fache Kreuzvalidierung). Die Leistungsmetrik (z. B. Genauigkeit, F1-Score, mittlerer quadratischer Fehler) dient als Zielfunktion, um festzustellen, wie gut jede Konfiguration abschneidet.

(5) Auswahl der besten Konfiguration:

Nach der Bewertung aller Konfigurationen ermittelt die Zufallssuche diejenige, die die beste Leistung auf den Validierungsdaten erzielt hat. Diese Konfiguration, einschließlich der spezifischen Werte der Hyperparameter, wird als optimaler Satz ausgewählt.

(6) Modellbewertung anhand von Testdaten:

Um eine unvoreingenommene Schätzung der Leistung des Modells zu bieten, wird die ausgewählte Konfiguration anschließend an einem separaten Testdatensatz bewertet, den das Modell zuvor noch nie gesehen hat. Diese abschließende Bewertung stellt sicher, dass die Leistung des Modells mit dem übereinstimmt, was du während der Hyperparameter-Abstimmung beobachtet hast.

Wann solltest du die Zufallssuche verwenden:

• Wenn du über begrenzte Rechenressourcen verfügst und es dir nicht leisten kannst, alle möglichen Hyperparameterkombinationen zu erkunden (wie es bei der Rastersuche der Fall wäre).
• Wenn du unsicher über die besten Hyperparameterbereiche bist und einen breiteren Raum erkunden möchtest.
• Wenn du den Prozess der Hyperparameter-Abstimmung beginnst und eine schnelle erste Schätzung guter Hyperparameter benötigst.

Obwohl die Zufallssuche nicht garantieren kann, die absolut besten Hyperparameter zu finden, liefert sie oft einen vernünftigen Satz von Hyperparametern, der die Leistung deines Modells erheblich verbessern kann, und das bei vergleichsweise geringen Rechenkosten.

Welche Vorteile hat die Zufälligkeit?

Im Bereich der Hyperparameter-Abstimmung für maschinelle Lernmodelle kann die Wahl zwischen einem zufälligen Ansatz, wie der Random Search, und einem systematischen Ansatz, wie der Grid Search, die Effizienz und Effektivität des Abstimmungsprozesses erheblich beeinflussen. Die Zufälligkeit, wie sie von der Random Search genutzt wird, bietet mehrere überzeugende Vorteile, die sie in vielen Szenarien zur bevorzugten Wahl machen.

1. Effizienz und Ressourcenallokation:

Die Random Search ist eine ressourceneffiziente Technik. Sie wählt Hyperparameterkonfigurationen zufällig aus, was eine präzise Kontrolle über die Anzahl der Versuche ermöglicht, basierend auf den verfügbaren Rechenressourcen. Im Gegensatz dazu erkundet die Rastersuche alle möglichen Kombinationen, was sie rechenintensiv und oft unpraktisch macht, insbesondere bei einer großen Anzahl von Hyperparametern.

2. Erkundung des Hyperparameterraums:

Die Zufälligkeit bei der Auswahl von Hyperparametern führt zu einer breiteren Erkundung des Hyperparameterraums. Sie kann Kombinationen aufdecken, die möglicherweise nicht sofort offensichtlich oder intuitiv sind. In einigen Fällen können scheinbar weniger einflussreiche Hyperparameter unerwartet mit anderen interagieren und zu einer verbesserten Modellleistung führen. Die explorative Natur der Zufallssuche ist gut geeignet, um solche Interaktionen zu erfassen.

3. Ausgewogenheit von Erkundung und Ausnutzung:

Die Random Search erreicht eine feine Balance zwischen Erkundung (Ausprobieren verschiedener Hyperparameter) und Ausnutzung (Auswahl der am besten abschneidenden Hyperparameter). Durch das zufällige Auswählen von Konfigurationen vermeidet sie, in einem bestimmten Bereich des Hyperparameterraums stecken zu bleiben, ein Fallstrick, dem die Grid Search möglicherweise begegnet, wenn sie mit einem nicht informativen Raster beginnt.

4. Schnellere Entdeckung vielversprechender Konfigurationen:

Die in der Random Search inhärente Zufälligkeit erleichtert oft die rasche Entdeckung vielversprechender Hyperparameterkonfigurationen. Sie kann schnell Sets von Hyperparametern identifizieren, die günstige Ergebnisse liefern, und mehr Versuche zur Feinabstimmung dieser Konfigurationen zuweisen, was den Optimierungsprozess effektiv beschleunigt.

5. Anpassungsfähigkeit an die Problemkomplexität:

Maschinelles Lernen weist unterschiedliche Grade an Komplexität auf, und ein einheitlicher Ansatz zur Hyperparameter-Abstimmung ist möglicherweise nicht geeignet. Die Zufallssuche zeigt sich anpassungsfähig an die Problemkomplexität. Für komplexe Probleme mit vielen Hyperparametern erkundet sie effizient einen weiten Suchraum, ohne überfordert zu werden.

6. Parallelisierung:

Die Random Search eignet sich natürlicherweise zur Parallelisierung. Sie ermöglicht die gleichzeitige Bewertung mehrerer zufällig ausgewählter Konfigurationen und nutzt so vollständig verfügbare Rechenressourcen. Diese Fähigkeit zur Parallelisierung reduziert erheblich die für die Hyperparameter-Abstimmung benötigte Zeit.

Zusammenfassend bietet die Einbringung von Zufälligkeit in die Hyperparameter-Abstimmung über Techniken wie die Random Search eine überzeugende Möglichkeit. Sie bietet Effizienz, Anpassungsfähigkeit und die Fähigkeit, komplexe Hyperparameterinteraktionen aufzudecken. Während die Grid Search einem systematischen und erschöpfenden Ansatz folgt, nutzt die Random Search die Kraft der Zufälligkeit, um effizient den Hyperparameterraum zu erkunden und oft Konfigurationen zu entdecken, die die Leistung von maschinellen Lernmodellen verbessern.

Wie kann man die Random Search in Python implementieren?

Lass uns die Implementierung von Random Search für die Abstimmung von Hyperparametern anhand eines öffentlich verfügbaren Datensatzes durchgehen. Wir werden den berühmten Iris-Datensatz für eine Klassifizierungsaufgabe mit einem Random Forest-Klassifikator verwenden. Hier ist eine Schritt-für-Schritt-Anleitung:

1. Bibliotheken importieren:

Beginne mit dem Importieren der erforderlichen Bibliotheken:

2. Lade den Iris-Datensatz

Lade den Iris-Datensatz, der in Scikit-learn verfügbar ist:

3. Definiere den Suchraum für die Hyperparameter:

Gebe den Hyperparametersuchraum für den Random Forest-Klassifikator an:

4. Initialisiere den Random Forest Classifier:

Erstelle eine Instanz des Random Forest Klassifikators mit Standard-Hyperparametern:

5. Führe die Random Search aus:

Verwende RandomizedSearchCV von Scikit-learn, um eine zufällige Suche durchzuführen. Gebe dem Modell, den Hyperparameter-Suchraum, die Anzahl der Iterationen und die Kreuzvalidierungsstrategie:

6. Passe die Random Search aus an:

Passe das Objekt RandomizedSearchCV an den Iris-Datensatz an. Bei diesem Prozess werden verschiedene Hyperparameterkombinationen untersucht und kreuzvalidiert:

7. Erhalte die besten Hyperparameter:

Nach der Anpassung werden die besten Hyperparameter, die durch die Zufallssuche gefunden wurden, abgerufen:

8. Evaluiere das Modell:

Schließlich wird das Modell mit den besten Hyperparametern auf dem Datensatz evaluiert:

Du hast nun die zufällige Suche für die Abstimmung der Hyperparameter auf dem Iris-Datensatz mit einem Random Forest-Klassifikator implementiert. Dieser Ansatz erforscht effizient den Hyperparameterraum und identifiziert optimale Konfigurationen für Ihr maschinelles Lernmodell.

Das solltest Du mitnehmen

• Die Random Search ist eine leistungsstarke Technik zur effizienten Abstimmung von Hyperparametern in Modellen für maschinelles Lernen.
• Aufgrund ihres zufälligen Charakters findet die Random Search oft schneller gute Hyperparameterkombinationen als erschöpfende Methoden wie die Grid Search.
• Sie schafft ein Gleichgewicht zwischen der Notwendigkeit, verschiedene Hyperparameter zu erforschen, und den erforderlichen Rechenressourcen.
• Random Search ist auf verschiedene Algorithmen des maschinellen Lernens und Datensätze anwendbar.
• Sie hilft bei der Identifizierung von Hyperparametern, die zu einer optimalen Modellleistung führen können.
• Random Search kann skaliert werden, um komplexere Hyperparameterräume und größere Datensätze zu verarbeiten.
• Tools wie RandomizedSearchCV von Scikit-learn vereinfachen die Implementierung von Random Search.
• Random Search ist eine praktische Wahl, wenn die Berechnungsressourcen begrenzt sind.

Andere Beiträge zum Thema Random Search

Hier findest Du die Dokumentation, wie Du die Zufallssuche in Scikit-Learn durchführen kannst.