Machine Learning Associate · Strojenie hiperparametrów i walidacja
Strojenie z Hyperopt fmin
Najważniejsze
- fmin przyjmuje fn, funkcję celu: trenuje model i zwraca stratę.
- Przestrzeń poszukiwań: np. hp.choice, hp.uniform.
- algo: tpe.suggest (TPE) lub rand.suggest (losowe).
- max_evals: liczba ustawień do wypróbowania.
- Obiekt Trials zapisuje każdą ewaluację; fmin zawsze minimalizuje, więc metrykę do maksymalizacji (accuracy) zwracaj z minusem.
- Hyperopt open source nie jest już rozwijany ani obecny w Databricks Runtime ML po 16.4 LTS.
Źródło: https://docs.databricks.com/aws/en/machine-learning/automl-hyperparam-tuning/hyperopt-concepts
Przykładowe pytania
Co powinna zwracać funkcja celu przekazywana do Hyperopt fmin?
- Wartość straty, którą fmin minimalizuje
- Wynik, który fmin maksymalizuje
- Tylko dopasowany obiekt modelu
- Liczbę pozostałych prób
Pokaż odpowiedź
Odpowiedź: A. Wartość straty, którą fmin minimalizuje
fmin minimalizuje zwróconą stratę. Zwrócenie wyniku do maksymalizacji skierowałoby wyszukiwanie w złą stronę.
Które elementy rzeczywiście występują w typowym wywołaniu fmin?
- fn, funkcja celu
- algo, np. tpe.suggest lub rand.suggest
- max_evals, liczba ustawień do wypróbowania
- maximize=True do odwrócenia kierunku
- cv=5 do automatycznej walidacji krzyżowej
Pokaż odpowiedź
Odpowiedź: A. fn, funkcja celu, B. algo, np. tpe.suggest lub rand.suggest, C. max_evals, liczba ustawień do wypróbowania
fn, algo i max_evals to podstawowe argumenty. fmin nie ma flagi maximize (negujesz metrykę) i sam nie wykonuje walidacji krzyżowej; ewentualna CV jest wewnątrz funkcji celu.
fmin zwraca wytrenowany najlepszy model, na którym można od razu wywołać predict.
Pokaż odpowiedź
Odpowiedź: Fałsz
Fałsz. fmin zwraca najlepsze znalezione ustawienia hiperparametrów; końcowy model trenujesz samodzielnie z ich użyciem.
Przećwicz 8 pytań z tego tematu w Bitzu
Krótkie lekcje, natychmiastowe wyjaśnienia i powtórki tego, w czym się mylisz. Za darmo na iOS i Androida.
