AIF-C01 · Odpowiedzialna i wyjaśnialna AI
Zbiory danych, bias i wariancja
Najważniejsze
- Dobre dane treningowe są inkluzywne i zróżnicowane, zbalansowane między grupami i klasami oraz wyselekcjonowane z zaufanych źródeł.
- Wysoki bias (model zbyt prosty) powoduje niedouczenie: słabe wyniki nawet na danych treningowych.
- Wysoka wariancja (model zbyt wrażliwy) powoduje przeuczenie: świetnie na treningu, słabo na nowych danych.
- Niereprezentatywne dane mogą też sprawić, że model działa gorzej dla niektórych grup demograficznych.
Przykładowe pytania
Model osiąga 99% na danych treningowych, ale tylko 70% na nowych. Jaki jest najbardziej prawdopodobny problem?
- Niedouczenie
- Przeuczenie
- Zbalansowanie klas
- Szyfrowanie etykiet
Pokaż odpowiedź
Odpowiedź: B. Przeuczenie
Duża różnica między wynikiem na treningu a na nowych danych oznacza przeuczenie (wysoka wariancja). Niedouczenie dałoby słabe wyniki w obu przypadkach.
Które cechy opisują zbiór danych odpowiedni dla odpowiedzialnej AI?
- Zróżnicowany i uwzględniający osoby, których dotknie wynik
- Zebrany wyłącznie z jednego wygodnego źródła
- Zbalansowany względem istotnych grup i klas
- Wyselekcjonowany z zaufanych źródeł z kontrolą jakości
- Pobrany masowo bez przeglądu
Pokaż odpowiedź
Odpowiedź: A. Zróżnicowany i uwzględniający osoby, których dotknie wynik, C. Zbalansowany względem istotnych grup i klas, D. Wyselekcjonowany z zaufanych źródeł z kontrolą jakości
Zróżnicowane, zbalansowane i wyselekcjonowane dane zmniejszają szkody dla grup. Zbieranie bez kontroli lub z jednego wygodnego źródła utrwala luki i błędy.
Prawda czy fałsz: wysoka ogólna dokładność dowodzi, że model jest sprawiedliwy wobec każdej grupy demograficznej.
Pokaż odpowiedź
Odpowiedź: Fałsz
Ogólna dokładność może ukrywać słabe wyniki dla małej podgrupy; sprawiedliwość wymaga oceny osobno dla każdej grupy.
Przećwicz 8 pytań z tego tematu w Bitzu
Krótkie lekcje, natychmiastowe wyjaśnienia i powtórki tego, w czym się mylisz. Za darmo na iOS i Androida.
