Bitzu

AIF-C01 · Odpowiedzialna i wyjaśnialna AI

Zbiory danych, bias i wariancja

Najważniejsze

  • Dobre dane treningowe są inkluzywne i zróżnicowane, zbalansowane między grupami i klasami oraz wyselekcjonowane z zaufanych źródeł.
  • Wysoki bias (model zbyt prosty) powoduje niedouczenie: słabe wyniki nawet na danych treningowych.
  • Wysoka wariancja (model zbyt wrażliwy) powoduje przeuczenie: świetnie na treningu, słabo na nowych danych.
  • Niereprezentatywne dane mogą też sprawić, że model działa gorzej dla niektórych grup demograficznych.

Przykładowe pytania

Jednokrotny wybór

Model osiąga 99% na danych treningowych, ale tylko 70% na nowych. Jaki jest najbardziej prawdopodobny problem?

  1. Niedouczenie
  2. Przeuczenie
  3. Zbalansowanie klas
  4. Szyfrowanie etykiet
Pokaż odpowiedź

Odpowiedź: B. Przeuczenie

Duża różnica między wynikiem na treningu a na nowych danych oznacza przeuczenie (wysoka wariancja). Niedouczenie dałoby słabe wyniki w obu przypadkach.

Zaznacz wszystkie poprawne

Które cechy opisują zbiór danych odpowiedni dla odpowiedzialnej AI?

  1. Zróżnicowany i uwzględniający osoby, których dotknie wynik
  2. Zebrany wyłącznie z jednego wygodnego źródła
  3. Zbalansowany względem istotnych grup i klas
  4. Wyselekcjonowany z zaufanych źródeł z kontrolą jakości
  5. Pobrany masowo bez przeglądu
Pokaż odpowiedź

Odpowiedź: A. Zróżnicowany i uwzględniający osoby, których dotknie wynik, C. Zbalansowany względem istotnych grup i klas, D. Wyselekcjonowany z zaufanych źródeł z kontrolą jakości

Zróżnicowane, zbalansowane i wyselekcjonowane dane zmniejszają szkody dla grup. Zbieranie bez kontroli lub z jednego wygodnego źródła utrwala luki i błędy.

Prawda czy fałsz

Prawda czy fałsz: wysoka ogólna dokładność dowodzi, że model jest sprawiedliwy wobec każdej grupy demograficznej.

Pokaż odpowiedź

Odpowiedź: Fałsz

Ogólna dokładność może ukrywać słabe wyniki dla małej podgrupy; sprawiedliwość wymaga oceny osobno dla każdej grupy.

Przećwicz 8 pytań z tego tematu w Bitzu

Krótkie lekcje, natychmiastowe wyjaśnienia i powtórki tego, w czym się mylisz. Za darmo na iOS i Androida.

Download on the App StoreGet it on Google Play

Więcej tematów AIF-C01 w tym module