Bitzu

AI-901 · Zasady odpowiedzialnej AI

Sprawiedliwość w rozwiązaniu AI

Najważniejsze

  • Sprawiedliwość (fairness) oznacza, że system AI traktuje wszystkich ludzi równo i nie krzywdzi żadnych grup.
  • Stronniczość zwykle wnika przez niereprezentatywne dane treningowe, cechy zastępcze lub wypaczone etykiety.
  • Wykrywasz ją, porównując wyniki dla różnych grup, a ograniczasz reprezentatywniejszymi danymi, przeglądem cech i stałym monitorowaniem.

Przykładowe pytania

Jednokrotny wybór

Która zasada odpowiedzialnej AI wymaga, aby system AI traktował wszystkie grupy ludzi równo?

  1. Sprawiedliwość
  2. Niezawodność i bezpieczeństwo
  3. Przejrzystość
  4. Odpowiedzialność
Pokaż odpowiedź

Odpowiedź: A. Sprawiedliwość

Sprawiedliwość dotyczy równego traktowania i unikania krzywdzenia grup. Przejrzystość to wyjaśnialność AI, niezawodność i bezpieczeństwo to stabilne, bezpieczne działanie, a odpowiedzialność to rola ludzi.

Zaznacz wszystkie poprawne

Które działania pomagają wykrywać lub ograniczać stronniczość w rozwiązaniu AI?

  1. Zbieranie danych treningowych reprezentujących przyszłych użytkowników
  2. Mierzenie jakości modelu osobno dla każdej grupy demograficznej
  3. Przegląd cech mogących pełnić rolę zastępczą dla cech wrażliwych
  4. Trenowanie tylko na największej grupie dla czystszych wzorców
  5. Zaprzestanie monitorowania po wdrożeniu modelu
Pokaż odpowiedź

Odpowiedź: A. Zbieranie danych treningowych reprezentujących przyszłych użytkowników, B. Mierzenie jakości modelu osobno dla każdej grupy demograficznej, C. Przegląd cech mogących pełnić rolę zastępczą dla cech wrażliwych

Reprezentatywne dane, ocena per grupa i przegląd cech zastępczych ograniczają stronniczość. Trenowanie na jednej grupie ją pogłębia, a koniec monitorowania ukrywa nowe nierówności.

Prawda czy fałsz

Usunięcie kolumny z płcią z danych treningowych gwarantuje, że model nie da wyników stronniczych względem płci.

Pokaż odpowiedź

Odpowiedź: Fałsz

Fałsz. Inne cechy, np. stanowisko czy historia zakupów, mogą być cechami zastępczymi dla płci, więc stronniczość może zostać. Nadal trzeba oceniać wyniki w różnych grupach.

Przećwicz 8 pytań z tego tematu w Bitzu

Krótkie lekcje, natychmiastowe wyjaśnienia i powtórki tego, w czym się mylisz. Za darmo na iOS i Androida.

Download on the App StoreGet it on Google Play

Więcej tematów AI-901 w tym module