AI-901 · Zasady odpowiedzialnej AI
Sprawiedliwość w rozwiązaniu AI
Najważniejsze
- Sprawiedliwość (fairness) oznacza, że system AI traktuje wszystkich ludzi równo i nie krzywdzi żadnych grup.
- Stronniczość zwykle wnika przez niereprezentatywne dane treningowe, cechy zastępcze lub wypaczone etykiety.
- Wykrywasz ją, porównując wyniki dla różnych grup, a ograniczasz reprezentatywniejszymi danymi, przeglądem cech i stałym monitorowaniem.
Przykładowe pytania
Która zasada odpowiedzialnej AI wymaga, aby system AI traktował wszystkie grupy ludzi równo?
- Sprawiedliwość
- Niezawodność i bezpieczeństwo
- Przejrzystość
- Odpowiedzialność
Pokaż odpowiedź
Odpowiedź: A. Sprawiedliwość
Sprawiedliwość dotyczy równego traktowania i unikania krzywdzenia grup. Przejrzystość to wyjaśnialność AI, niezawodność i bezpieczeństwo to stabilne, bezpieczne działanie, a odpowiedzialność to rola ludzi.
Które działania pomagają wykrywać lub ograniczać stronniczość w rozwiązaniu AI?
- Zbieranie danych treningowych reprezentujących przyszłych użytkowników
- Mierzenie jakości modelu osobno dla każdej grupy demograficznej
- Przegląd cech mogących pełnić rolę zastępczą dla cech wrażliwych
- Trenowanie tylko na największej grupie dla czystszych wzorców
- Zaprzestanie monitorowania po wdrożeniu modelu
Pokaż odpowiedź
Odpowiedź: A. Zbieranie danych treningowych reprezentujących przyszłych użytkowników, B. Mierzenie jakości modelu osobno dla każdej grupy demograficznej, C. Przegląd cech mogących pełnić rolę zastępczą dla cech wrażliwych
Reprezentatywne dane, ocena per grupa i przegląd cech zastępczych ograniczają stronniczość. Trenowanie na jednej grupie ją pogłębia, a koniec monitorowania ukrywa nowe nierówności.
Usunięcie kolumny z płcią z danych treningowych gwarantuje, że model nie da wyników stronniczych względem płci.
Pokaż odpowiedź
Odpowiedź: Fałsz
Fałsz. Inne cechy, np. stanowisko czy historia zakupów, mogą być cechami zastępczymi dla płci, więc stronniczość może zostać. Nadal trzeba oceniać wyniki w różnych grupach.
Przećwicz 8 pytań z tego tematu w Bitzu
Krótkie lekcje, natychmiastowe wyjaśnienia i powtórki tego, w czym się mylisz. Za darmo na iOS i Androida.
