AI-901 · Zasady odpowiedzialnej AI
Przejrzystość
Najważniejsze
- Przejrzysta AI pomaga ludziom zrozumieć, czym jest system i jak się zachowuje.
- Informuj użytkowników, że mają do czynienia z AI, wyjaśniaj główne czynniki wyników, dokumentuj ograniczenia oraz pokazuj pewność lub źródła, gdy to przydatne.
- Interpretowalność to możliwość zrozumienia, dlaczego model dał dany wynik.
Przykładowe pytania
Która zasada odpowiedzialnej AI mówi, że ludzie powinni rozumieć, jak powstają wyniki AI i jakie są granice systemu?
- Przejrzystość
- Sprawiedliwość
- Włączanie (inclusiveness)
- Prywatność i bezpieczeństwo
Pokaż odpowiedź
Odpowiedź: A. Przejrzystość
Przejrzystość to jasność co do użycia AI, jej działania i ograniczeń. Sprawiedliwość dotyczy równych wyników, włączanie dostępności, a prywatność i bezpieczeństwo ochrony danych.
Które działania zwiększają przejrzystość rozwiązania AI?
- Informowanie użytkowników, że rozmawiają z AI
- Dokumentowanie i komunikowanie znanych ograniczeń systemu
- Pokazywanie wskaźników pewności lub źródeł, gdy mają sens
- Twierdzenie, że AI zawsze ma rację
- Pozostawienie działania systemu bez dokumentacji
Pokaż odpowiedź
Odpowiedź: A. Informowanie użytkowników, że rozmawiają z AI, B. Dokumentowanie i komunikowanie znanych ograniczeń systemu, C. Pokazywanie wskaźników pewności lub źródeł, gdy mają sens
Ujawnienie, udokumentowane granice oraz sensowna pewność lub źródła budują zrozumienie. Zawyżanie dokładności i brak dokumentacji je podważają.
Wysoki wskaźnik pewności gwarantuje, że predykcja modelu jest poprawna.
Pokaż odpowiedź
Odpowiedź: Fałsz
Fałsz. Pewność to oszacowanie, a nie gwarancja; model może być pewny i się mylić, więc wyniki należy czytać razem ze znanymi ograniczeniami.
Przećwicz 8 pytań z tego tematu w Bitzu
Krótkie lekcje, natychmiastowe wyjaśnienia i powtórki tego, w czym się mylisz. Za darmo na iOS i Androida.
