AI-901 · Zasady odpowiedzialnej AI
Niezawodność i bezpieczeństwo
Najważniejsze
- Niezawodna i bezpieczna AI działa stabilnie, radzi sobie z nietypowymi danymi i nie wyrządza szkód.
- Testuj przypadki brzegowe i podchwytliwe polecenia, stosuj filtry treści, opieraj odpowiedzi na zaufanych danych (groundedness), planuj obsługę awarii i zapewnij możliwość interwencji człowieka.
Źródło: https://learn.microsoft.com/en-us/azure/foundry/responsible-use-of-ai-overview
Przykładowe pytania
Która zasada odpowiedzialnej AI obejmuje stabilne działanie, obsługę nietypowych danych i unikanie szkód?
- Niezawodność i bezpieczeństwo
- Włączanie (inclusiveness)
- Sprawiedliwość
- Przejrzystość
Pokaż odpowiedź
Odpowiedź: A. Niezawodność i bezpieczeństwo
Niezawodność i bezpieczeństwo dotyczą przewidywalnego działania bez szkód. Włączanie dotyczy dostępności dla wszystkich, sprawiedliwość równego traktowania, a przejrzystość wyjaśnialności.
Które praktyki zwiększają niezawodność i bezpieczeństwo aplikacji generatywnej AI?
- Testowanie podchwytliwymi poleceniami i nietypowymi przypadkami przed wydaniem
- Stosowanie filtrów treści do odpowiedzi modelu
- Zapewnienie drogi do człowieka, gdy system nie może odpowiedzieć bezpiecznie
- Wyłączenie logowania, aby obniżyć koszty
- Testowanie tylko typowych, poprawnie sformułowanych danych
Pokaż odpowiedź
Odpowiedź: A. Testowanie podchwytliwymi poleceniami i nietypowymi przypadkami przed wydaniem, B. Stosowanie filtrów treści do odpowiedzi modelu, C. Zapewnienie drogi do człowieka, gdy system nie może odpowiedzieć bezpiecznie
Testy podchwytliwe, filtry i eskalacja do człowieka zmniejszają ryzyko. Wyłączenie logów odbiera wgląd, a testy tylko typowych danych pomijają awarie.
Gdy model AI przejdzie testy przed wydaniem, dalsze monitorowanie nie jest potrzebne.
Pokaż odpowiedź
Odpowiedź: Fałsz
Fałsz. Rzeczywiste dane i dryf mogą ujawnić problemy, których testy nie wykryły, więc śledzenie i monitorowanie powinno trwać w produkcji.
Przećwicz 8 pytań z tego tematu w Bitzu
Krótkie lekcje, natychmiastowe wyjaśnienia i powtórki tego, w czym się mylisz. Za darmo na iOS i Androida.
