Bitzu

AI-901 · Zasady odpowiedzialnej AI

Niezawodność i bezpieczeństwo

Najważniejsze

  • Niezawodna i bezpieczna AI działa stabilnie, radzi sobie z nietypowymi danymi i nie wyrządza szkód.
  • Testuj przypadki brzegowe i podchwytliwe polecenia, stosuj filtry treści, opieraj odpowiedzi na zaufanych danych (groundedness), planuj obsługę awarii i zapewnij możliwość interwencji człowieka.

Źródło: https://learn.microsoft.com/en-us/azure/foundry/responsible-use-of-ai-overview

Przykładowe pytania

Jednokrotny wybór

Która zasada odpowiedzialnej AI obejmuje stabilne działanie, obsługę nietypowych danych i unikanie szkód?

  1. Niezawodność i bezpieczeństwo
  2. Włączanie (inclusiveness)
  3. Sprawiedliwość
  4. Przejrzystość
Pokaż odpowiedź

Odpowiedź: A. Niezawodność i bezpieczeństwo

Niezawodność i bezpieczeństwo dotyczą przewidywalnego działania bez szkód. Włączanie dotyczy dostępności dla wszystkich, sprawiedliwość równego traktowania, a przejrzystość wyjaśnialności.

Zaznacz wszystkie poprawne

Które praktyki zwiększają niezawodność i bezpieczeństwo aplikacji generatywnej AI?

  1. Testowanie podchwytliwymi poleceniami i nietypowymi przypadkami przed wydaniem
  2. Stosowanie filtrów treści do odpowiedzi modelu
  3. Zapewnienie drogi do człowieka, gdy system nie może odpowiedzieć bezpiecznie
  4. Wyłączenie logowania, aby obniżyć koszty
  5. Testowanie tylko typowych, poprawnie sformułowanych danych
Pokaż odpowiedź

Odpowiedź: A. Testowanie podchwytliwymi poleceniami i nietypowymi przypadkami przed wydaniem, B. Stosowanie filtrów treści do odpowiedzi modelu, C. Zapewnienie drogi do człowieka, gdy system nie może odpowiedzieć bezpiecznie

Testy podchwytliwe, filtry i eskalacja do człowieka zmniejszają ryzyko. Wyłączenie logów odbiera wgląd, a testy tylko typowych danych pomijają awarie.

Prawda czy fałsz

Gdy model AI przejdzie testy przed wydaniem, dalsze monitorowanie nie jest potrzebne.

Pokaż odpowiedź

Odpowiedź: Fałsz

Fałsz. Rzeczywiste dane i dryf mogą ujawnić problemy, których testy nie wykryły, więc śledzenie i monitorowanie powinno trwać w produkcji.

Przećwicz 8 pytań z tego tematu w Bitzu

Krótkie lekcje, natychmiastowe wyjaśnienia i powtórki tego, w czym się mylisz. Za darmo na iOS i Androida.

Download on the App StoreGet it on Google Play

Więcej tematów AI-901 w tym module