Bitzu

AIF-C01 · Odpowiedzialna i wyjaśnialna AI

Cechy odpowiedzialnej AI

Najważniejsze

  • Sprawiedliwość i niski bias: podobna jakość wyników dla różnych grup; też inkluzywność.
  • Odporność: stabilność przy nietypowych lub zaszumionych danych.
  • Bezpieczeństwo: bez szkodliwych treści.
  • Rzetelność: prawdziwe, ugruntowane odpowiedzi.
  • Amazon Bedrock Guardrails: pomaga egzekwować bezpieczeństwo i rzetelność w czasie działania (filtry treści, zakazane tematy, filtry słów, filtry danych wrażliwych, kontrole osadzenia w kontekście).

Źródło: https://docs.aws.amazon.com/bedrock/latest/userguide/guardrails.html

Przykładowe pytania

Jednokrotny wybór

Które zabezpieczenie Amazon Bedrock Guardrails potrafi blokować lub maskować dane osobowe w promptach i odpowiedziach?

  1. Filtry słów
  2. Filtry danych wrażliwych
  3. Kontrole osadzenia w kontekście
  4. Zakazane tematy
Pokaż odpowiedź

Odpowiedź: B. Filtry danych wrażliwych

Filtry danych wrażliwych wykrywają encje PII oraz własne wzorce regex. Filtry słów dopasowują tylko wymienione przez Ciebie słowa lub frazy.

Zaznacz wszystkie poprawne

Które z poniższych są zabezpieczeniami oferowanymi przez Amazon Bedrock Guardrails?

  1. Filtry treści dla kategorii takich jak nienawiść czy przemoc
  2. Automatyczne skalowanie GPU dla wnioskowania
  3. Filtry słów dla własnych blokowanych fraz
  4. Kontrole osadzenia w kontekście wykrywające halucynacje
  5. Zaplanowane ponowne trenowanie modelu
Pokaż odpowiedź

Odpowiedź: A. Filtry treści dla kategorii takich jak nienawiść czy przemoc, C. Filtry słów dla własnych blokowanych fraz, D. Kontrole osadzenia w kontekście wykrywające halucynacje

Filtry treści, filtry słów i kontrole osadzenia w kontekście to polityki guardrails. Autoskalowanie GPU i planowanie ponownego trenowania to zadania infrastruktury i MLOps, a nie polityki guardrails.

Prawda czy fałsz

Prawda czy fałsz: Amazon Bedrock Guardrails sprawdza wyłącznie odpowiedzi modelu, nigdy promptu użytkownika.

Pokaż odpowiedź

Odpowiedź: Fałsz

Guardrail ocenia zarówno prompt wejściowy, jak i odpowiedź modelu względem skonfigurowanych filtrów.

Przećwicz 8 pytań z tego tematu w Bitzu

Krótkie lekcje, natychmiastowe wyjaśnienia i powtórki tego, w czym się mylisz. Za darmo na iOS i Androida.

Download on the App StoreGet it on Google Play

Więcej tematów AIF-C01 w tym module