AIF-C01 · Odpowiedzialna i wyjaśnialna AI
Cechy odpowiedzialnej AI
Najważniejsze
- Sprawiedliwość i niski bias: podobna jakość wyników dla różnych grup; też inkluzywność.
- Odporność: stabilność przy nietypowych lub zaszumionych danych.
- Bezpieczeństwo: bez szkodliwych treści.
- Rzetelność: prawdziwe, ugruntowane odpowiedzi.
- Amazon Bedrock Guardrails: pomaga egzekwować bezpieczeństwo i rzetelność w czasie działania (filtry treści, zakazane tematy, filtry słów, filtry danych wrażliwych, kontrole osadzenia w kontekście).
Źródło: https://docs.aws.amazon.com/bedrock/latest/userguide/guardrails.html
Przykładowe pytania
Które zabezpieczenie Amazon Bedrock Guardrails potrafi blokować lub maskować dane osobowe w promptach i odpowiedziach?
- Filtry słów
- Filtry danych wrażliwych
- Kontrole osadzenia w kontekście
- Zakazane tematy
Pokaż odpowiedź
Odpowiedź: B. Filtry danych wrażliwych
Filtry danych wrażliwych wykrywają encje PII oraz własne wzorce regex. Filtry słów dopasowują tylko wymienione przez Ciebie słowa lub frazy.
Które z poniższych są zabezpieczeniami oferowanymi przez Amazon Bedrock Guardrails?
- Filtry treści dla kategorii takich jak nienawiść czy przemoc
- Automatyczne skalowanie GPU dla wnioskowania
- Filtry słów dla własnych blokowanych fraz
- Kontrole osadzenia w kontekście wykrywające halucynacje
- Zaplanowane ponowne trenowanie modelu
Pokaż odpowiedź
Odpowiedź: A. Filtry treści dla kategorii takich jak nienawiść czy przemoc, C. Filtry słów dla własnych blokowanych fraz, D. Kontrole osadzenia w kontekście wykrywające halucynacje
Filtry treści, filtry słów i kontrole osadzenia w kontekście to polityki guardrails. Autoskalowanie GPU i planowanie ponownego trenowania to zadania infrastruktury i MLOps, a nie polityki guardrails.
Prawda czy fałsz: Amazon Bedrock Guardrails sprawdza wyłącznie odpowiedzi modelu, nigdy promptu użytkownika.
Pokaż odpowiedź
Odpowiedź: Fałsz
Guardrail ocenia zarówno prompt wejściowy, jak i odpowiedź modelu względem skonfigurowanych filtrów.
Przećwicz 8 pytań z tego tematu w Bitzu
Krótkie lekcje, natychmiastowe wyjaśnienia i powtórki tego, w czym się mylisz. Za darmo na iOS i Androida.
