Bitzu

AIF-C01 · Odpowiedzialna i wyjaśnialna AI

Transparentne i wyjaśnialne modele

Najważniejsze

  • Model transparentny: można go zbadać i zrozumieć (model liniowy, drzewo decyzyjne).
  • Model nieprzejrzysty: czarna skrzynka, np. głęboka sieć neuronowa; wymaga wyjaśnień.
  • Amazon SageMaker Model Cards: zamierzone zastosowania, ocena ryzyka, szczegóły treningu, wyniki ewaluacji.
  • Modele open source: wgląd, ale licencje trzeba przeczytać.
  • Kompromis interpretowalność a wydajność: prostsze łatwiej wyjaśnić, bywają mniej dokładne.

Źródło: https://docs.aws.amazon.com/sagemaker/latest/dg/model-cards.html

Przykładowe pytania

Jednokrotny wybór

Jaki jest główny cel Amazon SageMaker Model Card?

  1. Udokumentowanie kluczowych informacji o modelu w jednym miejscu na potrzeby nadzoru i raportowania
  2. Hostowanie modelu do wnioskowania w czasie rzeczywistym
  3. Automatyczne cotygodniowe ponowne trenowanie modelu
  4. Szyfrowanie artefaktów modelu
Pokaż odpowiedź

Odpowiedź: A. Udokumentowanie kluczowych informacji o modelu w jednym miejscu na potrzeby nadzoru i raportowania

Karta modelu zapisuje w jednym miejscu zamierzone użycie, ocenę ryzyka oraz szczegóły treningu i ewaluacji na potrzeby nadzoru. Nie trenuje ani nie hostuje modelu.

Zaznacz wszystkie poprawne

Które elementy zwykle należą do SageMaker Model Card?

  1. Zamierzone i niezamierzone zastosowania modelu
  2. Miesięczna faktura AWS
  3. Ocena ryzyka, np. niskie, średnie lub wysokie
  4. Szczegóły treningu i wyniki ewaluacji
  5. Reguły grup zabezpieczeń dla VPC
Pokaż odpowiedź

Odpowiedź: A. Zamierzone i niezamierzone zastosowania modelu, C. Ocena ryzyka, np. niskie, średnie lub wysokie, D. Szczegóły treningu i wyniki ewaluacji

Karty zawierają zamierzone użycie, ocenę ryzyka oraz szczegóły treningu i ewaluacji. Faktury i reguły zapory sieciowej nie są dokumentacją modelu.

Prawda czy fałsz

Prawda czy fałsz: model open source można używać do dowolnych celów bez warunków, bo jego wagi są publiczne.

Pokaż odpowiedź

Odpowiedź: Fałsz

Modele open source i z otwartymi wagami mają licencje, które mogą ograniczać użycie komercyjne, redystrybucję lub konkretne zastosowania. Zawsze czytaj licencję.

Przećwicz 8 pytań z tego tematu w Bitzu

Krótkie lekcje, natychmiastowe wyjaśnienia i powtórki tego, w czym się mylisz. Za darmo na iOS i Androida.

Download on the App StoreGet it on Google Play

Więcej tematów AIF-C01 w tym module