AIF-C01 · Odpowiedzialna i wyjaśnialna AI
Transparentne i wyjaśnialne modele
Najważniejsze
- Model transparentny: można go zbadać i zrozumieć (model liniowy, drzewo decyzyjne).
- Model nieprzejrzysty: czarna skrzynka, np. głęboka sieć neuronowa; wymaga wyjaśnień.
- Amazon SageMaker Model Cards: zamierzone zastosowania, ocena ryzyka, szczegóły treningu, wyniki ewaluacji.
- Modele open source: wgląd, ale licencje trzeba przeczytać.
- Kompromis interpretowalność a wydajność: prostsze łatwiej wyjaśnić, bywają mniej dokładne.
Źródło: https://docs.aws.amazon.com/sagemaker/latest/dg/model-cards.html
Przykładowe pytania
Jaki jest główny cel Amazon SageMaker Model Card?
- Udokumentowanie kluczowych informacji o modelu w jednym miejscu na potrzeby nadzoru i raportowania
- Hostowanie modelu do wnioskowania w czasie rzeczywistym
- Automatyczne cotygodniowe ponowne trenowanie modelu
- Szyfrowanie artefaktów modelu
Pokaż odpowiedź
Odpowiedź: A. Udokumentowanie kluczowych informacji o modelu w jednym miejscu na potrzeby nadzoru i raportowania
Karta modelu zapisuje w jednym miejscu zamierzone użycie, ocenę ryzyka oraz szczegóły treningu i ewaluacji na potrzeby nadzoru. Nie trenuje ani nie hostuje modelu.
Które elementy zwykle należą do SageMaker Model Card?
- Zamierzone i niezamierzone zastosowania modelu
- Miesięczna faktura AWS
- Ocena ryzyka, np. niskie, średnie lub wysokie
- Szczegóły treningu i wyniki ewaluacji
- Reguły grup zabezpieczeń dla VPC
Pokaż odpowiedź
Odpowiedź: A. Zamierzone i niezamierzone zastosowania modelu, C. Ocena ryzyka, np. niskie, średnie lub wysokie, D. Szczegóły treningu i wyniki ewaluacji
Karty zawierają zamierzone użycie, ocenę ryzyka oraz szczegóły treningu i ewaluacji. Faktury i reguły zapory sieciowej nie są dokumentacją modelu.
Prawda czy fałsz: model open source można używać do dowolnych celów bez warunków, bo jego wagi są publiczne.
Pokaż odpowiedź
Odpowiedź: Fałsz
Modele open source i z otwartymi wagami mają licencje, które mogą ograniczać użycie komercyjne, redystrybucję lub konkretne zastosowania. Zawsze czytaj licencję.
Przećwicz 8 pytań z tego tematu w Bitzu
Krótkie lekcje, natychmiastowe wyjaśnienia i powtórki tego, w czym się mylisz. Za darmo na iOS i Androida.
