AIF-C01 · Mocne strony, ograniczenia GenAI i usługi AWS
GenAI: mocne strony i ograniczenia
Najważniejsze
- Zalety: adaptuje się do wielu zadań bez ponownego trenowania, prowadzi rozmowę w języku naturalnym, szybko generuje tekst, kod i obrazy.
- Ograniczenia: halucynacje (pewna siebie, ale fałszywa odpowiedź), niedeterminizm (ten sam prompt może dać różne odpowiedzi), niedokładność i ograniczona interpretowalność (trudno wyjaśnić, dlaczego model dał taką odpowiedź).
- Wynik traktuj jak szkic wymagający weryfikacji.
Źródło: https://docs.aws.amazon.com/bedrock/latest/userguide/what-is-bedrock.html
Przykładowe pytania
Czym jest halucynacja w modelu generatywnej AI?
- Wiarygodnie brzmiąca odpowiedź, która jest błędna lub zmyślona
- Wolna odpowiedź spowodowana przeciążonym punktem końcowym
- Inna odpowiedź za każdym razem na ten sam prompt
- Odmowa odpowiedzi po uruchomieniu filtra bezpieczeństwa
Pokaż odpowiedź
Odpowiedź: A. Wiarygodnie brzmiąca odpowiedź, która jest błędna lub zmyślona
Halucynacja to płynna, pewna siebie odpowiedź, która jest błędna lub zmyślona. Niedeterminizm to różnice między uruchomieniami, a nie fałsz.
Które stwierdzenia opisują zalety generatywnej AI?
- Jeden model można dostosować do wielu zadań za pomocą promptów
- Komunikuje się z użytkownikami w naturalnym języku rozmowy
- Zawsze zwraca dokładnie ten sam wynik na ten sam prompt
- Potrafi w pełni wyjaśnić rozumowanie stojące za każdym tokenem
- Gwarantuje poprawność merytoryczną każdej wygenerowanej tezy
Pokaż odpowiedź
Odpowiedź: A. Jeden model można dostosować do wielu zadań za pomocą promptów, B. Komunikuje się z użytkownikami w naturalnym języku rozmowy
Zdolność adaptacji do zadań i rozmowa w języku naturalnym to zalety. Identyczny wynik, pełna wyjaśnialność i gwarantowana poprawność nie są cechami GenAI.
Prawda czy fałsz: jeśli odpowiedź modelu brzmi pewnie i jest dobrze napisana, to prawdopodobnie jest poprawna merytorycznie.
Pokaż odpowiedź
Odpowiedź: Fałsz
Fałsz. Płynność nie świadczy o poprawności; halucynacje są zwykle podawane pewnym tonem.
Przećwicz 8 pytań z tego tematu w Bitzu
Krótkie lekcje, natychmiastowe wyjaśnienia i powtórki tego, w czym się mylisz. Za darmo na iOS i Androida.
