Bitzu

AIF-C01 · Mocne strony, ograniczenia GenAI i usługi AWS

GenAI: mocne strony i ograniczenia

Najważniejsze

  • Zalety: adaptuje się do wielu zadań bez ponownego trenowania, prowadzi rozmowę w języku naturalnym, szybko generuje tekst, kod i obrazy.
  • Ograniczenia: halucynacje (pewna siebie, ale fałszywa odpowiedź), niedeterminizm (ten sam prompt może dać różne odpowiedzi), niedokładność i ograniczona interpretowalność (trudno wyjaśnić, dlaczego model dał taką odpowiedź).
  • Wynik traktuj jak szkic wymagający weryfikacji.

Źródło: https://docs.aws.amazon.com/bedrock/latest/userguide/what-is-bedrock.html

Przykładowe pytania

Jednokrotny wybór

Czym jest halucynacja w modelu generatywnej AI?

  1. Wiarygodnie brzmiąca odpowiedź, która jest błędna lub zmyślona
  2. Wolna odpowiedź spowodowana przeciążonym punktem końcowym
  3. Inna odpowiedź za każdym razem na ten sam prompt
  4. Odmowa odpowiedzi po uruchomieniu filtra bezpieczeństwa
Pokaż odpowiedź

Odpowiedź: A. Wiarygodnie brzmiąca odpowiedź, która jest błędna lub zmyślona

Halucynacja to płynna, pewna siebie odpowiedź, która jest błędna lub zmyślona. Niedeterminizm to różnice między uruchomieniami, a nie fałsz.

Zaznacz wszystkie poprawne

Które stwierdzenia opisują zalety generatywnej AI?

  1. Jeden model można dostosować do wielu zadań za pomocą promptów
  2. Komunikuje się z użytkownikami w naturalnym języku rozmowy
  3. Zawsze zwraca dokładnie ten sam wynik na ten sam prompt
  4. Potrafi w pełni wyjaśnić rozumowanie stojące za każdym tokenem
  5. Gwarantuje poprawność merytoryczną każdej wygenerowanej tezy
Pokaż odpowiedź

Odpowiedź: A. Jeden model można dostosować do wielu zadań za pomocą promptów, B. Komunikuje się z użytkownikami w naturalnym języku rozmowy

Zdolność adaptacji do zadań i rozmowa w języku naturalnym to zalety. Identyczny wynik, pełna wyjaśnialność i gwarantowana poprawność nie są cechami GenAI.

Prawda czy fałsz

Prawda czy fałsz: jeśli odpowiedź modelu brzmi pewnie i jest dobrze napisana, to prawdopodobnie jest poprawna merytorycznie.

Pokaż odpowiedź

Odpowiedź: Fałsz

Fałsz. Płynność nie świadczy o poprawności; halucynacje są zwykle podawane pewnym tonem.

Przećwicz 8 pytań z tego tematu w Bitzu

Krótkie lekcje, natychmiastowe wyjaśnienia i powtórki tego, w czym się mylisz. Za darmo na iOS i Androida.

Download on the App StoreGet it on Google Play

Więcej tematów AIF-C01 w tym module