Bitzu

AIF-C01 · Mocne strony, ograniczenia GenAI i usługi AWS

Wybór modelu GenAI

Najważniejsze

  • Zacznij od potrzeby biznesowej, potem zważ: typ modelu i modalność (tekst, obraz, embeddingi), możliwości (rozumowanie, języki, okno kontekstu), jakość na własnych danych, ograniczenia (lokalizacja danych, licencja), zgodność z regulacjami, koszt za token, opóźnienie i złożoność integracji.
  • Największy model rzadko jest najlepszy; zwykle wygrywa najtańszy spełniający próg jakości.

Przykładowe pytania

Jednokrotny wybór

Który czynnik opisuje, jak długo użytkownik czeka na odpowiedź modelu?

  1. Opóźnienie (latency)
  2. Okno kontekstu
  3. Rodzaj licencji
  4. Modalność
Pokaż odpowiedź

Odpowiedź: A. Opóźnienie (latency)

Opóźnienie to czas odpowiedzi. Przepustowość to wolumen na czas, okno kontekstu to rozmiar wejścia, a koszt to cena użycia.

Zaznacz wszystkie poprawne

Firma musi trzymać dane klientów w UE i potrzebuje modelu dobrze radzącego sobie z polskim. Jakie czynniki powinny kształtować krótką listę?

  1. Czy model jest dostępny w regionie UE
  2. Zmierzona jakość w zadaniach po polsku
  3. Jak znana jest marka dostawcy modelu
  4. Kolorystyka strony modelu w konsoli
  5. Liczba obserwujących model w mediach społecznościowych
Pokaż odpowiedź

Odpowiedź: A. Czy model jest dostępny w regionie UE, B. Zmierzona jakość w zadaniach po polsku

Dostępność w regionie UE (rezydencja danych) i jakość dla języka polskiego to bezpośrednie wymagania. Znajomość marki ani wygląd konsoli ich nie dotyczą.

Prawda czy fałsz

Prawda czy fałsz: model z największą liczbą parametrów jest zawsze najlepszym wyborem dla przypadku biznesowego.

Pokaż odpowiedź

Odpowiedź: Fałsz

Fałsz. Większe modele zwykle kosztują więcej i odpowiadają wolniej; mniejszy model spełniający próg jakości często pasuje lepiej.

Przećwicz 8 pytań z tego tematu w Bitzu

Krótkie lekcje, natychmiastowe wyjaśnienia i powtórki tego, w czym się mylisz. Za darmo na iOS i Androida.

Download on the App StoreGet it on Google Play

Więcej tematów AIF-C01 w tym module