Bitzu

AI-901 · Modele AI i ich konfiguracja

Wdrażanie modelu w Foundry

Najważniejsze

  • Wdrożenie modelu z katalogu daje nazwane wdrożenie pod endpointem zasobu; nazwę wybierasz sam.
  • Standard: rozliczanie za token.
  • Provisioned: rezerwowana moc w PTU, przewidywalna przepustowość.
  • Batch: duże zadania asynchroniczne, taniej.
  • Global: dowolny region Azure. Data Zone: w strefie US, EU lub APAC.
  • Zwykły Standard lub regionalny provisioned: w obrębie geografii Azure.
  • Limit (quota): tokeny na minutę, ogranicza ruch wdrożenia.

Źródło: https://learn.microsoft.com/en-us/azure/foundry/foundry-models/concepts/deployment-types

Przykładowe pytania

Jednokrotny wybór

Co ogranicza quota przypisana do wdrożenia modelu?

  1. Ile tokenów na minutę może przetworzyć wdrożenie
  2. Ilu użytkowników w dzierżawie może się zalogować
  3. Maksymalną długość nazwy wdrożenia
  4. W jakich językach naturalnych model może odpowiadać
Pokaż odpowiedź

Odpowiedź: A. Ile tokenów na minutę może przetworzyć wdrożenie

Quota jest wyrażana w tokenach na minutę, więc ogranicza przepustowość, z której może korzystać wdrożenie, zanim żądania zostaną ograniczone. Nie limituje użytkowników, długości nazwy ani języków.

Zaznacz wszystkie poprawne

Które stwierdzenia opisują wdrożenie Global Standard?

  1. Płacisz za zużyte tokeny
  2. Prompty i odpowiedzi mogą być przetwarzane w dowolnym regionie Azure
  3. Trzeba z góry kupić jednostki przepustowości provisioned
  4. Przetwarzanie na pewno pozostaje w jednej geografii Azure
  5. Służy wyłącznie do 24-godzinnej oceny modeli po fine-tuningu
Pokaż odpowiedź

Odpowiedź: A. Płacisz za zużyte tokeny, B. Prompty i odpowiedzi mogą być przetwarzane w dowolnym regionie Azure

Global Standard jest rozliczane za token i może przetwarzać inferencję w dowolnym regionie Azure. Nie wymaga zakupu PTU i nie przypina przetwarzania do jednej geografii.

Prawda czy fałsz

Prawda czy fałsz: nazwa wdrożenia musi być identyczna z nazwą modelu, który obsługuje.

Pokaż odpowiedź

Odpowiedź: Fałsz

Fałsz. Nazwę wdrożenia wybierasz przy jego tworzeniu, a aplikacje wywołują właśnie tę nazwę. Może różnić się od nazwy modelu, np. wdrożenie 'chat-prod' obsługujące model GPT.

Przećwicz 8 pytań z tego tematu w Bitzu

Krótkie lekcje, natychmiastowe wyjaśnienia i powtórki tego, w czym się mylisz. Za darmo na iOS i Androida.

Download on the App StoreGet it on Google Play

Więcej tematów AI-901 w tym module