AIF-C01 · Zastosowania AI i usługi AI w AWS
Tradycyjne ML a modele fundamentowe
Najważniejsze
- Model ML dla zadania: trenowany na oznaczonych danych do jednego celu.
- Zalety: zwykle tańszy i szybszy na predykcję, łatwiej wyjaśnić i uruchomić na małym lub offline'owym sprzęcie.
- Model fundamentowy: pretrenowany na szerokich danych, dostosowywany do wielu zadań promptami lub dostrajaniem; do otwartych zadań językowych.
- Wady: droższe wywołanie, trudniej wyjaśnić.
- Zadania regulowane, masowe, ustrukturyzowane: często tradycyjny.
Przykładowe pytania
Jaka jest główna zaleta modelu fundamentowego w porównaniu z modelem do konkretnego zadania?
- Jeden wstępnie wytrenowany model można dostosować do wielu różnych zadań
- Każdą predykcję łatwo powiązać z konkretnymi cechami wejścia
- Zawsze ma najniższy koszt na predykcję
- Nie potrzebuje mocy obliczeniowej podczas wnioskowania
Pokaż odpowiedź
Odpowiedź: A. Jeden wstępnie wytrenowany model można dostosować do wielu różnych zadań
Model fundamentowy jest wstępnie wytrenowany na szerokich danych, więc jeden model można skierować do wielu zadań promptami. Jego predykcje są zwykle trudniejsze, nie łatwiejsze do wyjaśnienia, a koszt wywołania zwykle wyższy.
Które powody przemawiają za tradycyjnym modelem do konkretnego zadania zamiast modelu fundamentowego?
- Każda predykcja musi być wyjaśniona audytorowi
- Miliony ustrukturyzowanych wierszy trzeba ocenić tanio i szybko
- System ma pisać zróżnicowane e-maile w wolnym tekście
- Jeden asystent ma obsłużyć wiele niepowiązanych zadań językowych
- Brak oznaczonych danych, a zadania zmieniają się co tydzień
Pokaż odpowiedź
Odpowiedź: A. Każda predykcja musi być wyjaśniona audytorowi, B. Miliony ustrukturyzowanych wierszy trzeba ocenić tanio i szybko
Wyjaśnialność każdej predykcji oraz tanie, szybkie masowe ocenianie danych tabelarycznych to klasyczne atuty modeli do konkretnych zadań. Pisanie zróżnicowanego tekstu i obsługa wielu niepowiązanych zadań to domena modeli fundamentowych.
Prawda czy fałsz: model fundamentowy jest zawsze tańszy w uruchomieniu niż mały model do konkretnego zadania.
Pokaż odpowiedź
Odpowiedź: Fałsz
Fałsz. Modele fundamentowe są duże, więc każde wywołanie zwykle kosztuje więcej i trwa dłużej niż ocena kompaktowym modelem zbudowanym do jednego celu.
Przećwicz 8 pytań z tego tematu w Bitzu
Krótkie lekcje, natychmiastowe wyjaśnienia i powtórki tego, w czym się mylisz. Za darmo na iOS i Androida.
