Bitzu

AIF-C01 · Projektowanie aplikacji z modelami bazowymi

Czym jest Retrieval Augmented Generation (RAG) i jak implementują je Amazon Bedrock Knowledge Bases?

Najważniejsze

  • RAG opiera model na Twoich danych bez jego douczania.
  • Ingest: dokumenty są dzielone na fragmenty, zamieniane na embeddingi i zapisywane w magazynie wektorowym.
  • Czas pytania: zapytanie jest zamieniane na embedding, podobne fragmenty są pobierane i dodawane do promptu, a model odpowiada na podstawie tego kontekstu.
  • Knowledge Bases: automatyzują ingest, embeddingi i wyszukiwanie; mogą zwracać cytowania źródeł.

Źródło: https://docs.aws.amazon.com/bedrock/latest/userguide/kb-how-it-works.html

Przykładowe pytania

Jednokrotny wybór

Jaki główny problem rozwiązuje RAG?

  1. Trwale douczą model na nowych dokumentach
  2. Sprawia, że każda odpowiedź jest szybsza niż zwykłe wywołanie modelu
  3. Pozwala modelowi odpowiadać na podstawie Twoich aktualnych dokumentów
  4. Eliminuje potrzebę jakichkolwiek embeddingów
Pokaż odpowiedź

Odpowiedź: C. Pozwala modelowi odpowiadać na podstawie Twoich aktualnych dokumentów

RAG dostarcza modelowi trafne, aktualne prywatne treści w czasie zapytania, więc odpowiedzi odzwierciedlają Twoje dane. Nie zmienia wag modelu, nie przyspiesza go i nie eliminuje potrzeby magazynu wektorowego.

Zaznacz wszystkie poprawne

Które kroki są częścią tego, jak baza wiedzy przygotowuje i wykorzystuje dane w przepływie RAG?

  1. Dzielenie dokumentów źródłowych na fragmenty
  2. Zamiana fragmentów na embeddingi zapisane w indeksie wektorowym
  3. Aktualizacja wag modelu bazowego dokumentami
  4. Usunięcie oryginalnych dokumentów po ingeście
  5. Dodanie pobranych fragmentów do promptu przed generowaniem
Pokaż odpowiedź

Odpowiedź: A. Dzielenie dokumentów źródłowych na fragmenty, B. Zamiana fragmentów na embeddingi zapisane w indeksie wektorowym, E. Dodanie pobranych fragmentów do promptu przed generowaniem

Dokumenty są dzielone na fragmenty i zamieniane na embeddingi zapisane w indeksie wektorowym, a w czasie zapytania zapytanie jest zamieniane na embedding i dopasowywane, po czym pobrany tekst wzbogaca prompt. Wagi modelu nie są aktualizowane, a dokumenty nie są usuwane po ingeście.

Prawda czy fałsz

Skoro RAG daje modelowi trafne dokumenty, gwarantuje, że odpowiedź nigdy nie będzie zawierać halucynacji.

Pokaż odpowiedź

Odpowiedź: Fałsz

Fałsz. RAG ogranicza halucynacje, opierając odpowiedź na pobranym tekście, ale słabe wyszukiwanie albo model ignorujący kontekst nadal mogą dać błędne twierdzenia. Cytowania pomagają użytkownikom to zweryfikować.

Przećwicz 8 pytań z tego tematu w Bitzu

Krótkie lekcje, natychmiastowe wyjaśnienia i powtórki tego, w czym się mylisz. Za darmo na iOS i Androida.

Download on the App StoreGet it on Google Play

Więcej tematów AIF-C01 w tym module