AIF-C01 · Pojęcia generatywnej AI
Inżynieria kontekstu i agentowa AI
Najważniejsze
- Inżynieria kontekstu: dobór treści dla modelu (instrukcje, dokumenty, historia rozmowy, wyniki narzędzi) w limicie okna tokenów.
- Agent: pętla: planuje, wywołuje narzędzia, korzysta z pamięci (krótkotrwałej w rozmowie, długotrwałej między sesjami).
- Wieloagentowość: agenci współpracują.
- Model Context Protocol (MCP): otwarty standard łączenia agentów z narzędziami i danymi.
- Amazon Bedrock AgentCore: zarządzane usługi dla agentów.
Źródło: https://docs.aws.amazon.com/bedrock-agentcore/latest/devguide/what-is-bedrock-agentcore.html
Przykładowe pytania
Do czego głównie służy Model Context Protocol (MCP)?
- Standardowy sposób łączenia agentów z narzędziami i źródłami danych
- Metoda pre-trainingu modeli bazowych
- Plan cenowy za zużycie tokenów
- Schemat szyfrowania wag modelu
Pokaż odpowiedź
Odpowiedź: A. Standardowy sposób łączenia agentów z narzędziami i źródłami danych
MCP to otwarty protokół standaryzujący sposób, w jaki aplikacje AI i agenci łączą się z zewnętrznymi narzędziami i źródłami danych. Nie jest metodą treningu, planem cenowym ani schematem szyfrowania.
Które elementy zwykle wchodzą w skład kontekstu składanego przez aplikację do wywołania modelu?
- Instrukcje systemowe opisujące zadanie i ton
- Dokumenty pobrane do bieżącego pytania
- Pełny oryginalny zbiór danych treningowych modelu
- Ostatnie tury rozmowy
- Miesięczna faktura za usługi chmurowe
Pokaż odpowiedź
Odpowiedź: A. Instrukcje systemowe opisujące zadanie i ton, B. Dokumenty pobrane do bieżącego pytania, D. Ostatnie tury rozmowy
Instrukcje, pobrane dokumenty i ostatnia historia rozmowy to klasyczny kontekst. Dane treningowe modelu są już zapisane w jego wagach, a faktura za chmurę nie jest modelowi potrzebna.
Prawda czy fałsz: im więcej tekstu włożysz do okna kontekstu, tym zawsze lepsza odpowiedź.
Pokaż odpowiedź
Odpowiedź: Fałsz
Fałsz. Okno jest ograniczone, każdy token zwiększa koszt i opóźnienie, a nieistotny tekst może rozpraszać model. Inżynieria kontekstu polega na dodaniu właściwych informacji, nie jak największej ilości.
Przećwicz 8 pytań z tego tematu w Bitzu
Krótkie lekcje, natychmiastowe wyjaśnienia i powtórki tego, w czym się mylisz. Za darmo na iOS i Androida.
