AIF-C01 · Inżynieria promptów
Dobre praktyki i ryzyka promptów
Najważniejsze
- Dobre praktyki: bądź konkretny i zwięzły, dawaj jasne instrukcje oraz eksperymentuj i iteruj.
- Ryzyka: ujawnienie (wyciek promptu), zatruwanie (skażone dane lub przykłady sterują wynikami), przejęcie lub wstrzyknięcie (tekst użytkownika nadpisuje instrukcje) i jailbreaking (obejście zabezpieczeń).
- Guardrails pomagają filtrować takie ataki.
Źródło: https://docs.aws.amazon.com/bedrock/latest/userguide/prompt-management.html
Przykładowe pytania
Który nawyk najbardziej poprawia jakość promptów w czasie?
- Testowanie wariantów i porównywanie wyników
- Pisanie każdego promptu możliwie najdłuższego
- Używanie jednego sformułowania dla każdego modelu
- Unikanie szczegółów, by zachować elastyczność
Pokaż odpowiedź
Odpowiedź: A. Testowanie wariantów i porównywanie wyników
Testowanie wariantów i porównywanie wyników to sposób na ulepszanie promptów. Dłuższy nie znaczy lepszy, a stałe sformułowanie ignoruje różnice między modelami.
Które środki pomagają chronić aplikację opartą na Bedrock przed atakami na prompty?
- Dołączyć guardrail z filtrem ataków na prompty
- Walidować i oczyszczać dane użytkownika przed wysłaniem
- Ufać danym użytkownika, bo model jest domyślnie bezpieczny
- Wstawiać tekst użytkownika do promptu systemowego bez oznaczenia
- Polegać wyłącznie na dłuższym prompcie
Pokaż odpowiedź
Odpowiedź: A. Dołączyć guardrail z filtrem ataków na prompty, B. Walidować i oczyszczać dane użytkownika przed wysłaniem
Guardrails z filtrem ataków na prompty i walidacja wejścia to zalecane zabezpieczenia. Samo ukrycie promptu w interfejsie nie powstrzyma wstrzyknięcia, a dłuższy prompt nie jest ochroną.
Prawda czy fałsz: skoro AWS zabezpiecza usługę Bedrock, zapobieganie wstrzyknięciu promptu w Twojej aplikacji jest obowiązkiem AWS.
Pokaż odpowiedź
Odpowiedź: Fałsz
Fałsz. W modelu współdzielonej odpowiedzialności wstrzyknięcie promptu to kwestia warstwy aplikacji, którą musi zająć się klient, podobnie jak SQL injection.
Przećwicz 8 pytań z tego tematu w Bitzu
Krótkie lekcje, natychmiastowe wyjaśnienia i powtórki tego, w czym się mylisz. Za darmo na iOS i Androida.
