Bitzu

AIF-C01 · Inżynieria promptów

Dobre praktyki i ryzyka promptów

Najważniejsze

  • Dobre praktyki: bądź konkretny i zwięzły, dawaj jasne instrukcje oraz eksperymentuj i iteruj.
  • Ryzyka: ujawnienie (wyciek promptu), zatruwanie (skażone dane lub przykłady sterują wynikami), przejęcie lub wstrzyknięcie (tekst użytkownika nadpisuje instrukcje) i jailbreaking (obejście zabezpieczeń).
  • Guardrails pomagają filtrować takie ataki.

Źródło: https://docs.aws.amazon.com/bedrock/latest/userguide/prompt-management.html

Przykładowe pytania

Jednokrotny wybór

Który nawyk najbardziej poprawia jakość promptów w czasie?

  1. Testowanie wariantów i porównywanie wyników
  2. Pisanie każdego promptu możliwie najdłuższego
  3. Używanie jednego sformułowania dla każdego modelu
  4. Unikanie szczegółów, by zachować elastyczność
Pokaż odpowiedź

Odpowiedź: A. Testowanie wariantów i porównywanie wyników

Testowanie wariantów i porównywanie wyników to sposób na ulepszanie promptów. Dłuższy nie znaczy lepszy, a stałe sformułowanie ignoruje różnice między modelami.

Zaznacz wszystkie poprawne

Które środki pomagają chronić aplikację opartą na Bedrock przed atakami na prompty?

  1. Dołączyć guardrail z filtrem ataków na prompty
  2. Walidować i oczyszczać dane użytkownika przed wysłaniem
  3. Ufać danym użytkownika, bo model jest domyślnie bezpieczny
  4. Wstawiać tekst użytkownika do promptu systemowego bez oznaczenia
  5. Polegać wyłącznie na dłuższym prompcie
Pokaż odpowiedź

Odpowiedź: A. Dołączyć guardrail z filtrem ataków na prompty, B. Walidować i oczyszczać dane użytkownika przed wysłaniem

Guardrails z filtrem ataków na prompty i walidacja wejścia to zalecane zabezpieczenia. Samo ukrycie promptu w interfejsie nie powstrzyma wstrzyknięcia, a dłuższy prompt nie jest ochroną.

Prawda czy fałsz

Prawda czy fałsz: skoro AWS zabezpiecza usługę Bedrock, zapobieganie wstrzyknięciu promptu w Twojej aplikacji jest obowiązkiem AWS.

Pokaż odpowiedź

Odpowiedź: Fałsz

Fałsz. W modelu współdzielonej odpowiedzialności wstrzyknięcie promptu to kwestia warstwy aplikacji, którą musi zająć się klient, podobnie jak SQL injection.

Przećwicz 8 pytań z tego tematu w Bitzu

Krótkie lekcje, natychmiastowe wyjaśnienia i powtórki tego, w czym się mylisz. Za darmo na iOS i Androida.

Download on the App StoreGet it on Google Play

Więcej tematów AIF-C01 w tym module