AIF-C01 · Trenowanie i dostrajanie modeli bazowych
Selekcja, etykiety, rozmiar, nadzór i reprezentatywność danych
Najważniejsze
- Selekcja: usuń duplikaty, błędy i szum.
- Etykiety: dokładne pary prompt/odpowiedź do tuningu nadzorowanego.
- Rozmiar: od kilkuset do kilku tysięcy dobrych przykładów, w limitach modelu.
- Nadzór: własność, prywatność, zgodność.
- Reprezentatywność: realna mieszanka przypadków i użytkowników, by uniknąć uprzedzeń.
- Amazon Bedrock: pliki JSONL w Amazon S3.
- RLHF: ludzkie rankingi preferencji dopasowują odpowiedzi do oczekiwań ludzi.
Źródło: https://docs.aws.amazon.com/bedrock/latest/userguide/model-customization-prepare.html
Przykładowe pytania
W jakim formacie podajesz dane treningowe do zadania fine-tuningu w Amazon Bedrock?
- Skoroszyt Excel
- JSONL, jeden obiekt JSON w wierszu
- Jeden duży plik PDF
- Wyłącznie Parquet
Pokaż odpowiedź
Odpowiedź: B. JSONL, jeden obiekt JSON w wierszu
Zbiory treningowe i walidacyjne to pliki .jsonl, jeden rekord JSON w wierszu, przechowywane w Amazon S3.
Które działania należą do dobrego przygotowania danych do fine-tuningu?
- Usunąć duplikaty i rekordy niskiej jakości
- Sprawdzić prawa do danych i poprawnie obchodzić się z danymi osobowymi
- Dołączyć każdy surowy wiersz logów bez przeglądu
- Użyć tylko najłatwiejszych przykładów
- Zignorować limity rozmiaru zbioru wybranego modelu
Pokaż odpowiedź
Odpowiedź: A. Usunąć duplikaty i rekordy niskiej jakości, B. Sprawdzić prawa do danych i poprawnie obchodzić się z danymi osobowymi
Selekcja usuwa szum i duplikaty; nadzór sprawdza, czy wolno legalnie użyć danych. Dodawanie niesprawdzonych danych lub danych osobowych bez kontroli szkodzi jakości i zgodności.
Prawda czy fałsz: w fine-tuningu większy zbiór danych zawsze wygrywa z mniejszym, starannie wyselekcjonowanym.
Pokaż odpowiedź
Odpowiedź: Fałsz
Fałsz. Zaszumione lub błędnie oznaczone dane pogarszają wynik; mniejszy, czysty i reprezentatywny zbiór często działa lepiej niż większy bałagan.
Przećwicz 8 pytań z tego tematu w Bitzu
Krótkie lekcje, natychmiastowe wyjaśnienia i powtórki tego, w czym się mylisz. Za darmo na iOS i Androida.
