AIF-C01 · Bezpieczeństwo i nadzór nad rozwiązaniami AI
Pochodzenie danych i bezpieczna inżynieria danych
Najważniejsze
- Lineage danych: skąd pochodzą dane i jakie przeszły przekształcenia w drodze do modelu lub raportu.
- Katalog danych: metadane (właściciel, schemat, wrażliwość), by zbiory dało się znaleźć i im zaufać.
- Cytowanie źródeł: odpowiedź wskazuje użyte dokumenty.
- Bezpieczna inżynieria danych: kontrole jakości, ochrona prywatności (maskowanie, tokenizacja, agregacja), ścisła kontrola dostępu, integralność (wersjonowanie, sumy kontrolne).
Przykładowe pytania
Co opisuje lineage danych?
- Skąd dane pochodzą i jak były przekształcane w czasie
- Jak szybko zbiór można odczytać z magazynu
- Którzy użytkownicy logują się najczęściej
- Ile modeli wytrenowano danego dnia
Pokaż odpowiedź
Odpowiedź: A. Skąd dane pochodzą i jak były przekształcane w czasie
Lineage to możliwa do prześledzenia historia zbioru: pochodzenie i przekształcenia. Pozostałe opcje mierzą wydajność, użycie lub liczbę treningów.
Które praktyki chronią jakość i integralność danych w potoku danych AI?
- Walidacja schematu i zakresów wartości przy ingestii
- Wersjonowanie zbiorów i weryfikacja sum kontrolnych
- Ograniczenie prawa zapisu do zbioru po obróbce
- Pozwolenie każdemu analitykowi na bezpośrednią edycję plików treningowych
- Usuwanie zapisu wcześniejszych wersji zbioru
Pokaż odpowiedź
Odpowiedź: A. Walidacja schematu i zakresów wartości przy ingestii, B. Wersjonowanie zbiorów i weryfikacja sum kontrolnych, C. Ograniczenie prawa zapisu do zbioru po obróbce
Walidacja, wersjonowanie i ograniczony zapis utrzymują poprawność i widoczność manipulacji. Otwarte prawa edycji i wymazana historia niszczą integralność.
Prawda czy fałsz: po zanonimizowaniu zbioru kontrola dostępu do niego przestaje być potrzebna.
Pokaż odpowiedź
Odpowiedź: Fałsz
Fałsz. Anonimizacja bywa niedoskonała, a dane nadal mogą być poufne lub cenne, więc kontrola dostępu i monitoring nadal obowiązują.
Przećwicz 8 pytań z tego tematu w Bitzu
Krótkie lekcje, natychmiastowe wyjaśnienia i powtórki tego, w czym się mylisz. Za darmo na iOS i Androida.
