Audyt bezpieczeństwa i architektury AI
Sprawdzam, w jaki sposób system AI przekracza granice zaufania: jakie dane trafiają do modelu, jakie narzędzia może wywołać, co mogą one zmienić oraz jak rezultat jest weryfikowany przed wpływem na produkcję lub klienta.
Co obejmuje audyt
Audyt mapuje agenta, modele, prompty, źródła RAG, poświadczenia, uprawnienia narzędzi i zewnętrzne usługi uczestniczące w procesie. Szukam miejsc, w których niezaufana treść może wpłynąć na instrukcje, uprawnienia są szersze niż wymaga zadanie albo błąd może przejść dalej bez wiarygodnego sygnału.
Jak wyznaczamy zakres
Zaczynamy od aktualnej architektury, reprezentatywnego procesu i oczekiwanego rezultatu. Pierwszy etap ograniczamy do uzgodnionych komponentów i środowisk. Celem są ustalenia możliwe do odtworzenia i naprawienia, a nie ogólna lista kontrolna oderwana od implementacji.
Co otrzymujesz
Dostawa może zawierać opis granic zaufania i przepływu danych, ustalenia z priorytetami, konkretne sposoby naprawy i kroki weryfikacyjne. Jeśli zakres obejmuje implementację, zmiany są sprawdzane względem kryteriów odbioru i przekazywane z opisem założeń oraz pozostałego ryzyka.
Czego audyt nie deklaruje
Ograniczony audyt nie dowodzi braku podatności. Pokrycie zależy od udostępnionego kodu, konfiguracji, dostępów i środowiska testowego. Ustalenia rozdzielają zaobserwowane dowody od wniosków, a ryzyko rezydualne jest opisane jawnie. Większa autonomia powinna następować po zawężeniu uprawnień i wzmocnieniu weryfikacji.