Sikkerhets- og arkitekturgjennomgang for KI
Jeg vurderer hvordan et KI-system krysser tillitsgrenser: hvilke data som går inn i modellen, hvilke verktøy den kan bruke, hva verktøyene kan endre, og hvordan resultatet kontrolleres før det påvirker produksjon eller en kunde.
Dette gjennomgås
Gjennomgangen kartlegger agenten, modellene, promptene, gjenfinningskildene, legitimasjonen, verktøytilgangene og eksterne tjenester i arbeidsflyten. Den ser etter steder der upålitelig innhold kan påvirke instruksjoner, der tilganger er bredere enn oppgaven krever, og der feil kan passere uten et pålitelig signal.
Slik avgrenses oppdraget
Vi starter med dagens arkitektur, en representativ arbeidsflyt og ønsket resultat. Første steg avgrenses til avtalte komponenter og miljøer. Målet er funn som kan gjenskapes og følges opp, ikke en generell sjekkliste uten kobling til implementasjonen.
Dette mottar du
Leveransen kan omfatte en beskrivelse av tillitsgrenser og dataflyt, prioriterte funn, konkrete tiltak og verifikasjonstrinn. Når implementering inngår, kontrolleres endringene mot avtalte akseptansekriterier og overleveres med dokumenterte forutsetninger og gjenværende risiko.
Dette påstår ikke gjennomgangen
En avgrenset gjennomgang beviser ikke at systemet er uten sårbarheter. Dekningen avhenger av tilgjengelig kode, konfigurasjon, tilgang og testmiljø. Funn skiller observert dokumentasjon fra antakelser, og restrisiko beskrives tydelig. Større autonomi bør følge snevrere tilganger og sterkere verifisering.