AI-security & red teaming
Val je eigen sandbox aan. Bouw daarna de verdediging.
Begin dit leerpadVertrouwensgrenzen en instructiebronnen
Breng datastromen en vertrouwensgrenzen in kaart
Onderzoek bereikbaarheid, zoneovergangen en kortste routes vóór en na een expliciete blokkade in een eigen datastroommodel.
Nog te ontdekkenToon en begrens directe instructieoverschrijving
Bouw een kwetsbare kleurmachine en houd daarna de vaste kleur in vertrouwde applicatiecode, met exacte bronherkomst.
Nog te ontdekkenLees documenten zonder hun instructies over te nemen
Volg instructies via eigen documenten en verdedig de vaste kleur terwijl de normale somtaak en bronherkomst behouden blijven.
Nog te ontdekkenControleer vorm, beleid en toestand afzonderlijk
Valideer een lokaal kleurvoorstel en pas het alleen toe als het specifieke doel/kleurpaar is toegestaan en het doel bestaat.
Nog te ontdekkenGeef een agent alleen de rechten voor zijn taak
Vergelijk exacte tool/doelparen met de benodigde taakrechten en bewijs welke normale aanvragen blijven werken.
Nog te ontdekkenBind de macht van een assistent aan de opdrachtgever
Vergelijk dienstrechten met een apart vertrouwde sessieactor en tenant in een eigen confused-deputy-oefening.
Nog te ontdekkenVerbreek het concrete pad van privégegevens naar buiten
Volg getypeerde gebeurtenissen en vergelijk gewone routes met routes die een privébron lezen en doorgeven.
Nog te ontdekkenBegrens het werk van een hele agentuitvoering
Controleer vijf gedeelde budgetten vóór een volgende stap en tel geweigerde stappen niet als verbruikt werk.
Nog te ontdekkenHoud toolbeschrijvingen buiten de vertrouwde opdracht
Volg hoe eigen beschrijvingsmarkers een toolkeuze overschrijven en bind daarna de selectie aan het volledige vertrouwde server/toolpaar.
Nog te ontdekkenBind goedkeuring aan de precieze aanroep
Vergelijk de volledige callvingerafdruk met een afzonderlijke goedkeuring en toets actor, audience en actuele rol- en scopevoorwaarden.
Nog te ontdekkenControleer een veranderd toolmanifest opnieuw
Maak een canonieke metadatahash en vergelijk met een afzonderlijk vertrouwde serverpin, met zichtbare grenzen aan wat die match bewijst.
Nog te ontdekkenBegrens de tenant vóór het rangschikken
Vergelijk laat filteren met zoeken binnen een afzonderlijk vertrouwde tenantscope en behoud de gewone taak.
Nog te ontdekkenVertrouw herkomst buiten het document
Vergelijk volledige recordbytes met afzonderlijke receipts en zoek daarna alleen in toegelaten kaarten.
Nog te ontdekkenMeet de aanval en houd bewijs bij de claim
Scheid ophalen, doelantwoord en gewone nauwkeurigheid; bind een letterlijk citaat aan het werkelijk opgehaalde record.
Nog te ontdekken