AI Security
AI Security
Het toevoegen van een LLM of agent aan een product verandert het aanvalsoppervlak. Diezelfde route die AI-functionaliteit nuttig maakt (onbetrouwbare input die een redeneermodel bereikt dat tools kan aanroepen en acties kan uitvoeren) is ook waar het nieuwe risico zit.
Geleverd vanuit onze thuisbasis in Utrecht, beschikbaar voor organisaties in heel Nederland.
Wat dit omvat
Wij beoordelen AI-functionaliteit en agentic systemen aan de hand van de risicocategorieën waarop de sector zich richt, gebaseerd op de OWASP Top 10 voor LLM-applicaties.
Prompt injection & indirecte injectie
Testen hoe uw applicatie omgaat met vijandige input die direct in een prompt zit, of via opgehaalde content en documenten wordt binnengesmokkeld.
Excessive agency & onveilig tool-gebruik
Beoordelen wat een AI-agent daadwerkelijk mag doen, en of die bevoegdheden overeenkomen met wat nodig is.
RAG- en vector store-beveiliging
Toegangscontrole en gegevensisolatie voor retrieval-augmented systemen, zodat data van de ene klant niet lekt naar een andere.
AI-API's & agent-identiteit
Hoe AI-diensten authenticeren, welke rechten ze hebben, en of een agent's identiteit te onderscheiden is van de gebruiker namens wie hij handelt.
Model supply chain
Waar uw modellen, gewichten en fine-tuning-data vandaan komen, en wat stroomopwaarts van uw applicatie aangepast zou kunnen worden.
AI threat modelling
Gestructureerde beoordeling van een AI-functionaliteit vóór lancering, met de OWASP Top 10 voor LLM-applicaties als uitgangspunt.
Veelgestelde vragen
Wij gebruiken een externe LLM-API (OpenAI, Anthropic, Azure OpenAI). Is dit dan nog nodig?
Ja. Het gebruik van een gehost model beveiligt niet hoe uw applicatie de binnenkomende verzoeken verwerkt of de uitvoer gebruikt. Prompt injection en excessive agency gaan over hoe úw applicatie het model gebruikt.
Wat houdt een AI security-beoordeling in?
Threat modelling van uw specifieke AI-functionaliteit, testen op prompt injection (direct en indirect) en excessive agency, en een beoordeling van tool- en API-rechten en identiteitsscoping.