AI Security
Een LLM-beveiligingschecklist voor teams die AI-functionaliteit bouwen
ITTCsec Security Engineering Team · 19 mei 2026 · Bijgewerkt 5 september 2026
Het toevoegen van een LLM aan een product verandert het aanvalsoppervlak op een manier die makkelijk wordt onderschat: het model leest onbetrouwbare input en kan daardoor worden gestuurd, soms op manieren die de bouwers van de waarborgen niet hadden voorzien. De OWASP Top 10 voor LLM-applicaties is de dichtstbijzijnde gedeelde basislijn die de branche heeft. Dit is die basislijn vertaald naar concrete controles.
Prompt injection (direct en indirect)
- Heeft u getest wat er gebeurt als een gebruiker het model rechtstreeks instrueert zijn systeemprompt te negeren?
- Voedt uw applicatie het model content uit externe bronnen (webpagina's, documenten, e-mails), heeft u dan getest op injectie verstopt in díe content? Indirecte injectie is vaak de gevaarlijkere variant, omdat de gebruiker zelf niets kwaadaardigs hoeft te typen.
Excessive agency
- Als uw model tools of API's kan aanroepen, heeft het dan precies de rechten die de taak vereist, of bredere toegang "voor de zekerheid"?
- Is er een menselijke goedkeuringsstap voordat een actie met echte gevolgen wordt uitgevoerd (een e-mail versturen, een aankoop doen, gegevens wijzigen)?
Onveilige verwerking van output
- Wordt modeloutput ooit direct in HTML gerenderd, als code uitgevoerd, of in een databasequery gebruikt zonder dezelfde validatie die u op elke andere onbetrouwbare input zou toepassen?
Ongewenste openbaarmaking van gevoelige informatie
- Kan het model worden verleid tot het prijsgeven van de inhoud van de systeemprompt, gegevens van andere gebruikers, of informatie waarop het is getraind of fijnafgestemd die niet openbaar zou mogen zijn?
RAG- en vector store-beveiliging
- Gebruikt u retrieval-augmented generation, is de toegang tot de vector store dan afgebakend per tenant of per gebruiker, of zou de query van de ene klant de gegevens van een andere klant kunnen ophalen?
Model en toeleveringsketen
- Kent u de herkomst van elk model, elke fijnafstemmingsdataset, of elke embedding van een derde partij waar u van afhankelijk bent?
- Bent u vastgezet op specifieke modelversies, of kan een upstream-modelupdate het gedrag van uw applicatie stilletjes veranderen?
Monitoring
- Kunt u ongebruikelijke patronen in prompts of output na lancering detecteren, of is monitoring beperkt tot uptime en latency?
Niets van dit alles vervangt een echt dreigingsmodel voor uw specifieke applicatie, maar kunt u de meeste van bovenstaande vragen niet met vertrouwen beantwoorden, dan is dat een redelijk signaal dat het tijd is voor zo'n dreigingsmodel.
Gerelateerde diensten