AI och straffrätt: vem är ansvarig när en algoritm orsakar skada?

Enligt nederländsk och europeisk lag kan en algoritm inte vara straffrättsligt ansvarig, inte ens delvis. Artikel 51 i den nederländska brottsbalken (Wetboek van Strafrecht, Sr) erkänner endast fysiska personer och juridiska personer som förövare, så den verkliga frågan är vilken person eller vilket företag som är ansvarigt för vad AI-systemet gjorde.

Nederländsk straffrätt besvarar redan den frågan genom funktionellt förövande (functioneel daderschap) och företags straffrättsligt ansvar. Den här artikeln förklarar hur dessa doktriner gäller för AI, hur EU:s AI-lag fastställer vårdstandarden, hur algoritmisk utdata används som bevis och hur ett försvars- och efterlevnadsprogram ser ut. För leveranskedjeperspektivet, se vår tillhörande artikel om vem som är ansvarig när en maskin begår ett brott.

Varför kan en algoritm inte vara misstänkt?

Ett brott kräver ett agerande av en gärningsman som kan klandras, och ett AI-system saknar vilja och kan inte straffas. Artikel 51(1) i den statliga lagen föreskriver att brott kan begås av fysiska personer och juridiska personer; programvara är ingetdera.

Sanktioner som fängelse, böter eller samhällsstraff kan inte åläggas en modell. Att radera en modell straffar dess ägare, inte systemet. Allt som straffrätten vill uppnå efter AI-orsakad skada måste därför uppnås genom de personer och organisationer som ligger bakom den.

Vem är istället ansvarig?

Operatören, företaget och dess ledning. Nederländsk straffrätt har två mekanismer för att hålla någon ansvarig för beteenden de inte fysiskt utförde, och båda gäller för AI utan ändringar.

Funktionellt förövande

Enligt det test som Högsta domstolen (Hoge Raad) formulerade i domen i målet IJzerdraad är en person den funktionella gärningsmannen om de hade befogenhet att avgöra om handlingen ägde rum och accepterade den, eller vanligtvis accepterade ett sådant beteende.

För AI är förfoganderätt vanligtvis lätt att bevisa: operatören kan konfigurera, omskola och stänga av systemet. Acceptans avgör fallet. Bevisen gäller vad operatören visste om fellägen, vad tester och tidigare incidenter visade och vad som gjordes åt det. Att medvetet acceptera en betydande risk räcker; det är den nederländska standarden för villkorlig avsikt (voorwaardelijk opzet).

Företagsansvar och de facto ledarskap

Om verksamhetsutövaren är ett företag gäller artikel 51 Sr. I domen i målet Drijfmest (ECLI:NL:HR:2003:AF7938) fastslog Högsta domstolen att ett agerande kan tillskrivas en juridisk person om det ägde rum inom dess sfär. Indikatorer är att agerandet utfördes av någon som arbetade för den, passar in i dess normala verksamhet, gynnade den och att företaget kunde kontrollera det och accepterade det, inklusive genom att inte iaktta rimlig försiktighet. Ett AI-system som används för företagets arbete uppfyller de flesta av dessa indikatorer.

Artikel 51(2) Sr tillåter även åtal mot dem som utfärdade ordern eller de facto ledde brottet (feitelijk leidinggeven). I sin dom av den 26 april 2016 (ECLI:NL:HR:2016:733) fastslog Högsta domstolen att en formell ställning varken är nödvändig eller tillräcklig. En passiv roll kan vara tillräcklig när personen kunde och var skyldig att förhindra beteendet, och åtminstone medvetet accepterade den betydande risken för att det skulle inträffa. I ett AI-fall är beviset vem som mottog valideringsrapporten, vem som godkände utplaceringen och vem som accepterade en känd felfrekvens.

Vilka brott är mest sannolika?

Åtal som involverar automatiserade system vilar vanligtvis på vårdslöshet. Om ett AI-drivet fordon, en maskin eller en medicinteknisk produkt orsakar dödsfall, är brottet vållande av dödsfall genom vårdslöshet enligt artikel 307 Sr (upp till två års fängelse); för allvarlig skada, artikel 308 Sr.

Diskriminering är den andra kategorin. Att diskriminera personer i utövandet av ett ämbete, yrke eller verksamhet på grund av ras, religion, övertygelse, kön eller sexuell läggning är ett brott enligt artikel 429quater Sr; avsiktlig diskriminering på grund av ras är ett brott enligt artikel 137g Sr. En modell som systematiskt missgynnar en skyddad grupp kan därför bli ett brottmål. Vår guide till straffprocessrättsligt förfarande i Nederländerna förklarar hur ett sådant fall går till.

Hur påverkar AI-lagen straffrättsligt ansvar?

EU:s AI-lag (förordning (EU) 2024/1689) skapar inga straffbara handlingar, men den anger vad en noggrann leverantör eller distributionsleverantör måste göra. En avvikelse från den standarden är bevis på vårdslöshet; efterlevnad är bevis på omsorg.

Lagen sorterar system efter risk. Vissa metoder är förbjudna, såsom social scoring, oriktad skrapning av ansiktsbilder och känsloigenkänning på jobbet eller i utbildningen. Högrisksystem inkluderar säkerhetskomponenter i reglerade produkter och användningsområden såsom rekrytering, kreditvärdering, brottsbekämpning, migration och rättskipning. System som interagerar med människor eller genererar syntetiskt innehåll har transparensskyldigheter.

Leverantör eller distributionsleverantör: vilken roll har du?

En leverantör utvecklar ett system och släpper det på marknaden under eget namn; en distributionsleverantör använder ett system under egen auktoritet. Leverantörer har designskyldigheterna, distributionsleverantörer har skyldigheterna att använda systemet korrekt, övervaka det och övervaka systemet.

En distributionsleverantör blir en leverantör om den sätter sitt eget namn på ett högrisksystem, väsentligt modifierar det eller ändrar dess syfte så att det blir högrisksystem. Att finjustera en köpt modell och använda den för ett nytt syfte kan föra dig över den gränsen. I en brottsutredning återkommer samma fråga som: vem hade förfoganderätten? Registrera rollerna skriftligen och i kontraktet.

Vad gäller redan?

Förbuden, skyldigheten att behärska AI, reglerna för generella AI-modeller och transparensskyldigheterna i artikel 50 gäller redan. Den digitala omnibusen (förordning (EU) 2026/1744) sköt upp skyldigheterna för högrisksystem. Det föreslagna direktivet om ansvar för AI drogs tillbaka, så civilrättsligt ansvar för AI-skada är fortfarande en fråga om nederländsk skadestånds- och produktansvarsrätt.

Böter enligt lagen är administrativa: upp till 35 miljoner euro eller 7 % av den globala årsomsättningen för förbjudna metoder, med lägre tak för andra intrång. I Nederländerna samordnar den nederländska dataskyddsmyndigheten (Autoriteit Persoonsgegevens) och den nederländska myndigheten för digital infrastruktur (Rijksinspectie Digitale Infrastructuur) tillsynen. Se våra artiklar om förbjudna AI-metoder , AI-system med hög risk och vår översikt över EU:s AI-lag.

En åklagare använder lagen som en checklista. Om en driftsättare använde ett screeningverktyg utan att kontrollera träningsdata för partiskhet och utan den mänskliga tillsyn som krävs, dokumenteras intrånget och godkännande följer av beslutet att driftsätta ändå. Omvänt har ett företag som kan presentera sin riskbedömning, valideringsresultat, tillsynsprotokoll och incidentlogg byggt sitt försvar i förväg.

Hur används algoritmisk utdata som bevis?

Algoritmisk utdata såsom ansiktsigenkänningsmatchningar, nummerplåtsigenkänning eller bedrägeririskpoäng är inte en separat beviskategori. Enligt artikel 339 i straffprocesslagen (Wetboek van Strafbeoordeling, Sv) är bevis begränsade till fasta kategorier, så utdata når domstolen genom skriftliga dokument såsom en officiell polisrapport eller genom ett expertutlåtande.

Försvaret prövar tre frågor. Är metoden validerad, och av vem? Under vilka förhållanden misslyckas den, och fanns de? Och kan försvaret verifiera den, med tillgång till information om träningsdata, felfrekvenser och konfiguration? En matchning som presenteras utan en felfrekvens eller någon möjlighet till verifiering är svaga bevis, och att ifrågasätta dem är ett legitimt försvar.

Domstolen kan utse en expert på eget initiativ eller på begäran av försvaret. Om en AI-metod faller utanför något erkänt expertområde är det i sig ett argument om tillförlitlighet. Den nya brottmålsprocesslagen har antagits och planeras träda i kraft 2029; fram till dess gäller nuvarande Sv.

Vad tillför dataskyddslagen?

Artikel 22 i GDPR ger en person rätt att inte bli föremål för ett beslut som enbart grundar sig på automatiserad behandling och som väsentligt påverkar personen. Inom brottsbekämpning implementerar polisdatalagen (Wet politiegegevens) de parallella EU-reglerna för polisen. För en misstänkt kan detta vara en väg till information om ett system; för ett företag är automatiserat beslutsfattande utan laglig grund ett separat intrång som kommer att läsas tillsammans med eventuella brottsanklagelser.

Hur försvarar man sig i ett fall där AI är inblandad?

Försvaret med den "svarta lådan", att ingen kunde veta vad systemet skulle göra, är svagare än det ser ut. Nederländsk straffrätt frågar om svaranden kunde avgöra om beteendet ägde rum och accepterade risken, inte om de förutsåg den exakta effekten; att använda ett oförklarligt system där det kan orsaka allvarlig skada kan i sig vara att acceptera den risken.

Tre försvar fungerar bättre, och alla är bevisbara:

• Ingen riktig kontroll: Systemet köptes som en färdig produkt, konfigurerades och underhålls av leverantören, och svaranden hade varken information eller möjlighet att ingripa. Detta skiftar uppmärksamheten till leverantören och beror på avtalet och vad som rapporterades.
• Noggrannhet: en dokumenterad riskbedömning, validering före utplacering, mänsklig tillsyn av någon med befogenhet att åsidosätta, övervakning och snabba åtgärder vid incidenter.
• Orsakssamband: I en kedja från träningsdata till modell till mänskligt beslut till resultat, måste åklagaren bevisa att den åtalades beteende orsakade resultatet.

Bevara loggar, modellversioner, konfigurationer och incidentrapporter tidigt, eftersom de rutinmässigt skrivs över. De vanliga skyddsåtgärderna gäller fullt ut, inklusive rätten att tiga enligt artikel 29 Sv; se vår artikel om rätten att tiga i brottmål . För bedrägerier med automatiserade verktyg, se vår guide till bedrägerier och ekonomisk brottslighet i Nederländerna.

Vad visar frågan om barnomsorgsbidrag?

Affären om barnomsorgsbidrag (toeslagenaffaire) visar hur automatiserat riskurval i kombination med obestridlig utdata kan skada tusentals familjer utan att någon hålls straffrättsligt ansvarig. Den nederländska skattemyndigheten (Belastingdienst) använde riskklassificering där nationalitet spelade en roll; den nederländska dataskyddsmyndigheten fann att behandlingen var olaglig och utdömde böter, och regeringen avgick i januari 2021.

Tre misslyckanden leder till rättslig exposure för alla organisationer: beslut kunde inte förklaras och därför inte ifrågasättas, mänsklig tillsyn existerade endast på papperet, och en flagga omvände bevisbördan i praktiken. Denna spridning av ansvar är precis vad funktionellt förövande och artikel 51 i den allmänna ordningen är utformade för att motverka, och varför AI-lagen kräver identifierbar mänsklig tillsyn och dokumentation.

Vad bör man kontrollera som företag som använder AI?

Det mesta arbetet med efterlevnad enligt AI-lagen producerar också de bevis du skulle behöva i en brottsutredning.

• Har ni listat alla AI-system som används, inklusive funktioner i köpt programvara, och klassificerat vart och ett enligt AI-lagen?
• Är en namngiven person ansvarig för varje system, med befogenhet att godkänna driftsättning och stänga av det?
• Är mänsklig tillsyn verklig: kan granskaren förstå resultatet och avvisa det, och loggas åsidosättningar?
• Har ni dokumenterat träningsdata, tester, kända felfrekvenser och beslut kring dem?
• Har en konsekvensbedömning för dataskydd eller grundläggande rättigheter gjorts där det har krävts?
• Innehåller era avtal leverantörens tekniska dokumentation och incidentmeddelanden?

Vad bör man kontrollera som leverantör av AI-system?

Som leverantör har du designskyldigheterna och är först i kön när distributionsföretag pekar uppåt i kedjan.

• Är ditt avsedda ändamål exakt definierat i bruksanvisningen?
• Har ni teknisk dokumentation om datakällor, bias-testning och designval?
• Har ni skriftligen informerat driftsättarna om kända begränsningar och felförhållanden?
• Har ni en rutin för incidenter och för att informera driftsättare om väsentliga ändringar?
• Anger ert kontrakt vilken part som får modifiera eller omskola systemet?

Vad händer om AI används som ett verktyg för att begå ett brott?

Då är brottet helt enkelt brottet; tekniken förändrar inte den rättsliga analysen. Bedrägeri med en klonad röst eller en syntetisk video av en regissör är bedrägeri (oplichting) enligt artikel 326 Sr; ett genererat falskt dokument är förfalskning enligt artikel 225 Sr; att utge sig för att vara någon annan med deras identifierande uppgifter är identitetsbedrägeri enligt artikel 231b Sr.

Sedan lagen om sexualbrott (Wet seksuele misdrijven) trädde i kraft den 1 juli 2024 är det straffbart enligt artikel 254ba Sr att offentliggöra en sexuell bild av en person i vetskap om att det kan skada dem; en genererad bild är inte utesluten eftersom den inte spelades in. Systematiska trakasserier genom automatiserade konton kan betraktas som stalking enligt artikel 285b Sr, vilket endast åtalas efter anmälan. AI förändrar främst bevisomfattningen och svårighetsgraden: äktheten av ljud och video måste nu bevisas. Se vår artikel om att bevisa digitalt bedrägeri i Nederländerna.

Vad kan vi göra för dig gällande AI och straffrättsligt ansvar?

Våra team inom straffrätt och IT-rätt arbetar tillsammans i dessa fall.

• Vi bedömer din exponering enligt artikel 51 i förordningen och funktionellt utförande för varje AI-system du använder.
• Vi granskar er AI-styrning, tillsynsprotokoll och dokumentation så att de kan fungera som bevis på vård.
• Vi utarbetar och förhandlar om ansvarsfördelningen mellan leverantör och distributionsleverantör.
• Vi ifrågasätter algoritmiska bevis och begär tillgång till valideringsdata i brottmål.
• Vi bistår företag och styrelseledamöter under utredningar av Åklagarmyndigheten och tillsynsmyndigheter.

Sammanfattning

• En algoritm kan inte vara en lagöverträdare; artikel 51 Sr omfattar endast fysiska och juridiska personer.
• Operatörer är ansvariga genom funktionellt agerande, företag enligt Drijfmest-kriterierna, styrelseledamöter genom de facto ledarskap.
• AI-lagen anger standarden för vård: ett intrång är bevis på vårdslöshet, efterlevnad är bevis på vård.
• Algoritmisk utdata kommer in i ett brottmål genom en polisanmälan eller ett expertutlåtande och kan ifrågasättas avseende validering och felfrekvens.

Vanliga frågor och svar