Veiligheid en compliance: AI act en GDPR als concurrentievoordeel

Sommige AI-toepassingen zijn in Europa volledig verboden. Deze gaan fundamenteel in tegen Europese waarden.

Voorbeelden van verboden systemen

• Social scoring door overheden
• AI die subliminale technieken gebruikt om gedrag te manipuleren
• Emotieherkenning op de werkplek of in het onderwijs
• Biometrische identificatie in openbare ruimtes (met strikte uitzonderingen)

Strategie: Investeer hier niet in. Deze toepassingen zijn illegaal en dragen enorm reputatierisico.

Dit is het zwaartepunt van de wetgeving. AI in kritieke sectoren valt hieronder.

Sectoren met hoog risico

• Kritieke infrastructuur
• Onderwijs en werkgelegenheid (HR-tech)
• Essentiële diensten (kredietwaardigheid)
• Rechtshandhaving en medische hulpmiddelen

Voor deze systemen geldt een zware bewijslast voordat ze de markt op mogen. Vereist: risicobeheersystemen, datakwaliteitsbeheer, technische documentatie en menselijk toezicht.

Aanbieders (Providers) ontwikkelen AI-systemen en brengen deze onder eigen naam op de markt. Zij dragen de zwaarste last.

Verplichtingen aanbieder

1. 1.Kwaliteitsmanagementsysteem opzetten voor data, model en processen
2. 2.Technische documentatie bijhouden: hoe het model werkt, welke data gebruikt
3. 3.Conformiteitsbeoordeling (CE-markering) voor markttoelating
4. 4.Automatische logging voor traceerbaarheid bij incidenten

Veel bedrijven kopen AI in voor professionele doeleinden. Zij zijn 'Deployers' en kunnen zich niet verschuilen achter de leverancier.

Verplichtingen gebruiker

• Systemen gebruiken conform instructies van de aanbieder
• Competent, getraind personeel voor toezicht ('Human in the loop')
• Verantwoordelijkheid voor relevantie en representativiteit van input data

De invoering van de AI Act is gefaseerd. Begin nu met inventariseren van je AI-landschap.

Belangrijke data

1. 1.Februari 2025: Verbod op onaanvaardbare risico's gaat in
2. 2.Augustus 2025: Regels voor General Purpose AI
3. 3.Augustus 2026: Volledige regels voor hoog-risico systemen

Actie: Inventariseer en classificeer nu welke AI-systemen je gebruikt of ontwikkelt.

Traditioneel bouwen ontwikkelaars eerst een MVP en laten legal er vlak voor lancering naar kijken. Bij AI is dit rampzalig.

De problemen

• Bias in trainingsdata kan niet achteraf worden 'gepatcht'
• Ontbrekende toestemming vereist complete model retraining
• Enorme kosten in tijd, geld en rekenkracht

Door compliance naar voren te halen worden ethische en juridische kaders de ontwerpparameters waarbinnen innovatie plaatsvindt.

De Data Protection Impact Assessment is geen papierwerk maar een strategische design tool.

Wat DPIA oplevert

• Identificeert privacyrisico's vroeg in het proces
• Dwingt tot nadenken over pseudonimisering en dataminimalisatie
• Maakt federated learning en privacy-vriendelijke architectuur mogelijk

Door risico's vroeg te spotten, kunnen technieken al in de architectuur worden toegepast.

De Fundamental Rights Impact Assessment is verplicht voor publieke sector en specifieke hoog-risico gebruikers.

FRIA dwingt tot nadenken over

• Discriminatie en uitsluiting van groepen
• Toegankelijkheid voor alle gebruikers
• Impact op democratie en fundamentele rechten

Dit gebeurt voordat een regel code is geschreven.

Deze aanpak leidt tot betere, robuustere producten. Compliance dwingt tot kwaliteit.

Voordelen van proactieve compliance

• AI-systemen met 'fairness' en 'explainability' als kernwaarden
• Kwalitatief betere producten dan onverklaarbare 'black boxes'
• Duurzame innovatie gebaseerd op kwaliteit

Kwaliteit is de basis van duurzame innovatie.

Onder de AVG heb je voor elke verwerking een rechtsgrond nodig (Artikel 6). De keuze bepaalt wat je mag.

Opties en beperkingen

• Toestemming: moet specifiek en geïnformeerd zijn, lastig voor historische data
• Gerechtvaardigd belang: vereist belangenafweging (LIA) en passende waarborgen
• Doelbinding: data verzameld voor facturatie mag niet zomaar voor AI-training

Artikel 22 AVG: volledig geautomatiseerde besluiten met rechtsgevolgen (hypotheekafwijzing, ontslag) zijn in principe verboden.

Uitzonderingen

1. 1.Noodzakelijk voor uitvoering van een overeenkomst
2. 2.Wettelijk toegestaan (bijv. fraudedetectie)
3. 3.Gebaseerd op uitdrukkelijke toestemming

Zelfs bij uitzonderingen: recht op menselijke tussenkomst, recht om standpunt kenbaar te maken, recht om besluit aan te vechten.

De AI Act versterkt en concretiseert de AVG. Beide wetten vullen elkaar aan.

Versterkende werking

• AVG: 'recht op menselijke tussenkomst' → AI Act: technisch ingebouwde mogelijkheden
• AVG: 'recht op uitleg' (Recital 71) → AI Act: 'duidelijke en betekenisvolle uitleg'
• Beide vereisen investering in Explainable AI (XAI)

Om aan beide wetten te voldoen, moet je investeren in XAI-technieken.

Belangrijkste technieken

• SHAP (SHapley Additive exPlanations)
• LIME (Local Interpretable Model-agnostic Explanations)
• Feature importance visualisaties

Deze technieken laten zien welke variabelen bijdroegen aan een beslissing. Essentieel voor audits én externe verantwoording.

Slechte datakwaliteit betekent niet alleen slechte inzichten, maar ook directe juridische aansprakelijkheid.

Het probleem

Als trainingsdata historische discriminatie bevat (bijv. vrouwen werden minder vaak aangenomen), zal het AI-model dit patroon leren, reproduceren en versterken.

Onder de AI Act is de aanbieder verplicht datasets te onderzoeken op mogelijke bias.

Stap af van gescheiden silo's voor data-beheer en model-beheer. Creëer één geïntegreerd handboek.

Onderdelen van het playbook

1. 1.Data Lineage: herkomst, bewerking en gebruik van data
2. 2.Toegangsbeheer: wie mag bij data en wie mag modellen aanpassen
3. 3.Lifecycle Management: retentie, uitfasering en updates

Geautomatiseerde governance-tools maken compliance schaalbaar.

Wat MLOps platforms bieden

• Continu monitoren van datakwaliteit
• Automatische detectie van bias
• Blokkade van training zonder goedgekeurde dataset

Doel: Een data scientist kan niet beginnen met trainen voordat de dataset is 'goedgekeurd' door het governance-framework.

Data governance moet processen bevatten voor meer dan alleen technische kwaliteit.

Te controleren aspecten

• Representativiteit: zijn alle relevante groepen vertegenwoordigd?
• Relevantie: is de data actueel en bruikbaar?
• Eerlijkheid: bevat de data geen historische discriminatie?

Dit is niet optioneel maar wettelijk vereist onder de AI Act.

Software code verandert niet vanzelf, maar de wereld om het model heen wel. Dit is een uniek gevaar bij AI.

Wat er gebeurt

Als koopgedrag verandert (bijv. door inflatie of pandemie), klopt het model dat vorig jaar is getraind niet meer. Dit leidt tot onnauwkeurige en potentieel oneerlijke beslissingen.

Oplossing

Implementeer geautomatiseerde monitoring die waarschuwt wanneer inputdata significant afwijkt van trainingsdata.

Schaalvergroting betekent een groter aanvalsoppervlak. AI introduceert nieuwe beveiligingsrisico's.

Belangrijkste dreigingen

• Data Poisoning: slechte data injecteren om model te corrumperen
• Model Inversion: trainingsdata achterhalen via output
• Adversarial Attacks: input manipuleren om model te misleiden

Het NIST AI Risk Management Framework adresseert specifieke AI-beveiligingsvectoren.

Aanbevolen maatregelen

• Adversarial training: model trainen met aanvalsvoorbeelden
• Strikte validatie en sanitisatie van inputdata
• Differential privacy technieken
• Output limiting tegen model inversion

MLOps maakt de transitie van experimentele notebooks naar robuuste productie mogelijk.

Essentiële practices

1. 1.Version control voor modellen én data
2. 2.Geautomatiseerde deployment pipelines met compliance checks
3. 3.Continue monitoring van performance metrics
4. 4.Alerts voor afwijkingen in model performance

In de zorg is AI vrijwel per definitie 'hoog risico'. De uitdaging is de samenloop met de Medical Device Regulation (MDR).

Specifieke problemen

• Fabrikanten moeten aan zowel MDR als AI Act voldoen
• Risico op 'automation bias': arts vertrouwt blind op computer
• Tijdsdruk maakt kritisch beoordelen moeilijk
• 'Schaduwdossiers' als AI-transcripties niet goed in EPD komen

In de financiële sector ligt de focus op stabiliteit en eerlijkheid. DNB hanteert de SAFEST-principes.

SAFEST-principes

• Soundness: solide basis
• Accountability: verantwoordelijkheid
• Fairness: eerlijkheid
• Ethics: ethiek
• Skills: vaardigheden
• Transparency: transparantie

Systeemrisico: Als alle banken hetzelfde AI-model gebruiken, kan een fout leiden tot een 'flash crash'.

Voor de overheid zijn de eisen het strengst. Na de Toeslagenaffaire is er nul tolerantie voor 'black box' besluitvorming.

Specifieke verplichtingen

• FRIA is verplicht voor publieke sector
• Registratie in openbare EU-database voor hoog-risico systemen
• Democratische legitimiteit moet worden gewaarborgd

Transparantie en uitlegbaarheid zijn democratische vereisten om willekeur uit te sluiten.

Discriminatie bij kredietverlening of verzekeringen is een groot ethisch en juridisch risico.

Waar het misgaat

• Historische data bevat bestaande vooroordelen
• Postcode kan proxy zijn voor etniciteit of inkomen
• AI versterkt bestaande patronen in plaats van corrigeren

Dit wordt door de AI Act hard aangepakt.

XAI-technieken openen de 'black box' van complexe modellen en maken beslissingen inzichtelijk.

Belangrijkste technieken

• SHAP: laat zien welke variabelen (inkomen, leeftijd, postcode) bijdroegen
• LIME: lokale verklaringen voor individuele beslissingen
• Feature importance: globale ranking van invloedrijke variabelen

Essentieel voor interne audits én externe verantwoording ('waarom is mijn lening afgewezen?').

Model Cards functioneren als een 'voedingswaardetabel' voor algoritmes.

Inhoud van een Model Card

• Wat doet het model? (beoogd gebruik)
• Waarop is het getraind? (databronnen)
• Wat zijn de beperkingen? (bijv. 'niet voor kinderen onder 18')
• Hoe presteert het op verschillende demografische groepen?

Transparantie wordt een krachtig marktinstrument in de AI-economie.

Waarom openheid werkt

'Wij laten zien hoe het werkt, omdat we niets te verbergen hebben.'

• Stakeholders krijgen snel inzicht in betrouwbaarheid
• Toezichthouders waarderen proactieve transparantie
• Klanten kiezen voor organisaties die openheid tonen

Onder AI Act en AVG ontstaat een feitelijk 'recht op uitleg' voor betrokkenen.

Wat dit betekent

• Burgers mogen vragen waarom een besluit is genomen
• Bedrijven moeten een 'duidelijke en betekenisvolle uitleg' kunnen geven
• XAI-investering is noodzakelijk om compliant te zijn

Zonder XAI kun je niet voldoen aan de gecombineerde eisen van AI Act en AVG.