Inhoud:
Wat is AI governance?
AI governance gaat over de regels en richtlijnen die organisaties gebruiken om ervoor te zorgen dat kunstmatige intelligentie (AI) op een veilige, eerlijke en verantwoordelijke manier wordt gebruikt. Dit betekent dat AI-systemen op zo’n manier worden ontworpen en gebruikt dat ze geen schade toebrengen, dat ze eerlijk zijn voor iedereen, en dat ze onze privacy en andere belangrijke waarden respecteren. AI governance helpt bedrijven om ervoor te zorgen dat AI goed werkt en rekening houdt met de belangen van mensen en de samenleving.
Waarom is AI governance nodig?
Zonder regulering kunnen AI-systemen aanzienlijke schade veroorzaken op individueel, organisatorisch en maatschappelijk niveau. Met governance kun je AI gebruiken op de manier die past bij jouw organisatie.
- AI-systemen kunnen bestaande vooroordelen versterken, wat leidt tot onrechtvaardige beslissingen in bijvoorbeeld werving, kredietverstrekking en rechtspraak.
- Iedereen weet inmiddels dat je met AI-toepassingen je eigen nieuws kunt maken. Met deep fakes bijvoorbeeld kun je elke denkbare persoon in principe laten zeggen wat jij wilt. Een explosie van nepnieuws die bovendien met de snelheid van het licht wordt verspreid, kan democratische processen ondermijnen en afbreuk doen aan het vertrouwen in de media en in elkaar als medemens.
- AI-systemen kunnen fouten maken, wat ernstige gevolgen kan hebben in sectoren zoals gezondheidszorg (verkeerde diagnoses), transport (ongelukken), en financiën (verkeerde transacties).
- Zonder adequate regulering kunnen AI-systemen persoonlijke gegevens misbruiken, wat leidt tot inbreuken op de privacy van mensen.
Dit zijn slechts een paar voorbeelden die laten zien dat het belangrijk is om duidelijke regels te ontwikkelen die ervoor zorgen dat we AI gebruiken op een verantwoorde, transparante en ethische manier – een AI governance framework.
De 5 grootste misvattingen over AI governance
AI governance is een breed en soms ingewikkeld concept, waardoor er soms dingen over worden gezegd die niet kloppen. Dit zijn de 5 grootste misvattingen over AI governance:
- AI Governance is alleen voor grote bedrijven.
AI governance is relevant voor elke organisatie die AI-systemen gebruikt, ongeacht de grootte. Kleine bedrijven kunnen net zo goed risico's en verantwoordelijkheden hebben die gemanaged moeten worden.
- AI Governance gaat (alleen) over het implementeren van technische beveiligingen.
AI governance gaat over veel meer dan alleen technische beveiligingen. Het gaat over het maken van ethische afwegingen, nadenken over juridische naleving, maatschappelijke impact en hoe je zorgt voor het behoudt van menselijke waarden.
- AI Governance is een eenmalige inspanning.
Net als continue verbetering, risicobeheer, cybersecurity, en veel andere initiatieven, is AI governance zeker geen eenmalige exercitie, maar een doorlopend proces. Alleen op die manier kun je ervoor zorgen dat regels en richtlijnen regelmatig worden herzien en aangepast aan nieuwe technologieën, inzichten en veranderende maatschappelijke verwachtingen.
- AI Governance garandeert dat AI-systemen altijd perfect functioneren.
Hoewel AI governance helpt bij het minimaliseren van risico's en het waarborgen van verantwoord gebruik, biedt het zeker geen garantie dat AI-systemen altijd zonder fouten of problemen functioneren.
- AI Governance kan worden overgelaten aan de IT-afdeling.
Impactvolle, doorlopende initiatieven zijn alleen succesvol als je ze met elkaar onderneemt. Het goed omgaan met AI en toepassen van de juiste regels en een stukje common sense, vereist een bredere betrokkenheid binnen een organisatie. Van management en juridische teams tot ethische commissies en de ‘gewone medewerker’.
Een belangrijk nieuw aspect binnen de AI-wet van de EU is dat niet alleen de persoon die met behulp van AI software maakt verantwoordelijk is, maar ook degene die er gebruikt van maakt. En dat betekent dat we allemaal in elk geval gedeeltelijk verantwoordelijk worden voor de goede toepassing van AI.
Wat zijn belangrijke aspecten binnen AI governance?
AI heeft oneindig veel toepassingen, maar bij elke toepassing spelen één of meerdere van de onderstaande AI governance aspecten een belangrijke rol (in alfabetische volgorde):
- Controle en evaluatie: regelmatige audits en evaluaties uitvoeren om de prestaties en naleving van AI-systemen te monitoren.
- Ethiek: zorgen dat AI-systemen ethisch verantwoord zijn en geen schadelijke vooroordelen of discriminatie bevatten.
- Inclusiviteit: bevorderen van inclusiviteit en toegankelijkheid in het ontwerp en de implementatie van AI-systemen, zodat ze breed bruikbaar en eerlijk zijn.
- Naleving van regelgeving: voldoen aan relevante wetten, voorschriften en industriestandaarden met betrekking tot het gebruiken van AI.
- Privacy: bescherming van persoonsgegevens en naleving van privacywetten en -normen bij het gebruiken van AI.
- Transparantie: het waarborgen dat AI-systemen begrijpelijk en transparant zijn, zodat gebruikers en belanghebbenden de werking en besluitvorming van de AI kunnen begrijpen.
- Veiligheid: zorgen voor de beveiliging van AI-systemen tegen cyberdreigingen en misbruik.
- Verantwoording: het instellen van duidelijke verantwoordelijkheden en aansprakelijkheden voor de gevolgen van AI-systemen.
Is AI governance verplicht?
AI governance is momenteel niet wereldwijd verplicht, maar de naleving ervan wordt steeds belangrijker door de invoering van nieuwe wet- en regelgeving in verschillende regio's. Of AI governance verplicht is, hangt af van het rechtsgebied en de specifieke context waarbinnen mensen AI gebruiken. Je hebt onder meer te maken met:
Internationale richtlijnen en normen
Niet juridisch bindend, maar steeds meer erkend en gevolgd als best practices.
Voorbeelden: OECD Principles on Artificial Intelligence, UNESCO AI Ethics Guidelines.
Nationaal en regionaal beleid
Verschilt per land en regio. Sommige landen hebben specifieke wetten en richtlijnen voor AI, terwijl andere zich baseren op bredere regelgeving zoals gegevensbeschermingswetten.
Voorbeelden: de AVG in Nederland, de AIA (Artificial Intelligence Act) in de EU en mogelijke toekomstige wetten zoals de Algorithmic Accountability Act in de VS.
Industriespecifieke regelgeving
Bepaalde industrieën kunnen specifieke regelgeving hebben die van toepassing is op het gebruik van AI, zoals de gezondheidszorg, financiële dienstverlening en transport.
Voorbeelden: de HIPAA (Health Insurance Portability and Accountability Act) in de VS die van toepassing is op gezondheidsgegevens.
Bedrijfsbeleid en zelfregulering
Bedrijven kunnen vrijwillig AI governance regels en richtlijnen implementeren om ervoor te zorgen dat medewerkers AI gebruiken op een ethische en verantwoordelijke manier, zelfs als er geen wettelijke verplichting is.
Hoewel AI governance (nog) niet overal verplicht is, neemt de druk toe door:
- nieuwe wet- en regelgeving
- internationale richtlijnen
- de behoefte aan ethische en verantwoorde AI-praktijken
AI governance wet- en regelgeving
Er zijn diverse wetten en regelgeving die betrekking hebben op AI governance. Deze variëren van specifieke AI-wetten tot bredere regelgeving op het gebied van gegevensbescherming, ethiek en verantwoordelijkheid. Hieronder enkele belangrijke kaders voor wet- en regelgeving.
AI Ethics Guidelines van UNESCO
- Status: best-practice, guideline
- Inhoud: deze richtlijnen richten zich op het bevorderen van transparantie, verantwoordingsplicht en inclusiviteit bij het gebruik van AI. Ze bevatten aanbevelingen voor ethische principes en waarden in AI-ontwikkeling.
- Doel: het bevorderen van een wereldwijde overeenstemming over ethische normen en waarden voor AI.
Algemene Verordening Gegevensbescherming (AVG)
- Status: verplicht in Nederland
- Inhoud: de AVG is de Nederlandse toepassing van de GDPR. Het reguleert de verwerking van persoonsgegevens en stelt eisen aan organisaties die AI gebruiken voor dataverwerking.
- Doel: bescherming van persoonsgegevens en waarborging van de privacy van Nederlandse burgers.
Algorithmic Accountability Act
- Status: wetsvoorstel
- Inhoud: dit wetsvoorstel verplicht bedrijven tot transparantie en verantwoording bij het gebruik van geautomatiseerde besluitvormingssystemen, waaronder AI. Bedrijven moeten impactbeoordelingen uitvoeren om vooroordelen en risico's te identificeren en te beperken.
- Doel: bescherming van consumenten en bevordering van eerlijke en transparante AI-systemen in de Verenigde Staten.
Ethics Guidelines for Trustworthy AI (EU)
- Status: best-practice, guideline
- Inhoud: deze richtlijnen, ontwikkeld door de Europese Commissie, beschrijven de vereisten voor betrouwbare AI: rechtmatigheid, ethiek en robuustheid. Ze bieden praktische aanbevelingen voor ontwerp, ontwikkeling en implementatie van AI-systemen.
- Doel: het bevorderen van ethische en verantwoorde AI-praktijken in Europa.
EU AI Act
- Status: deze wet is nog niet van kracht, maar als deze wordt aangenomen, zal de naleving ervan verplicht zijn voor bedrijven binnen de Europese Unie die AI-systemen ontwikkelen, implementeren of gebruiken.
- Inhoud: de EU AI Act is een voorgestelde verordening van de Europese Unie die gericht is op het reguleren van AI-systemen. Het classificeert AI-toepassingen op basis van hun risico's (onaanvaardbaar, hoog, beperkt en minimaal risico) en stelt specifieke vereisten voor AI-systemen waar sprake is van hoog risico.
- Doel: het waarborgen van de veiligheid en fundamentele rechten van burgers en het bevorderen van een ethische en betrouwbare ontwikkeling en gebruik van AI in de EU.
General Data Protection Regulation (GDPR)
- Status: verplicht in de EU
- Inhoud: de GDPR is een brede verordening voor gegevensbescherming in de EU die van toepassing is op de verwerking van persoonsgegevens door AI-systemen. Het bevat bepalingen over gegevensminimalisatie, toestemming, transparantie en de rechten van betrokkenen, zoals het recht op uitleg bij geautomatiseerde besluitvorming.
- Doel: bescherming van de privacy en persoonsgegevens van individuen binnen de EU.
National Institute of Standards and Technology (NIST) AI Risk Management Framework (VS)
- Status: best-practice, guideline
- Inhoud: dit framework biedt richtlijnen voor het beheren van risico's bij het ontwikkelen en implementeren van AI-systemen. Het richt zich op het identificeren, beoordelen, managen en beperken van AI-gerelateerde risico's.
- Doel: het bevorderen van veilige en betrouwbare AI-systemen in de Verenigde Staten.
OECD Principles on Artificial Intelligence
- Status: best-practice, guideline
- Inhoud: de Organisatie voor Economische Samenwerking en Ontwikkeling (OECD) heeft richtlijnen opgesteld die pleiten voor inclusieve groei, duurzame ontwikkeling, welzijn, respect voor de rechtsstaat, democratie en mensenrechten waar het gaat om AI-ontwikkeling.
- Doel: het bevorderen van de verantwoordelijke ontwikkeling en het gebruiken van AI door middel van internationale samenwerking en beleidsrichtlijnen.
Wat zijn de voordelen van AI governance?
Zolang het niet (overal) verplicht is om AI governance te implementeren, kun je ervoor kiezen om het op de lange baan te schuiven. Maar een verplichting op langere termijn lijkt onvermijdelijk, dus waarom zou je niet direct met AI governance aan de slag gaan?
Net als de toepassingen van AI zelf heeft ook AI governance heel veel verschillende facetten. Het kost tijd om deze te ontdekken. Ga je proactief aan de slag met AI governance, dan ben je in elk geval beter voorbereid op toekomstige wettelijke vereisten. Maar daarnaast heeft het ook andere voordelen.
Het direct implementeren van AI governance zorgt op korte termijn voor verbeterde risicobeheersing, versterkt vertrouwen en reputatie, verhoogde efficiëntie en kwaliteit, ethische en verantwoorde inzet van AI-toepassingen, bevordering van innovatie en groei en een sterker interne bewustzijn over dit onderwerp. Kortom: AI governance is meer dan het voldoen aan toekomstige regelgeving. Het helpt je vandaag al concurrerend en duurzaam te opereren.
- Efficiëntie en kwaliteit
Goed beheerde AI-systemen leiden tot betere, betrouwbaardere en transparantere besluitvorming. Daarnaast helpt AI governance bij het waarborgen van de kwaliteit en veiligheid van AI-systemen en toepassingen, wat de effectiviteit van de technologie verhoogt.
- Interne cultuur en compliance
AI op een goede manier onderdeel maken van je bedrijfscultuur doe je niet van de ene op de andere dag. Daarom is het een voordeel als je nu aan de slag gaat met AI governance en samen werkt aan een cultuur van bewustwording en verantwoordelijkheid rondom het gebruik van AI binnen je organisatie. Vroegtijdige AI governance zal het bovendien makkelijker maken om te voldoen aan toekomstige interne en externe audits en compliance-eisen.
- Proactief risicomanagement
Wacht je niet op AI governance wet- en regelgeving, maar ga je er direct mee aan de slag, dan verminder je direct het risico op juridische problemen, datalekken, ethische uitglijers en reputatieschade.
- Verantwoorde innovatie en groei
Heldere richtlijnen en dito belegde verantwoordelijkheden bevorderen innovatie met duidelijke kaders waarbinnen nieuwe ideeën veilig kunnen worden ontwikkeld. Het op verantwoorde wijze AI gebruiken draagt bij aan duurzame groei en ontwikkeling.
Wat zijn de grootste uitdagingen van AI governance?
We weten allemaal dat we er uiteindelijk niet aan ontkomen en toch is een groot deel van het bedrijfsleven met van alles bezig behalve met AI governance. Wat is het dat ons zo huiverig maakt? Wat zorgt ervoor dat we elke kans grijpen om een (proactieve) aanpak nog even voor ons uit te schuiven? En wat zou je hier tegenover kunnen stellen om wél actie te gaan ondernemen?
Kosten en middelen
“Hoeveel gaat dit kosten en welke middelen hebben we nodig? Kan ik dit binnen ons budget krijgen?” Stress en bezorgdheid over de financiën en het verkrijgen van de benodigde middelen en goedkeuring van de directie kun je op verschillende manieren ondervangen. AI governance mag dan om omvangrijke maatregelen en middelen vragen, maar niet alles heeft de hoogste prioriteit. Dat betekent dat de investeringen over een langere periode gespreid zullen zijn. De kosten van de risico’s en de gevolgen als het niet goed gaat, kunnen ook hele overtuigend zijn in gesprekken met budgetverantwoordelijken.
Interne weerstand
“Wat als mijn collega's deze nieuwe regels niet willen volgen? Hoe krijg ik iedereen mee? Hoe gaan we over de verschillende afdelingen heen samenwerken om AI governance succesvol in onze organisatie te introduceren?” Zorgen over weerstand van medewerkers en moeite hebben om iedereen op één lijn te krijgen; het is niet meer dan een logische eerste reactie. Maak de negatieve gevolgen van het op een verkeerde manier AI gebruiken voor elke functie inzichtelijk en zet daar tegenover welke voordelen AI governance in dat opzicht biedt. Met andere woorden: maak AI governance persoonlijk, dan krijg je mensen sneller en op een goede manier in beweging.
Verstoringen in processen
“Hoe beïnvloedt AI governance onze bestaande processen? Komen er veel verstoringen? Wat gaan de gevolgen daarvan zijn?” Als je niet weet wat je kunt verwachten, is angst voor operationele verstoringen en hoe je de overgang soepel kunt laten verlopen goed te verklaren. Dus zul je de mogelijke impact van AI wet- en regelgeving inzichtelijk moeten maken voor de in je organisatie aanwezige processen en je procesmanagement in het algemeen. Dan kun je vervolgens kijken waar mogelijke knelpunten zitten en daar een gepaste oplossing voor uitwerken.
Complexiteit en veranderlijkheid van AI
“AI-technologie is best ingewikkeld. Hoe ga ik daar, als niet-techneut, de regels en richtlijnen voor opstellen?” Onzekerheid over hoe diep je moet duiken in technische details en hoe je deze kunt vertalen naar begrijpelijke richtlijnen kun je ondervangen door gebruik te maken van reeds ontwikkelde blauwdrukken zoals het WoodWing Scienta AI Handboek. Dit is een door experts uitgewerkt, gedetailleerd AI governance plan met praktische handleidingen, procesbeschrijvingen en voorbeeldformulieren.
Als integraal onderdeel van het kwaliteits- en kennismanagementsysteem WoodWing Scienta is het zoveel meer dan een checklistje dat binnen een maand weer is verouderd. Het AI Handboek is praktisch, 100% aanpasbaar en altijd actueel. Ontdek hoe het jou kan helpen.
Hoe introduceer ik AI Governance in ons bedrijf?
- Inzicht krijgen in de AI-omgeving
- Wat: begin met het in kaart brengen van alle AI-systemen en -processen binnen je organisatie. Dit omvat het identificeren van de AI-technologieën die je gebruikt, de gegevens die ze verwerken en de doelen die ze dienen.
- Waarom: dit geeft je inzicht in hoe je ervoor staat wat AI-systemen betreft en welke risico’s en kansen er zijn. Het biedt een basis voor het ontwikkelen van specifieke richtlijnen en regels.
- Hoe: voer een uitgebreide audit uit van bestaande AI-toepassingen, spreek met betrokken teams en verzamel documentatie over huidige AI-projecten en -systemen.
- Ontwikkelen van beleid, richtlijnen en normen
- Wat: stel duidelijke beleidsrichtlijnen en normen op voor het gebruik van AI. Dit moet richtlijnen bevatten over ethiek, privacy, gegevensbeveiliging en naleving van wet- en regelgeving.
- Waarom: beleidsrichtlijnen helpen ervoor te zorgen dat AI-systemen op een consistente en verantwoorde manier worden beheerd en gebruikt. Dat minimaliseert risico’s en zorgt dat je je houdt aan algemeen geldende wet- en regelgeving.
- Hoe: werk samen met juridische, ethische en technische experts om een beleidsdocument te ontwikkelen. Zorg ervoor dat de richtlijnen specifiek zijn voor jouw organisatie en gemakkelijk te begrijpen voor alle betrokkenen.
- Opleiden en betrekken van medewerkers
- Wat: start met het trainen van medewerkers over de nieuwe AI-richtlijnen en -normen. Dit doe je onder andere door uit te leggen wat de ethische en juridische aspecten van AI zijn en medewerkers te laten zien hoe je mogelijke risico’s kunt herkennen en waar je ze moet melden.
- Waarom: medewerkers zijn cruciaal voor het succesvol managen van AI. Door hen goed op te leiden, zorg je ervoor dat iedereen op de hoogte is van de regels en verantwoordelijkheden, wat de naleving bevordert en het risico op fouten verkleint.
- Hoe: organiseer workshops, webinars, en trainingen. Ontwikkel ondersteunend materiaal en creëer een cultuur van open communicatie waar medewerkers vragen kunnen stellen en zorgen kunnen delen.
Met deze eerste 3 stappen leg je een goede basis voor effectieve AI governance en zorg je ervoor dat je AI-systemen ethisch, legaal en verantwoordelijk worden beheerd.
Het Orakel van AI governance: het WoodWing Scienta AI Handboek
Maakt jouw bedrijf op een goede manier gebruik van de voordelen van AI? Weet jij wat de huidige wet- en regelgeving zegt over verantwoordelijk gebruik ervan? Heb je inzicht in de (potentiële) strategische impact van AI op je bedrijf? Hoe zorg jij ervoor dat je medewerkers de informatie en middelen hebben om AI volgens alle regels toe te passen in hun dagelijkse werkzaamheden?
Zoveel vragen, zo weinig antwoorden – althans, zo lijkt het soms. Maar in ons AI Handboek hebben wij vraagstukken rond AI governance netjes voor je op een rij gezet en maken deze praktisch toepasbaar op strategisch, tactisch en operationeel niveau.
Too good to be true? Probeer het zelf en overtuig je van de mogelijkheden!