Ethics & compliance
Deze opkomende trends zullen ongetwijfeld heel wat nieuwe regelgevingen met zich meebrengen voor een correct en ethisch gebruik van AI.
De EU manifesteert zich hier als eerste, met de European AI Act. Die wet werd getriggerd door de opkomst van populaire generatieve AI-systemen zoals ChatGPT.
EU AI Act
De EU AI Act omvat regels voor het correct en ethisch gebruik van kunstmatige intelligentie binnen de Europese Unie.
Ze ging van kracht op 1 augustus 2024 en wordt stap voor stap ingevoerd over de komende 6 tot 36 maanden.
Een wet voor AI-toepassingen
De wet geldt voor bijna alle AI-toepassingen in verschillende sectoren, behalve voor AI die alleen voor militaire doeleinden, nationale veiligheid, onderzoek, of persoonlijke projecten ingezet wordt. In plaats van rechten aan individuen te geven, reguleert de EU AI Act de bedrijven en organisaties die AI professioneel inzetten.
AI-systemen worden ingedeeld op basis van het risico dat ze met zich meebrengen:
Onacceptabel risico: deze toepassingen zijn strikt verboden.
Hoog risico: moeten voldoen aan strenge eisen op het gebied van veiligheid, transparantie en kwaliteit.
Beperkt risico: hoeven alleen de transparantie-eisen na te leven.
Minimaal risico: vallen buiten de regelgeving.
AI voor algemene doeleinden krijgt ook transparantie-eisen, met speciale regels voor opensource en krachtige modellen.
Daarnaast wordt er ook een Europese AI-raad opgericht die ervoor moet zorgen dat landen goed samenwerken en de wet naleven.
Impact op intern beleid
Deze regels zullen niet alleen gelden op nationaal en internationaal niveau. Ook intern bij bedrijven is deze evolutie nu al merkbaar. We zien hoe men werknemers almaar vaker bijschoolt om AI efficiënt in te schakelen in bedrijfsapplicaties. Met Google AI Principles en de Guidelines for human-AI interaction van Microsoft hebben een paar grote bedrijven al het voortouw genomen.
Zo scheppen de richtlijnen voor mens-AI-interactie van Microsoft een duidelijk kader dat ervoor moet zorgen dat interacties tussen mensen en AI-systemen ethisch, effectief en gebruiksvriendelijk zijn.
Dit zijn de belangrijkste inzichten:
Transparantie
AI-systemen moeten duidelijk communiceren wanneer ze interageren met gebruikers en aangeven welke gegevens AI gebruikt. Deze transparantie helpt gebruikers om de mogelijkheden en beperkingen van de AI beter te begrijpen.
Verantwoording
Er moeten duidelijke verantwoordelijkheidsvoorschriften zijn voor acties en beslissingen die AI maakt. Gebruikers moeten kunnen zien wie verantwoordelijk is voor het AI-systeem en voor de resultaten die het genereert, zodat er een manier is om problemen aan te pakken.
Eerlijkheid
AI-systemen moeten zodanig ontworpen zijn dat ze vooroordelen vermijden en dat ze alle gebruikers gelijk behandelen in AI-algoritmen en gegevens.
Privacy
De bescherming van de privacy van gebruikers is cruciaal. AI-systemen moeten verantwoordelijk omgaan met persoonlijke gegevens, ze alleen gebruiken voor het beoogde doel en ervoor zorgen dat de regels rond gegevensbescherming nageleefd worden.
Veiligheid en beveiliging
AI-systemen moeten robuust en veilig gebouwd zijn om misbruik of schade te voorkomen.
Empowerment van gebruikers
Het AI-systeem moet gebruikers duidelijke opties en voldoende controle bieden om het gedrag ervan te sturen of aan te passen.
Inclusiviteit en ethiek
AI-interacties moeten toegankelijk en bruikbaar zijn voor mensen met verschillende behoeften, rekening houdend met verschillende talen, cognitieve vaardigheden en fysieke mogelijkheden. AI moet geleid worden door ethische principes, waaronder respect voor de menselijke waardigheid en de sociale impact van de technologie.
Voortdurende verbetering
AI-systemen moeten regelmatig bijgewerkt en verbeterd worden op basis van feedback van gebruikers en nieuwe best practices. Zo blijft het systeem effectief en afgestemd op de behoeften van de gebruiker.
Mens-AI interactie: in-, on- en out-of-the-loop
Hoewel grootschalige taalmodellen en AI nu al indrukwekkende prestaties leveren, blijft menselijke betrokkenheid een cruciale succesfactor. Als gebruiker is samenwerken met AI nodig om accurate en relevante resultaten te genereren. Dit verloopt best in verschillende fases: bij input, bij output én bij alles ertussenin.
Human-in-the-loop
Jij en de als werken als team samen om iets te bereiken. In een ontwerptool kan AI je bijvoorbeeld helpen brainstormen over ideeën of concepten, die je zelf vervolgens kunt verfijnen. Jij en AI dragen dus elk bij aan het eindresultaat en combineren jullie krachten om tot een beter resultaat te komen.
Human-on-the-loop
AI geeft suggesties of stelt opties voor, maar jij als mens neemt de uiteindelijke beslissing. Dit komt vaak voor in situaties waar menselijk oordeel cruciaal is. Bijvoorbeeld bij medische diagnoses, waarbij een arts AI gebruikt om gegevens te analyseren, maar uiteindelijk beslist over de behandeling.
Human-out-of-the-loop
Betekent dat AI onafhankelijk handelt, met weinig tot geen menselijke betrokkenheid bij de realtime besluitvorming. Hier voert AI automatisch taken voor je uit op basis van de instructies of voorkeuren die je hebt ingesteld. Een slimme thermostaat past bijvoorbeeld de temperatuur in je huis aan zonder dat je dit handmatig hoeft te doen.
Nood aan een ethisch AI-comité
Kunstmatige intelligentie brengt heel wat ethische risico's met zich mee voor bedrijven. Het kan vooroordelen bevorderen, leiden tot schending van privacy en in het geval van zelfrijdende auto's zelfs dodelijke ongelukken veroorzaken.
Omdat AI gebouwd is om op grote schaal te werken, is ook de impact enorm als er een probleem optreedt. Je hebt dus eigenlijk een orgaan nodig — bestaande uit ethici, juristen, technologen en bedrijfsstrategen — om alle AI die je bedrijf ontwikkelt of koopt te beoordelen om de ethische risico's te identificeren en aan te geven hoe je deze kunt beperken.
De functie van een zo’n AI-gedragsraad binnen een organisatie is op basis van thought leadership richtlijnen op te stellen het gebruik van AI-technologie en bijbehorende gegevens in zijn werking.