AI-Act: een vloek of een zegen?

Deze week is er in het Europees Parlement gestemd over de AI ACT, een wetgeving die bedoeld is om het gebruik van kunstmatige intelligentie (AI) in de Europese Unie te reguleren. Is dit nu een vloek of een zegen?

De AI ACT: Een stap voorwaarts of een rem op innovatie?

Deze week is er in het Europees Parlement gestemd over de AI ACT, een wetgeving die bedoeld is om het gebruik van artificiële intelligentie (AI) in de Europese Unie te reguleren. De AI ACT heeft als doel om de veiligheid en de rechten van de burgers te waarborgen, maar er zijn ook zorgen dat de wetgeving de innovatie kan verstikken. Laten we eens kijken naar enkele van de belangrijkste punten van discussie rond de AI ACT.

Wat is de AI ACT?

De AI Act is wetgeving ontworpen om een mensgerichte en ethische ontwikkeling van Artificiële Intelligentie (AI) in Europa te waarborgen.
Het Europees Parlement heeft nieuwe transparantie- en risicobeheersingsregels voor AI-systemen goedgekeurd. De regels volgen een risicogebaseerde benadering en stellen verplichtingen voor providers en gebruikers, afhankelijk van het risiconiveau dat de AI kan genereren.
AI-systemen met een onaanvaardbaar risiconiveau voor de veiligheid van mensen zouden strikt verboden zijn. Dit omvat systemen die subliminale of doelbewust manipulatieve technieken gebruiken, de kwetsbaarheden van mensen uitbuiten of worden gebruikt voor sociale scoring.
De wetgeving bevat ook bepalingen om AI-innovatie te stimuleren, met uitzonderingen voor onderzoeksactiviteiten en AI-componenten die onder open-source licenties worden aangeboden. [bron]

Voordelen van de AI ACT

Er zijn verschillende voordelen verbonden aan de AI ACT.

• Ten eerste biedt het een kader voor de regulering van AI, wat kan helpen om de veiligheid en de rechten van de burgers te waarborgen.
• Ten tweede kan het bijdragen aan het opbouwen van vertrouwen in AI-systemen door transparantie en verantwoording te eisen van bedrijven die AI gebruiken.
• Ten derde kan het bijdragen aan het bevorderen van innovatie door het stimuleren van investeringen in AI en het verminderen van de regelgevende last voor KMO’s en start-ups.

Juriste en filosofe Nathalie Smuha legt in dit artikel uit hoe de AI ACT bedoeld is om mensen en democratie te beschermen.

Innovatie en ondernemerschap: de AI-act heeft het grote voordeel van de duidelijkheid

De EU wil innovatie en ondernemerschap op verschillende manieren bevorderen, zoals blijkt uit verschillende passages in het voorstel:

1. Regulatory Sandboxes: De EU moedigt nationale bevoegde autoriteiten aan om “Sandboxes” op te zetten. Dit zijn gecontroleerde omgevingen waarin innovatieve technologieën voor een beperkte tijd kunnen worden getest op basis van een testplan dat is overeengekomen met de bevoegde autoriteiten. Dit helpt bij het identificeren en aanpakken van mogelijke risico’s en problemen voordat de technologie op grotere schaal wordt uitgerold.
2. Vermindering van de regelgevende last: Het document benadrukt het belang van het verminderen van de regelgevende last voor KMO’s en start-ups. Dit kan worden bereikt door het vereenvoudigen van regelgevingsprocessen, het verminderen van bureaucratische hindernissen en het bieden van duidelijke en eenvoudige richtlijnen voor naleving.
3. Bevordering van investeringen in AI: Door het vertrouwen in AI te vergroten, wil de EU investeringen in de ontwikkeling en adoptie van AI aanmoedigen. Dit is complementair aan het Digital Europe-programma, waarvan de bevordering van de verspreiding van AI een van de vijf prioriteiten is.
4. Ondersteuning van kleine aanbieders: De EU wil ervoor zorgen dat de belangen van kleine aanbieders en gebruikers van AI-systemen in het bijzonder in aanmerking worden genomen. Dit omvat het ontwikkelen van initiatieven gericht op deze operators, waaronder bewustwording en informatiecommunicatie.
5. Faciliteren van toegang tot test- en experimenteerfaciliteiten: De EU wil de toegang tot test- en experimenteerfaciliteiten vergemakkelijken om kennis en expertise in de markt te vergroten en de naleving van de voorschriften door aanbieders en aangemelde instanties te vergemakkelijken.

Door deze maatregelen wil de EU een omgeving creëren die bevorderlijk is voor innovatie en ondernemerschap, terwijl tegelijkertijd de veiligheid en de bescherming van de fundamentele rechten van de burgers worden gewaarborgd. Dit pleit toch voor, door de wetgever erkende, cloudomgevingen. Sta me toe om daar met een beetje angst naar te kijken.

AI en kwetsbare Individuen: een delicate balans

De AI Act verbiedt systemen die gebruikt worden voor sociale scoring, een maatregel die voornamelijk bedoeld is om de privacy van individuen te beschermen en misbruik van persoonlijke gegevens te voorkomen. Dit is een belangrijke en noodzakelijke stap om de rechten van individuen te waarborgen.

Echter, zoals eerder aangehaald, kan het gebruik van AI ook een krachtig hulpmiddel zijn om kwetsbare individuen te ondersteunen. De vraag is dan: hoe kunnen we de voordelen van AI benutten om kwetsbare individuen te helpen, binnen de grenzen van de AI Act?

Om deze vraag te beantwoorden, moeten we eerst begrijpen wie deze kwetsbare individuen zijn:

• Dit kunnen bijvoorbeeld mensen zijn met een beperking,
• mensen met geestelijke gezondheidsproblemen,
• of mensen die te maken hebben met sociale en economische tegenslagen.

Elk van deze groepen heeft unieke uitdagingen en behoeften, en AI kan op verschillende manieren worden ingezet om hen te ondersteunen.

• Laten we bijvoorbeeld kijken naar mensen met een beperking. AI-gestuurde mobiliteitsapparaten kunnen deze individuen helpen om zich zelfstandig te verplaatsen, wat hun kwaliteit van leven aanzienlijk kan verbeteren.
• Of neem mensen met geestelijke gezondheidsproblemen: AI-gestuurde chatbots kunnen hen 24/7 ondersteuning bieden, wat een enorme hulp kan zijn voor mensen die worstelen met problemen zoals depressie of angst.
• En dan zijn er nog mensen die te maken hebben met sociale en economische tegenslagen. AI kan hen helpen om hen maximaal van hun rechten te laten genieten en hun financiën te beheren, wat hen kan helpen om hun persoonlijke situatie te verbeteren.

AI kan dus een krachtig hulpmiddel zijn om kwetsbare individuen te helpen. Maar hoe kunnen we de voordelen van AI benutten om kwetsbare individuen te helpen, binnen de grenzen van de AI Act?

De sleutel tot het gebruik van AI om kwetsbare individuen te helpen binnen de grenzen van de AI Act, is het waarborgen van de privacy en de rechten van de individuen. Dit betekent dat we moeten zorgen voor transparantie in hoe de AI-systemen werken, dat we de gegevens van de gebruikers beschermen, en dat we ervoor zorgen dat de AI-systemen niet worden misbruikt.

Er zijn natuurlijk ook zorgen rond het gebruik van AI om kwetsbare individuen te helpen. Zo zijn er bijvoorbeeld zorgen over privacy, bias, en het potentieel van AI om menselijke ondersteuning te vervangen. Deze zorgen zijn legitiem en moeten serieus worden genomen. Echter, met de juiste regulering en toezicht, kunnen we de voordelen van AI benutten om kwetsbare individuen te helpen, zonder in te boeten op hun rechten en vrijheden.

Samengevat, de AI Act biedt een kader voor het ethisch en verantwoord gebruik van AI. Hoewel het bepaalde praktijken verbiedt, zoals sociale scoring, biedt het ook mogelijkheden voor het gebruik van AI om kwetsbare individuen te helpen. Door de voordelen van AI te benutten, terwijl we de rechten en vrijheden van individuen beschermen, kunnen we een evenwicht vinden dat zowel ethisch als innovatief is.

Nadelen van de AI ACT

Er zijn echter ook nadelen verbonden aan de AI ACT.

• Ten eerste is er kritiek dat de AI ACT te breed is in zijn definitie van AI, wat kan leiden tot overregulering en onnodige beperkingen voor bedrijven.
• Daarnaast zijn er zorgen dat de wetgeving de innovatie kan verstikken en de concurrentie kan belemmeren, vooral voor kleinere bedrijven die niet dezelfde middelen hebben als de grote techbedrijven.
• En dan is er nog de olifant in de kamer – de angst dat de AI ACT, zoals we al hebben mogen ervaren in e-commerce en de gevolgen van de GDPR, een rem zal zetten op innovatie en de groei van Europese bedrijven zal belemmeren. Als de rest van de wereld ongehinderd verder gaat zullen Europese bedrijven een concurentieel nadeel hebben in hun eigen markt. Het is niet vreemd dat er weinig Europese unicorns zijn. Het is alsof de AI ACT een leiband zet op innovatie, en alleen niet-Europese honden vrij kunnen rondlopen.

Dit artikel van de New York Times geeft een Amerikaanse blik op deze kwestie.

Al met al ben ik niet overtuigd dat de AI ACT de beste manier is om innovatie in de AI-industrie te bevorderen. Het zou wel eens kunnen dat het de grote techbedrijven bevoordeelt en de rest achterlaat. Maar zoals altijd, blijft het een afwachtend spel om te zien hoe deze nieuwe wetgeving zich zal ontvouwen en welke impact het zal hebben op de toekomst van AI in Europa.

Wat denk jij? Is de AI ACT een stap voorwaarts of een rem op innovatie?