De Europese Unie neemt belangrijke stappen op het gebied van gegevensbescherming en digitale ethiek. Met de goedkeuring van de AI wet door het Europese Parlement zet de EU nu ook een belangrijke stap in de regulering van kunstmatige intelligentie (AI). Deze wet heeft als doel een nieuwe standaard te zetten voor ethiek en bestuur rondom AI, niet alleen in Europa maar wereldwijd. Om de complexe materie en de verstrekkende gevolgen van deze wet te bespreken, werd er tijdens het #RISK Amsterdam event een paneldiscussie georganiseerd met de titel “De baanbrekende AI-wet van de EU: wat betekent het en waar gaat het ons brengen?” Deze sessie werd gemodereerd door Alexandru Gheorghe, een ervaren consultant op het gebied van gegevensbescherming en privacy. Samen met experts als Isabel Barbera, Yoav Evenstein, Marcus Westberg en Elan Sasson ging hij dieper in op een breed scala aan onderwerpen. Van de basisprincipes van AI-standaardisatie tot de ethische en maatschappelijke vragen die AI oproept. Deze discussie was niet alleen academisch van aard, maar essentieel voor iedereen die betrokken is bij de ontwikkeling, implementatie of het bestuur van AI-technologieën.

Belangrijkste inzichten

Standaardisatie en Regelgeving

• Belang van Standaardisatie: Een terugkerend thema tijdens de paneldiscussie was het belang van standaardisatie in AI-technologieën. Standaardisatie is cruciaal om ervoor te zorgen dat AI-systemen voldoen aan bepaalde kwaliteits- en veiligheidsnormen. Dit is niet alleen belangrijk voor de technische prestaties van AI, maar ook voor het vertrouwen dat gebruikers en stakeholders in deze technologie kunnen hebben.
• Regelgevend Kader: De panelleden benadrukten het belang van een robuust regelgevend kader, vooral in de context van de onlangs goedgekeurde AI-wet van de EU. Het Ministerie van Justitie in Nederland is bijvoorbeeld actief bezig met het ontwikkelen van een kader voor de uitlegbaarheid van AI. Dit is een belangrijke stap om te zorgen dat AI-systemen niet alleen slim, maar ook begrijpelijk en verantwoordelijk zijn.

Betrouwbaarheid van AI

• Uitlegbaarheid en Interpretatie: Voor AI om als betrouwbaar te worden beschouwd, moet het zowel uitlegbaar als interpreteerbaar zijn. Gebruikers moeten begrijpen hoe beslissingen worden genomen. Dit is cruciaal, zowel om ethische als praktische redenen. Een AI-systeem dat beslissingen neemt zonder dat duidelijk is hoe het tot die beslissingen komt, kan leiden tot wantrouwen en zelfs tot juridische complicaties.
• Overwegingen omtrent Bias: De panelleden spraken over het belang van het aanpakken van zowel statistische als discriminatieve bias in AI-systemen. Dit is niet alleen een ethische noodzaak maar ook een vereiste voor de betrouwbaarheid en effectiviteit van AI. Het negeren van bias kan leiden tot onjuiste beslissingen en kan zelfs discriminerende praktijken in de hand werken.

Sociologische vs Ethische Vragen

• Wat voor soort samenleving willen we?: Het panel stelde de vraag of de kwesties rondom AI meer sociologisch dan ethisch van aard zijn. Het gaat niet alleen om het bouwen van ethische AI-systemen, maar ook om de soort samenleving waarin we willen leven. Dit roept belangrijke vragen op over inclusiviteit, gelijkheid en de rol van technologie in ons dagelijks leven.
• Menselijke Bijdrage: De toekomstige rol van menselijke creativiteit werd ook besproken. Er werd geopperd of AI de laatste menselijke uitvinding zal zijn of dat er altijd ruimte zal zijn voor menselijke creativiteit. Dit is een cruciale vraag die niet alleen technologen maar ook filosofen en maatschappelijke leiders bezighoudt.

Internationale Harmonisatie

• Globale Standaarden: De panelleden onderstreepten het belang van internationale harmonisatie van AI-standaarden en -regelgeving. Dit is niet alleen essentieel voor de technologie om wereldwijd impact te hebben, maar ook om een ‘race naar de bodem’ te voorkomen waarbij landen concurreren op laksheid in regelgeving. Een gecoördineerde aanpak kan zorgen voor een gelijk speelveld en stimuleert innovatie op een verantwoorde manier.
• Regionale Verschillen: Het is belangrijk om te erkennen dat verschillende regio’s verschillende behoeften en uitdagingen hebben. Internationale harmonisatie moet daarom flexibel genoeg zijn om rekening te houden met lokale contexten, terwijl het toch een algemeen kader biedt voor ethische en veilige AI.
• Open Source en Samenwerking: De toekomst van AI ligt volgens de panelleden in open source. Dit is een krachtig model dat niet alleen technologische innovatie stimuleert, maar ook zorgt voor transparantie en verantwoording. Open source maakt het mogelijk voor ontwikkelaars om samen te werken over grenzen heen, en draagt bij aan een snellere, meer democratische en inclusieve ontwikkeling van AI-oplossingen.
• Publiek-Private Partnerschappen: Voor effectieve internationale harmonisatie zijn samenwerkingen tussen overheden en de private sector onmisbaar. Dit soort partnerschappen kunnen helpen bij het opstellen van standaarden en het delen van best practices, en zorgen voor een meer holistische benadering van AI-regulering.

Elon Musk’s Perspectief: Het “Thomas Edison-moment voor AI”

De quote van Elon Musk dat dit het “Thomas Edison-moment voor AI” is, werd aangehaald als een keerpunt in de ontwikkeling en regulering van AI-technologieën. Dit moment markeert een fase waarin AI niet meer alleen een concept of een experiment is, maar een technologie die klaar is om op grote schaal te worden toegepast en gereguleerd. Net zoals Thomas Edison’s uitvindingen de industriële revolutie hebben aangedreven, staat AI op het punt om een nieuwe golf van technologische en maatschappelijke veranderingen te ontketenen.

Deze uitspraak van Musk sluit naadloos aan bij de discussies over standaardisatie, regelgeving en de betrouwbaarheid van AI. Als we op een “Edison-moment” staan, dan is het cruciaal dat we de juiste systemen en regels op hun plaats hebben. Dit is waar het belang van internationale harmonisatie en een robuust regelgevend kader, zoals besproken in het panel, naar voren komt.

Het roept ook de ethische en sociologische vragen op die eerder zijn behandeld. Als AI inderdaad op het punt staat om een revolutie te ontketenen vergelijkbaar met die van elektriciteit, wat betekent dit dan voor de samenleving die we willen bouwen? En hoe zorgen we ervoor dat menselijke creativiteit en ethische overwegingen niet verloren gaan in deze technologische sprong voorwaarts?

Tot slot, als we Musk’s visie volgen dat open source en samenwerking de toekomst zijn, dan wordt het delen van kennis en best practices niet alleen een technologische noodzaak, maar ook een ethische imperatief. Het is een oproep tot actie voor alle stakeholders om samen te werken aan een toekomst waarin AI ten goede komt aan de mensheid als geheel.

Conclusie

De paneldiscussie bood een uitgebreid overzicht van de uitdagingen en kansen die de AI-wet van de EU met zich meebrengt. Het benadrukte de noodzaak van standaardisatie, regelgeving en ethische overwegingen in de ontwikkeling en implementatie van AI-technologieën.

In een tijd waarin AI steeds meer invloed krijgt op ons dagelijks leven en de bedrijfswereld, is het essentieel om te begrijpen welke kansen, maar ook welke uitdagingen en risico’s er zijn. Angst voor AI is niet productief; wat telt is een gedegen begrip van de verschillende aspecten waarover men zich zorgen zou kunnen maken.

Als je wilt begrijpen wat AI is, hoe het werkt, en wat de cruciale punten zijn die je moet weten, dan kan ik je daarbij helpen. Het gaat niet alleen om technologie, maar ook om wat dit betekent voor de toekomst en duurzaamheid van bedrijven en hun bedrijfsmodellen. Kennis van AI is niet langer een ‘nice-to-have’, maar een ‘must-have’ voor iedereen die betrokken is bij het vormgeven van de toekomst. Neem gerust contact met me op om hier verder over te praten.