OVER AI
In deze rubriek ‘Twee meningen’ laten we steeds twee deskundigen aan het woord over één thema. Deze keer is het onderwerp: AI (artificial intelligence, kunstmatige intelligentie).
Met Emile Aarts, emeritus hoogleraar aan JADS Jheronimus Academy of Data Science en Tilburg University en Esther Keymolen, hoogleraar Digital Technology Regulation aan Tilburg University.
Moeten we blij zijn met AI als blijvertje?
Gezichtsherkenning, spraakgestuurde assistenten, autonome drones. Artificial Intelligence (AI) is hard op weg om ingeburgerd te raken in onze samenleving. Het is een blijvertje en krijgt een steeds prominentere rol in ons leven. Maar net zo groot als de kansen die het biedt, zijn misschien wel de potentiële risico’s. Welke impact heeft AI op de werkgelegenheid bijvoorbeeld? En hoe zit het met de ethische kant van de zaak? We zetten ChatGPT in om een aantal prangende vragen op te stellen.
"Jij bepaalt de boodschap en bent degene die alert moet zijn op onjuistheden. Want 100% betrouwbaar is het niet."
Emile Aarts
"Ik denk niet dat AI op zichzelf gevaarlijk is. Wel moeten we goed bekijken in welke toepassingsgebieden het wenselijk is."
Esther Keymolen
De mening van Emile Aarts Emeritus hoogleraar
Over ChatGPT gesproken. Hoe terecht is de angst voor misbruik, manipulatie en discriminatie van dit soort generatieve AI-technieken?
“Het is eigenlijk gewoon een slimme tekstapplicatie, waaraan dertig jaar geleden al werd gewerkt als onderdeel van computergestuurde taalverwerking”, zegt emeritus hoogleraar Emile Aarts. “Dat gaat vaak zo met technologische ontwikkelingen. Het is het principe van de hockeystick: heel lang is er nauwelijks vooruitgang en dan komt de curve aan het einde van de stick, de grote doorbraak. Dat mensen ChatGPT als een bedreiging zien, is eigenlijk een gemiste kans. Zie het als een hulpmiddel dat jou helpt om sneller informatie op te halen. Vroeger trok je er de encyclopedie voor uit de kast, later ging je Googelen en nu vraag je de chatbot om informatie te verzamelen. Het is gewoon the next step. En jij blijft de baas, hè! Jij bepaalt de boodschap en bent degene die alert moet zijn op onjuistheden. Want 100% betrouwbaar is het niet.”
Eerder dit jaar pleitten grote namen uit de tech-wereld voor een AI-pauze. Hoe kijkt u hier tegenaan?
“Ik snap het wel vanwege alle ophef rond AI, maar helemaal oprecht is het niet. Elon Musk is iemand die altijd het onderste uit de kan haalt, waarbij geen beperking hem weerhoudt. Dat hij dan ineens de ethische broek aantrekt, vind ik een beetje merkwaardig. Net als de AI-pionier Geoffrey Hinton, die na zijn vertrek bij Google in Canada spreekt over het monster dat hij heeft helpen creëren. Ik ken hem persoonlijk en we hebben veertig jaar lang plezier gehad aan de ontwikkeling van AI. Dat je dan ineens alleen maar donkere wolken ziet, gaat er bij mij moeilijk in. Maar ook dat is in de wetenschap iets van alle tijden. Oppenheimer, die als natuurkundige de atoombom bedacht, kreeg ook ineens spijt. Het is misschien eerder een kwestie van geen vat meer hebben op wat er allemaal gebeurt.”
Europa wil mensgerichte AI: iedereen moet er veilig van kunnen profiteren. Dat gebeurt onder meer via de ELSA Labs, waarbij u betrokken bent. Wat zijn dat?
“ELSA staat voor Ethical, Legal and Societal Aspects (ethische, wettelijke en sociale aspecten, red.. Het is een concept, waarmee met allerlei data sociaal-maatschappelijke problemen worden aangepakt. Armoede, schulden, laaggeletterdheid, (mentale) gezondheid, voeding, leefbare woonomgevingen. Maar ook uitdagingen op het gebied van media, cultuur, rechtspraak, democratie en bestuur. En zelfs op het gebied van defensie. Zo is armoede inmiddels tot op straatniveau te detecteren, waardoor mensen een stuk beter te bereiken zijn. In Brabant zijn er meerdere ELSA Lab-initiatieven, waarbij de kennisinstellingen nauw samenwerken met lokale overheden. In een aantal gemeenten rondom Tilburg wordt datascience ingezet om uitval van jonge mensen op de arbeidsmarkt vroegtijdig te signaleren.”
In hoeverre moeten we ons zorgen maken over de impact van AI op de werkgelegenheid?
“Er gaan beroepen verdwijnen, dat is onontkoombaar. Er zijn beroepen die 25 jaar geleden nog niet bestonden en als we over 25 jaar terugkijken, constateren we hetzelfde. Het gaat dus over een dynamiek. Maar de snelheid waarop de ontwikkelingen nu op ons afkomen is wel veel hoger. Dat komt door de beschikbaarheid en toegang tot informatie als onderdeel van de digitale transformatie. In de middeleeuwen was de informatie die een mens in een heel leven te verwerken kreeg net zo groot als wij nu op één dag. Terwijl de evolutie van ons brein niet is meegegroeid. Dus moet je filteren, keuzes maken, snel reageren. Daarbij komt ook nog de moraalfilosofie om de hoek kijken: is die informatie betrouwbaar en uit te leggen en willen we wel op bepaalde manieren met elkaar omgaan? En dan vindt iedereen er ook nog iets van. Daarom is het goed dat er met de EU AI Act op Europees niveau wet- en regelgeving over komt.”
Wat zijn echt baanbrekende mogelijkheden van AI?
“Neem de gezondheidszorg. Aan de kant van de diagnostiek (vaststellen welke ziekte iemand heeft, red) zijn er AI-programma's die heel secuur beeldinspectie doen. Dat betekent dat het werk van de radioloog verbetert, maar ook van de internisten die diagnoses moeten stellen. Het grote voordeel van die programma’s is de kwaliteit en de consistentie. Dat geldt ook voor de robots die al volledig autonoom of samen met de chirurg operaties uitvoeren. En dan hebben we het nog niet gehad over mobiliteit, de rechtspraak, het onderwijs, de landbouw, noem maar op; op al die terreinen heeft AI al vergaande impact. Als we nog verder kijken, naar de impact van AI op de mensheid, dan gaan we de technologie gebruiken om de aarde zo lang mogelijk af te koelen. Op termijn kunnen we AI inzetten om de duurzaamheid van onze planeet substantieel te beïnvloeden. En uiteindelijk gaat AI ons als mensheid helpen om de aarde te verlaten en elders in de ruimte een nieuw bestaan op te bouwen. Daar ben ik van overtuigd.”
Tot slot: wat kunnen we op korte termijn doen?
“Brabant heeft altijd een belangrijke rol gespeeld in de ontwikkelingen rond AI. Denk aan de vele toepassingen in de hightechindustrie, de logistiek en de agro- en foodindustrie. Bedrijven als Philips, ASML, NXP, maar ook Bol.com zijn leidend. Ik zie veel positieve energie en elan, maar ik zie ook veel versnippering. Alleen al op het gebied van kennis en innovatie zijn er talrijke ontwikkelingen. Allemaal mooie initiatieven met veel drive en creativiteit. Maar het ontbreekt aan onderling overleg en afstemming, waardoor de kritische massa en grootschalige kennisdeling beperkt blijven. Daar zie ik echt ruimte voor verbetering.”
Lees hieronder verder voor de mening van Esther Keymolen...
De mening van Esther Keymolen Hoogleraar
Veel mensen zijn bang dat AI het gaat overnemen van de mens. Hoe terecht is die angst?
“De kracht van AI zit juist in de samenwerking met mensen”, zegt Esther Keymolen, die als hoogleraar vooral focust op de filosofische en ethische aspecten van AI-regulering. “De impact is per onderdeel van de samenleving anders. Als de aanbevelingen van Spotify of Google Maps er een keer naast zitten, is dat geen ramp. Het wordt anders als de uitkomst van een datagedreven applicatie een enorme impact heeft op mijn kansen in de maatschappij. Stel dat ik alleen op basis van een algoritmisch besluit een ‘nee’ krijg op mijn aanvraag voor een uitkering of toelating tot een universiteit, dan hebben we een probleem. Dat zijn onderdelen van de samenleving die wij in onze democratische rechtsstaat zien als cruciaal om een goed leven te leiden. We moeten niet willen dat daar louter AI aan te pas komt. We moeten erop sturen dat iemand of een organisatie verantwoordelijk is en dat we inzetten op uitlegbare, verantwoordelijke AI-toepassingen.”
Bij het trainen van AI-modellen zijn het vooral techneuten die de keuzes maken. Is dat niet te eenzijdig?
“De vraag is inderdaad of we die keuzes willen overlaten aan een kleine groep techneuten, die niet per se snapt wat de politieke of ethische impact is van bepaalde keuzes. Dat probeer ik ook altijd uit te leggen aan de aankomende data- wetenschappers, aan wie ik lesgeef; dat het ontwikkelen van modellen en inzetten van algoritmes niet louter om technische keuzes gaat. Ik druk ze altijd op het hart om vooral het gesprek aan te gaan met hun opdrachtgevers en bijvoorbeeld kwalitatief onderzoek te doen met focusgroepen. Ga achter het scherm vandaan en de echte wereld in; interview de mensen die de impact gaan voelen van de applicatie die je ontwikkelt. Wat ervaren zij als het probleem en hebben zij eigenlijk wel behoefte aan jouw oplossing? Die kan technisch wel perfect zijn, maar als je niet hebt nagedacht over de juridische en ethische randvoorwaarden dan kun je een toepassing hebben die je niet mag gebruiken omdat die tegen de wet- en regelgeving is. Of die je niet moet willen gebruiken, omdat die indruist tegen ethische principes die we belangrijk vinden. Ik zie daar echt een rol in voor het onderwijs.”
Is er eigenlijk al wel voldoende regulering?
“Er is zelfs al heel veel regulering. We hebben de AVG, de Algemene Verordening Gegevensbescherming; die ziet toe op alle applicaties waarvoor persoonsgegevens worden verwerkt. Zo kun je je bij het scrapen van data (automatisch verzamelen van webdata die vaak nodig zijn om AI te trainen, red.) afvragen of dit al geen privacyschending is, omdat er veel persoonsgegevens in zitten die zonder duidelijke grondslag worden verwerkt. In Amerika zijn daarover al de eerste rechtszaken. We hebben ook mensenrechten, intellectueel eigendomsrecht en nu ook de Digital Markets Act en Digital Services Act (Wet digitale markten en Wet digitale diensten, red). Dat is allemaal bestaande wetgeving, hè! De Europese Unie is bovendien bezig met de AI Act, de wet die moet toezien op kunstmatige intelligentie. Doel is dat mensen en bedrijven kunnen rekenen op veilige, transparante, niet-discriminerende en milieuvriendelijke AI-systemen, onder toezicht van mensen. Maar laten we eerst maar eens beginnen met de huidige wetgeving. Daar heb je geen AI-pauze voor nodig, zoals vanuit de techwereld wordt geopperd. Bedrijven zouden eerder zichzelf een pauze moeten opleggen als ze niet in staat zijn om zich eraan te houden.”
Als we verder inzoomen op de ethische kant, wat zijn dan de grootste gevaren van AI?
“Het is belangrijk om de menselijke maat goed in ogenschouw te nemen. Ik denk niet dat AI op zichzelf gevaarlijk is. Wel moeten we goed bekijken in welke toepassingsgebieden het wenselijk is. En als het wenselijk is, op welke manier we het dan inrichten. En vervolgens moet je als organisatie in staat zijn om processen snel bij te sturen als dat nodig is. Waar je je ook bewust van moet zijn, is dat het bij AI-toepassingen altijd gaat om voorspellingen. Als het goed is, zijn die behoorlijk nauwkeurig, maar er zit natuurlijk ook altijd een foutmarge in. En soms heb je gewoon onwenselijke bijeffecten. Om die fouten op te kunnen pikken, moet je als organisatie openstaan voor de signalen die je krijgt van mensen, zowel binnen als buiten je organisatie. Alleen zo kun je waar nodig snel corrigeren."
