Kunstmatige intelligentie (ofwel artificial intelligence, kortweg AI) is aan een razendsnelle opmars bezig in de wereld. Om een voorbeeld te geven: de wereldwijde AI-markt heeft in 2027 naar verwachting een waarde van 407 miljard dollar. In 2022 was dat nog ‘maar’ 87 miljard dollar. Uit een enquête van adviesbureau McKinsey blijkt dat 55 procent van de bedrijven in de wereld inmiddels een vorm van AI gebruikt.

Peter Olofsen, analist bij Triodos Investment Management

Dat is niet voor niets. Het gebruik van AI kan veel voordelen met zich meebrengen. Van hogere productiviteit en kostenbesparing tot betere klantenservice en innovatie. En hoewel dit artikel oproept tot voorzichtigheid, is Triodos Bank ook enthousiast over de mogelijkheden die de technologie met zich meebrengt. “Kijk bijvoorbeeld naar de medische wereld”, zegt Olofsen. “Daar wordt machine learning (waarbij computersystemen zelfstandig leren en verbeteren, op basis van data) al jaren gebruikt om de prestaties te verbeteren van machines die borstkanker kunnen detecteren. AI leidt nu al tot betere diagnoses.” Genoeg redenen dus om enthousiast te zijn.

Wat is AI?

Kunstmatige intelligentie is het vermogen van machines en computersystemen om taken uit te voeren, die vaak alleen aan mensen en andere levende wezens worden toegeschreven. Denk aan leren, logisch redeneren, patronen herkennen, complexe problemen oplossen en besluiten nemen. AI kent verschillende vormen. Een bekend en actueel voorbeeld is deep learning, waarbij AI-systemen algoritmes en data gebruiken om (geheel zelfstandig) taken uit te voeren, daarvan te leren en zichzelf te verbeteren. 

Energiegebruik, werkeloosheid en discriminatie

Maar de opkomst van AI gaat ook gepaard met zorgen en risico’s. Zo is het energiegebruik van AI-systemen niet mals. In 2027 is dat naar verwachting al vergelijkbaar met het energieverbruik van Nederland. En in de jaren erna neemt dat alleen maar toe. Ook het toenemende watergebruik (om servers te koelen) is een prangend probleem.

Daarnaast zijn er allerlei ethische vraagstukken gerelateerd aan AI die zorgen baren. Denk bijvoorbeeld aan discriminatie door 'algorithmic bias'. Of aan de schending van privacy door identiteitsverificatie op publieke plekken, met behulp van gezichtsherkenning en/of biometrie. Of het gebruik van AI voor onethische en ronduit gevaarlijke doeleinden, zoals autonome wapensystemen die in staat zijn om zelf doelen op te sporen en aan te vallen, volgens een set voorgeprogrammeerde regels.

Wat is algorithmic bias?

Algorithmic bias betekent dat AI-software onbedoeld kan discrimineren en vooroordelen kan hebben, met oneerlijke resultaten voor bepaalde groepen mensen tot gevolg. Dit komt bijvoorbeeld door het gebruik van bevooroordeelde datasets of de ontwikkeling van algoritmes op basis van vooroordelen van de ontwikkelaars.

Een bekend voorbeeld is een AI-tool die Amazon in 2014 gebruikte om de CV’s van sollicitanten te beoordelen. Een jaar later realiseerde het bedrijf zich dat de software mannelijke kandidaten bevoorrechtte. De reden: in het beoordelingsproces baseerde de software zich op alle ingediende cv’s van de afgelopen 10 jaar. Maar het overgrote deel van die cv’s was afkomstig van mannen, omdat er van oudsher meer mannen actief zijn in de tech-industrie.

Wet- en regelgeving loopt achter

Door deze en andere zorgen zijn meerdere overheden inmiddels druk bezig met het opstellen van regulering op het gebied van AI. Maar zoals wel vaker het geval is bij wet- en regelgeving; het blijkt lastig om de dagelijkse praktijk bij te benen. Zeker bij een technologie als AI, die zich razendsnel ontwikkelt. In augustus van dit jaar werd de EU Artificial Intelligence Act (of kortweg AI Act) van kracht, al worden de regels pas gehandhaafd in de loop van 2025 en 2026. Dit pakket van regels verbiedt onder andere het gebruik van AI voor bepaalde doeleinden, zoals sociale kredietsystemen. Andere AI-toepassingen, zoals het scannen van CV’s bij sollicitatieprocedures, moeten aan strikte eisen voldoen.

Wat zijn sociale kredietsystemen?

Sociale kredietsystemen (of social scoring) is vooral bekend uit China, waar dit al in verschillende vormen en op verschillende plekken wordt toegepast. Het houdt in dat je als inwoner een ‘sociale kredietscore’ krijgt. Hoe beter jij je gedraagt, hoe hoger je score. Dat gaat gepaard met privileges, zoals toegang tot bepaalde diensten. Is je score laag? Dan kan dat juist negatieve gevolgen hebben.

De Europese Unie publiceerde in 2019 daarnaast de Ethics guidelines for trustworthy AI: een richtlijn voor AI-ontwikkelaars en -gebruikers om de technologie op een verantwoorde en betrouwbare manier te gebruiken. Is het genoeg? “De EU is zeker één van de voorlopers als het gaat om regulering omtrent AI. Maar het is te vroeg om te zeggen of de huidige regulering en richtlijn voldoende zijn”, aldus Masut. “We zien al mogelijke loopholes en tekortkomingen. Een voorbeeld: de Ethics Guideline stelt onder andere dat AI ethisch gebruikt moet worden. Dat is goed, maar bedrijven kunnen vervolgens zelf invullen wat ‘ethisch’ precies inhoudt. De regels in de AI Act gelden op hun beurt niet voor defensieactiviteiten en nationale veiligheid. Daar kan de technologie dus nog steeds ingezet worden op een onverantwoorde manier, die wellicht mensenrechten schendt.”

Competitief vakgebied

Met andere woorden: we kunnen er (nog) niet op vertrouwen dat wet- en regelgeving verantwoord gebruik van AI garandeert. Kunnen we er op vertrouwen dat bedrijven die handschoen zelf oppakken? Olofsen: “We hebben meerdere gesprekken over AI gehad met technologiebedrijven in ons investeringsportfolio. We zien daar dat er beleid geformuleerd is op het onderwerp en dat er ook toezicht op is. Dat is goed nieuws. Maar een bredere analyse (bij meerdere bedrijven, ook buiten ons investeringsportfolio) laat zien dat er echt nog wel werk aan de winkel is. Bijvoorbeeld op het gebied van disclosure (de mate waarin bedrijven informatie vrijgeven die een investeringsbeslissing kunnen beinvloeden, red.).”

“In bijna alle sectoren willen bedrijven aan de wereld laten zien dat ze AI al toepassen in hun producten en processen. Dat helpt niet mee en maakt het lastig voor bedrijven om voldoende rekening te houden met de risico’s”, vult Masut aan. “Er zou een goede balans moeten zijn bij de overwegingen van bedrijven op dit gebied. Het gaat niet alleen om: kunnen we AI gebruiken? Maar ook: zúllen we AI gebruiken? En wegen de mogelijke voordelen op tegen de mogelijke risico’s?”

Over de illustratie boven dit artikel

De illustratie bij dit artikel is niet door AI gegenereerd, maar gemaakt door een échte illustrator. Geen algoritmes dus, wel noeste tekenarbeid. Nanna de Jong maakt onder de naam NanskiPunanski illustraties over onderwerpen zoals feminisme, klimaatactivisme, de queer community en seksuele educatie. Als beeldend activist wil ze laten zien dat iedereen erbij hoort en dat diversiteit gevierd moet worden.

Over de illustratie boven dit artikel zegt ze: “Ik wilde de samensmelting van de analoge met de digitale wereld laten zien. We reiken voor steeds meer doeleinden naar AI: een venster dat veel mogelijkheden en vooruitzichten biedt, maar nog niet voldoende gereguleerd is. Moeten we dat venster meteen helemaal open zetten of liever eerst op een kier? Kiezen we voor gemak over ethiek?”

“Als kunstenaar ben ook ik bang dat ik vervangen wordt door AI”, vervolgt ze. “Dat een afgeronde kunstacademie, jarenlange ervaring en talent worden vervangen door een simpele druk op de knop. Achter deze illustratie zitten twijfels, afwegingen en onzekerheden maar ook … een échte maker”

Financiële instellingen aan zet

Zowel regulering als bedrijven schieten momenteel dus tekort om verantwoord en ethisch gebruik van AI te garanderen. Daarom roept Triodos Bank financiële instellingen op om óók hun verantwoordelijkheid op dit gebied te pakken. Dat kan op meerdere manieren. Masut: “Ten eerste is het natuurlijk belangrijk dat we AI zélf op een ethische en verantwoorde manier gebruiken. Voor de financiële sector neemt het gebruik van AI namelijk ook hoge risico’s met zich mee. Van algorithmic bias bij kredietbeslissingen tot privacy. We moeten onszelf daarom dezelfde kritische vragen die we aan de bedrijven in ons investeringsportfolio stellen.”

Daarnaast hebben financiële instellingen twee manieren om impact te maken op investeringsgebied. De eerste is de keuze om wel of niet in een bedrijf te investeren. Of een investering zelfs terug te trekken als een bedrijf op discutabele wijze met AI omgaat. “Staar je als financiële instelling niet blind op het mogelijke financiële rendement van AI, ook al kan die aantrekkelijk zijn”, zegt Masut. “Stel kritische vragen, laat weten dat je naar meer op zoek bent dan alleen financieel rendement en stel ook eisen op dat gebied.”

De tweede is engagement, ofwel in gesprek gaan met bedrijven en hen op verschillende manieren overtuigen om positieve impact te maken. Het is belangrijk dat financiële instellingen dit doen én er gezamenlijk in optrekken, stelt Olofsen: “Als Triodos Bank signaleren we regelmatig dat we verantwoordelijk en ethisch gebruik van AI belangrijk vinden. Maar als tientallen financiële instellingen die boodschap delen, is de impact vele malen groter. Samen staan we sterker. Ook dat gebeurt al: samen met 50 institutionele beleggers zijn we aangesloten bij de Collective Impact Coalition for Ethical Artificial Intelligence van de World Benchmarking Alliance.”

Wat doet Triodos Bank?

“We hebben met meerdere technologiebedrijven waarin we investeren om de tafel gezeten over AI. Hoe gebruiken ze de technologie? Hoe zorgen ze ervoor dat het op een verantwoorde manier gebruikt wordt? Hoe houden ze daar toezicht op?”, zegt Olofsen. “We zijn blij dat veel bedrijven in ons investeringsportfolio er beleid op hebben en dat het ook wordt gehandhaafd.”

“In onze investeringsbeslissingen houden we altijd rekening met het onderwerp”, vult Masut aan. “Als een bedrijf niet verantwoord met AI omgaat of niet bereid is om die informatie te delen, is dat voor ons een reden om niet te investeren of zelfs een investering terug te trekken. Daarnaast hebben we onze minimumstandaarden beoordeeld op dit onderwerp. Die zijn voor nu toereikend genoeg om verantwoorde beslissingen te nemen, maar we blijven de ontwikkelingen rondom AI monitoren en nemen maatregelen als dat nodig is.”

Naar buiten treden

Masut merkt dat steeds meer financiële instellingen met het onderwerp aan de slag gaan en er beleid op formuleren, maar dat gebeurt vooral nog achter gesloten deuren. Maar het is juist belangrijk dat financiële instellingen van zich laten horen, stelt ze: “Wees kritisch, stel grenzen en treed daar ook mee naar buiten. AI heeft de kracht om onze maatschappij te veranderen, zowel positief als negatief. Het is essentieel dat ook financiële instellingen hun verantwoordelijkheid pakken op dit belangrijke onderwerp.”

Vision paper over AI

Meer weten over onze visie op het verantwoord gebruik van AI? En de rol die financiële instellingen kunnen (en moeten) spelen? Duurzaamheidsonderzoekers Federica Masut  en Johanna Schmidt schreven er een uitgebreid vision paper over: Artificial intelligence, human responsibility.

Lees het vision paper