TIAS TALKS: In gesprek met Erik Beulen

Artificial intelligence pauzeren is geen oplossing. Innovaties moeten worden aangemoedigd. Maar wél goed worden beheerd. Dat vindt prof. dr. Erik Beulen, hoogleraar Informatie Management & Digitale Transformaties bij TIAS.  Als voorbeeld geeft hij het toeslagenschandaal bij de Belastingdienst waarbij op basis van onjuist gebruik van Artificial intelligence, etnische minderheden onevenredig uitkeringen werden ontzegd en beschuldigd werden van fraude. Als gevolg van dit schandaal trad het Nederlandse kabinet januari 2021 af.

“Het enorme potentieel van artificial intelligence en tegelijkertijd de enorme impact van verkeerde besluitvorming en onjuist gebruik van deze technologie, vergroot de behoefte om antwoorden te vinden op de vraag: Hoe kunnen de risico's van Artificial intelligence, zoals privacy- en concurrentierisico's, inbreuk op antitrustwetten en de omgang met ethische kwesties, worden aangepakt? Organisaties zullen opnieuw moeten nadenken over het gebruik van Artificial intelligence evenals over hun samenwerking met externe partijen op dit vlak om het volledige potentieel van data en inzichten te benutten.”

Is Artificial Intelligence iets dat alle bedrijven zal beïnvloeden in hun processen en dienstverlening?

Zeker. Hierbij zou ik een onderscheid willen maken tussen optimaliseren en innoveren. Bij optimaliseren worden processen efficiënter, maar blijft de dienstverlening ongewijzigd. Organisaties die innoveren passen niet alleen hun processen aan, maar kiezen ook voor andere businessmodellen, voor een andere manier van werken. Om bestaansrecht te behouden is het niet voldoende om te blijven inzetten op optimalisatie alleen, organisaties moeten ook innoveren om te voorkomen dat ze worden ingehaald door andere organisaties.

Hoe begin je als organisatie met nadenken over het gebruik van Artificial intelligence?

Laat ik beginnen met de stellen dat Artificial intelligence geen doel is maar een middel. Organisaties moeten op zoek gaan naar welke nieuwe inzichten helpen bij het innoveren van de bedrijfsvoering. We zien daarbij vaak dat organisaties ook kijken naar optimalisatie. Met de kostenbesparingen die worden gerealiseerd met optimalisatie worden investeringen gedaan in innovatie.

De volgende stap is om een assessment te doen van de datakwaliteit, de bedrijfsprocessen en de beschikbare tooling. Dit geeft een beeld welke acties en investeringen er nodig zijn om te kunnen optimaliseren en innoveren. Daarna is het een kwestie van gewoon beginnen en stap voor stap Artificial intelligence binnen de organisaties en de samenwerking met partners in ecosystemen inzetten.

Waarom zou een bedrijf Artificial intelligence outsourcen en waarmee moet het dan rekening houden?

De belangrijkste reden om Artificial intelligence uit te besteden, is dat organisaties geen toegang hebben tot expertise. Datascientists en medewerkers met ervaring met data-analytics zijn nog steeds schaars. Waarbij organisaties zich ook nog moeten afvragen of hun omvang voldoende groot is om een team met experts te hebben dat de snelle technologische ontwikkelingen kan bijhouden. Verder helpt uitbesteding om pieken in de vraag naar expertise op te vangen.  

Het is belangrijk om bij uitbesteding een goede inschatting te kunnen maken van de expertise die nodig is over tijd. Het inzichtelijk hebben van de vraag, stelt organisaties in staat om afspraken te maken met leveranciers. Bij het selecteren van een leverancier doen organisaties er goed aan om voor dienstverlening een leverancier te selecteren van hun eigen omvang. Dat zorgt voor gelijkwaardigheid in de samenwerking.

Enkel formele governance rondom Artificial intelligence is niet voldoende. Hoezo niet?

Ontwikkelingen gaan heel snel, dit betreft niet alleen technologisch maar ook in de bedrijfsvoering. De positie van een organisatie in de markt en in ecosystems is onderhevig aan continue veranderingen. In deze dynamiek moeten organisaties snel kunnen reageren. Dat lukt niet door alleen maar te vergaderen met contracten in je hand. Dat vraagt om het onderhouden van relaties.

Relationele governance is een aanvulling op het beheersen van het juist toepassen van Artificial intelligence binnen organisaties. Kun je dit uitleggen met een praktisch voorbeeld?

Zeker – relationele governance legt de nadruk op sociale interacties. De nadruk ligt op gezamenlijke inspanningen om een lange termijn relatie in te richten en de onderhouden. Daarbij zijn wederzijds vertrouwen en commitment belangrijk. Dat betekent geven en nemen in de context van de gemaakte afspraken – wat zijn de doelstellingen die alle betrokkenen willen bereiken en hoe kunnen deze onder de gewijzigde omstandigheden het beste bereikt worden – stel het doel centraal.

Dit klinkt allemaal vrij zacht en gaat ook verder dan het drinken van kopjes koffie. Organisaties onderzoeken (inter)actief hoe de samenwerking verbeterd kan worden, en maken daar aanvullende harde contractuele afspraken over. Denk hierbij bijvoorbeeld aan het inzetten van een nieuwe technology stack waardoor de performance veel beter wordt. Daarmee draagt relationele governance bij aan het “onderhouden” van de  contractuele afspraken.

Hoe kun je als organisatie nu voorkomen dat je schade toebrengt aan klanten die persoonlijke data verstrekken?

Zorg voor een adequate inrichting van datagovernance en datamanagement. Essentieel hierbij is het classificeren van data. Hierbij gaat het niet alleen over persoonlijke data van klanten, maar ook van leveranciers, partners en medewerkers. Verder is het beschermen van intellectueel eigendom en concurrentiegevoelige gegevens ook belangrijk. Denk hierbij aan ASML of het ministerie van defensie.

Voor datagovernance is het beleggen van de verantwoordelijkheid belangrijk, grote internationale organisaties beleggen dit bij een Chief Data Officer, bij kleinere organisatie kan dit worden ondergebracht bij de informatietechnologie afdeling. Het is ook belangrijk om het eigenaarschap van de data goed in te richten. Dit ligt altijd bij een verantwoordelijke voor de bedrijfsvoering. Typisch ligt het eigenaarschap van verschillende dataverzamelingen bij verschillende functionarissen.

Daarnaast moet de informatietechnologie afdeling ook zorgen voor goed functionerende data management tooling. Hierbij is met name de toegang tot data essentieel. Helaas is de datagovernance en datamanagement volwassenheid van veel organisaties nog erg laag, te laag. 

Hoe ziet de bedrijvigheid met AI er over 10 jaar uit denk je? En wat hoop je?

Tien jaar is wel erg ver weg, ontwikkelingen gaan razendsnel. Maar de invloed die Artificial intelligence gaat hebben in de toekomst zal alleen maar groter worden. Veel activiteiten en zelf hele processen zullen op hele korte termijn worden ondersteund met of compleet worden vervangen door articifial intelligence. Het voorbestaan van organisaties die daar niet, of in niet voldoende mate in mee kunnen, staat op het spel.

Mijn grootste zorg is dat Artificial intelligence wordt misbruikt; manipulatie en onethisch handelen liggen op de loer. Denk hierbij aan fake news dat een ideologische agenda dient en app-drivers die worden aangestuurd door een algoritme in plaats van door een mens. Dit alles kan leiden tot sociaal onwenselijke toestanden. Daarnaast ben ik ook bezorgd over de wijze waarop statelijke actoren Artificial intelligence inzetten, daarbij denk ik niet alleen aan oorlogsvoering met autonome wapensystemen maar ook aan beïnvloeding van verkiezingen, denk bijvoorbeeld aan Cambridge Analytics en het referendum in het Verenigd Koninkrijk over het continueren van deelname aan de Europese Unie.  

Wetgeving gaat helpen om ongelukken te voorkomen of in ieder geval schade te beperken, denk hierbij aan de AI act van de Europese Unie en de AI Bill for Rights van de Verenigde Staten in wording, maar ook de ondertekening van de Bletchley Declaration. Maar we moeten de impact van de donkere kant van Artificial intelligence niet onderschatten. Ik ben van nature positief en optimistisch maar op dit punt meer dan bezorgd.

Wat zou je als laatste opmerking nog willen meegeven aan ondernemers die dit artikel lezen?

Ik zou de vraag graag wat breder willen beantwoorden – niet alleen ondernemers, maar iedere professional moet nadenken over de wijze waarop Artificial intelligence kan worden ingezet in een organisatie en in ecosystemen. Zoek naar mogelijkheden, overweeg om je kennis te vergroten. Volg een cursus Phyton of een MSc opleiding en alles wat daartussen ligt. Voorkom dat technologische ontwikkelingen jou en jouw organisatie inhalen!  

TIAS is een onterecht onbekende parel in onze stad. Zeker als je weet dat ze jaarlijks zo'n 3.400 deelnemers uit meer dan 40 landen opleidt. Ondernemerschap en innovatie zijn hierbij belangrijke thema’s. In de reeks TIAS Talks spreken we diverse personen binnen het instituut hierover.

Meer weten over TIAS? Kijk dan hier.

Meer weten over verantwoorde Artificial intelligence? Download hier de publicatie van het onderzoek naar de inrichting van governance bij outsourcing van kunstmatige intelligentie.