In SURF-magazine: De kansen achter de hype

Deze column is gepubliceerd in het SURF-magazine 03 uit September 2020

Artificial intelligence. Iedereen heeft het erover. Tenminste, als je écht met innovatie bezig bent, dan heb je er wel een mening over. Ik ook natuur- lijk! Zo denk ik dat gezichtsherkenning verboden zou moeten worden, emotie-herkenning een moderne vorm van frenologie is, en dat de helft van wat we over AI horen een verkapte hype is.

Maar mijn stelligheid doet geen afbreuk aan de potentie van deze technologie. De mogelijke toepassingen zijn machtig interessant. Zoals filosoof Luciano Floridi zegt in het FD: we hebben maar één generatie om deze planeet te redden van klimaatverandering en sociale ongelijkheid, en dat kan niet zonder AI.

Dat het onderwijs en onderzoek van de toekomst door AI gaan veranderen, staat voor mij buiten kijf. Maar hoe het gaat veranderen en wat wij daarvoor moeten doen, is nog onduidelijk.

We hebben behoefte aan een ‘AI demystified’, het echte verhaal over wat AI kan en doet.

Daarom ben ik met collega’s Andres Steijaert en Thomas van Himbergen gaan praten met experts. Bij SURF, bij onze leden, en ook daarbuiten. Díe gesprekken delen wij in de SURF AI Innovators Podcast.

Luister met ons mee naar wat de echte experts te vertellen hebben.

Dan zoeken we samen naar de antwoorden.

Je vind alle SURF AI Innovator Podcasts op Soundcloud:

SURF AI Innovators Podcast

Wat is artificial intelligence (AI) en hoe gaat het onze wereld veranderen? Die vraag houd mij nu al langere tijd bezig. Samen met mijn collega’s Thomas van Himbergen en Andres Steijaert ben ik bij SURF een podcast begonnen om precies met dat soort vragen te stoeien.

Hierin praten we met onderzoekers, ingenieurs, innovatiemanagers en tal van anderen over hun ervaringen met en toekomstige verwachtingen van AI. Toegespits op toepassingen binnen onderwijs en onderzoek.

SURF Sounds · AI Innovators Podcast

Probeer het eens uit en luister een van onze afleveringen van de SURF AI Innovators Podcast op Soundcloud!

De 2020 boekenlijst – dusver

Boeken zijn kleine vensters in de zielen van anderen, manieren om dingen mee te maken die je nooit meegemaakt hebt, of leermeesters over alle onderwerpen van de wereld. Ze inspireren je tot nieuwe dingen, zetten je aan het denken, of nemen je weg uit het dagelijkse. Elk jaar houd ik bij welke boeken ik allemaal gelezen heb, op Goodreads. Dit jaar doe ik dat ook eens hier online!

  • Factfulness – Hans Rosling
  • Formule X – Jurriaan Kramer
  • The Alchemist – Paulo Coelho
  • Star Wars: Darth Plagueis – James Luceno
  • Steppenwolf – Herman Hesse
  • Machines Like Me – Ian McEwan
  • Man’s Search For Meaning – Victor E. Frankl
  • Everything Is F*CKED: a book about hope – Mark Manson
  • In Europa: reizen door de twintigste eeuw – Geert Mak
  • The Alloy of Law – Brandon Sanderson
  • A Voyage for Madmen – Peter Nichols
  • Leviathan Wakes – James S.A. Corey
  • Een Klein Leven – Hanya Yanagihara
  • Caliban’s War – James S.A. Corey
  • The Midnight Library – Matt Haig

Aan het eind van het jaar zal de balans opgemaakt worden van wat ik allemaal gelezen heb en wat de moeite waard was. Ik merk wel steevast dat ik sneller door de verhalende boeken heen kom dan de inhoudelijke. Er ligt nog een flinke stapel boeken met boekenleggers erin op de kast. Begonnen maar nooit afgemaakt. Welke ik dus ver van deze lijst het meeste aanraad?

  • Juli: Toch wel Factfulness en Man’s Search for Meaning, omdat beide helpen je jezelf een plek in de wereld te geven. Ik denk dat ook wel duidelijk mag zijn uit de selectie tot nu toe, dat ik daar naar op zoek ben.
  • September: Een Klein Leven van Hanya Yanagihara heeft me echt van mijn sokken geblazen. Een prachtig boek over vriendschap en over het leven in het algemeen. Daarnaast vind Matt Haig altijd een special mention wat mij betreft; het boek moet net zijn wat je nodig hebt, maar als je in een donkere plek in je leven bent zijn zijn boeken therapie.

Hoe normaal ben ik? Algoritmes denken anders over ‘normaal’ dan jij en ik.

Op bevrijdingsdag publiceert technologiecriticus en privacy designer Tijmen Schep zijn nieuwste creatie, www.hoenormaalbenik.nl/. Een kleine reis door de verschillende soorten algoritmen die dagelijks gebruikt worden om mensen in categorieen te plaatsen. Neem snel een kijkje, voordat je verder leest, dan krijg je de meest pure ervaring.

Je word zo vergeleken, zonder dat je er erg in hebt!

Wat Schep hiermee probeert te duiden is dat er enorm voor toepassingen zijn in het dagelijks leven die jou beoordelen. En daarbij vaak vanuit een aanname werken dat ‘normaal’ hetzelfde is als het gemiddelde van de data. Slecht gevormde data-sets hebben er bijvoorbeeld toe geleid dat gezichtsherkenningsalgoritmes vaak slecht zijn in het herkennen van mensen met een donkere huidskleur. Maar het kan bijvoorbeeld ook zijn dat de software van een bedrijf zoals HireView zegt dat je te weinig lacht tijdens een video-interview en daarom maar niet aangenomen moet worden.

De realiteit rondom algoritmes is bijzonder complex, soms lijken ze goede kandidaten te zijn om problemen op te lossen maar ook dat is nog ingewikkeld. En de gevolgen kunnen enorm zijn, zien we nu bijvoorbeeld in de ophef rondom de Belastingdienst.

Begin deze week kwam Joanna Bryson, professor in ethiek en technologie aan de Hertie School in Berlijn, met een oproep om het verhaal rondom ‘big data’ te veranderen: repelsteeltje AI de drogreden en een manifest. Hierin kaart ze aan dat veel data vaak helemaal niet betekend dat het ook goede data is, of de goede aanpak is voor een probleem. Door ons altijd maar op data verzamelen te focussen, voelen we een noodzaak om veel data te hebben terwijl juist grote datasets veel gevaren met zich mee brengen.

Haar 7 punten?

1. We as scientists want to communicate that privacy is essential to security, innovation, dignity, and flourishing. As such, we must stop celebrating how big our data is. 

2. The Rumpelstiltskin (originally, Rumpelstilzchen) theory of AI is just wrong. You do not automatically get more or better intelligence in proportion to the amount of data you use. Even where you use machine learning to build your AI (which is certainly not always the case), it  is basic statistics 101 that how much data you need depends on the variation in the population you are studying.

3. For very many applications, a large amount of data is only useful for surveillance.

4. Even where a lot of data might be useful, it is still a hazard. 

5. Data should not be routinely retained and stored without good reason. Where there is good reason, it must be stored with the highest standards of cybersecurity.

6. We need both proactive and responsive systems for detecting and prosecuting the use of inappropriately retained data.

7. We need to stop calling for projects like “Big data and [policy problem X]” and start calling for projects like “Data-led validation of [policy solution X]”, so that we stop communicating to politicians that indiscriminately gathering and retaining data is ever a good thing.

Joanna Bryson – “Big data” is not a win: the Rumpelstiltskin AI (Rumpelstilzchen KI) fallacy and manifesto

Disciplinerend ontwerpen in crisistijd

Freelance UX designer Maarten Janssen deelde op Linkedin een interessante plaat die hij gemaakt had. Het viel hem op hoe we in Nederland vooral rechte lijnen en vakken gebruiken om 1,5 meter afstand van elkaar duidelijk te maken. Dat geeft ons een ruimte van 1,5m x 1,5m de ruimte om te bewegen. En garandeerd niet dat er altijd 1,5m afstand gehouden wordt.

Dat kan ook anders! In India zetten ze cirkels op 1,5m van elkaar waardoor je “gedisciplineerd” wordt om ook echt afstand te houden.

ontwerp van een 1,5 wachtrij
Een visuele presentatie van verschillende 1,5 meter disciplines gemaakt door Maarten Janssen (vind zijn werk hier)

Ontwerpers zijn zich vaak in het bijzonder er van bewust dat een ontwerp (‘materiele ordening’) niet iets neutraals is, maar juist iets wat je kan gebruiken om een gebruiker te helpen, begeleiden, of beinvloeden.

Dit voorbeeld deed mij onmiddelijk denken aan een quote van de duitse filosoof Martin Heidegger die zegt “das Ding dingt” (uit het boek What Things Do van Peter-Paul Verbeek). Heidegger was er uitermate van overtuigt dat ‘dingen’ niet neutrale objecten zijn die je van een afstand bekijkt, maar waardoor je een relatie aangaat met de wereld om je heen. Structuren zoals strepen of cirkels op de grond veranderen jouw relatie met de wereld omdat ze de mogelijkheden in de wereld anders presenteren.

Een ander mooi voorbeeld, zo even uit mijn hoofd, van Bruno Latour gaat over de sleutel van een hotelkamer. Nu in tijden van RFID pasjes is dat minder relevant, maar in de wat oudere hotels krijg je vaak nog steeds een sleutel met daarbij een flinke zware sleutelhanger. Door die sleutelhanger word je als het ware geinstrueert om je sleutel bij de receptie af te geven als je even de deur uit gaat. Want dat grote ding meenemen is maar vervelend. Hierdoor kan je je sleutel niet kwijtraken, wat dan weer prettig is voor het hotel.

Al mijn kennis over dit onderwerp komt voort uit de stroming van techniekfilosofie waarin ik in mijn studie kennis mee gemaakt heb, namelijke de mediatie-theorie van Peter-Paul Verbeek. Als je daar nu meer over wilt leren raad ik van harte deze MOOC aan die een korte introductie geeft van Verbeek’s gedachtegoed: ‘Philosophy of Technology‘.

Meer van mijn schrijfsels met het thema filosofie?

Scheepsjournaal #1: Op avontuur naar Engeland! (deel 1)

Deel 1 van een tweedelige video over een prachtig zeilavontuur naar de zuid Engelse kust. Geniet!

Zeilen is een van mijn grootste passies. De wind, het geluid van het water, de rust, en soms juist ook de spanning. Het heeft alles wat nodig is om te leven in het nu.

In de zomer van 2019 heb ik 6 vrienden zo gek gevonden om aan te sluiten op (een deel van) mijn twee-weekse zeilavontuur. Het plan was in eerste instantie om naar Noorwegen en Zweden te steken, maar een paar pittige zomerstormen gooiden roet in het eten. Met windkracht 9 aankomen bij de kust van Noorwegen was geen goede optie. Dus de tocht vertrok naar het zuiden.

Dag 1-2: Den Helder – Ramsgate

Na vertrek uit Den Helder kwamen we in pittige zeegang terecht, na nog geen 1,5 uur lagen mijn co-schipper en Hans benedendeks met zeeziekte. Een moeilijke beslissing of we met zo veel zieken wel een nacht door zouden kunnen zeilen. Gelukkig fleurde Bart na het middaguur weer op en konden we door blijven varen richting het kanaal. Met onstuimig weer en slecht te ontvangen weerberichten waren we blij om na 40 uur zeilen in de havenstad Ramsgate binnen te varen. Onderweg hadden we regen en storm mee gemaakt, en flarden over de marifoon van ‘gale warnings’ die uiteindelijk toch in een ander gebied bleken te zijn.

Dag 3-4: Ramsgate – Cowes

Hierna kwam het prachtige stuk langs de White Cliffs of Dover, zeilen in een zonnetje met mooie bries. Genoeg uitdaging voor de stuurlui, want het was druk op het water, maar met de prachtige zon, een 0,0% Radlertje en een vishengel kon de tocht niet stuk. Ook hier kon de nacht doorgezeild worden, waarbij we continue gelijk opliepen met wat later ook een Nederlands zeiljacht bleek te zijn. Zij hadden wel de durf om vlak onder de kust te varen, wij zaten iets zuidelijker.

Aan het eind van deze tocht voeren we in de vroege ochtend de Solent op richting het wereldberoemde zeilersplaatsje Cowes. Na even te moeten wachten op een plekje in de haven konden we aanleggen voor een bezoekje aan het douche gebouw, een pittige noodzaak na 4 dagen intensief zeilen. Maar eerst moest er nog een stukje visnet uit de schroef gedoken worden, dan blijkt dat water toch pittig koud! De warme douche maakte echter veel goed. De baarden gingen eraf en de snorren bleven staan (tot ieder’s groot succes!) en daarna werd Cowes ontdekt, zowel het stadje zelf als de mariner’s pubs die het huisvest.

Dag 5: Cowes – Yarmouth

Het kortste stukje zeilen deze week maar wel met pittige wind. Met tot in de 35 knopen aan de wind zeilen zorgde voor spanning en sensatie. Met Bart als schipper, want ik had geen energie meer. Na een ‘radar-dome overboordmanoeuvre’ en een snelle reparatie kon er mooi gezeild worden. De dag gevuld want aan-de-wind met stroom tegen schiet niet op.

Dag 6: Yarmouth – Cherbourg

Op de laatste vrijdag ging de wekker vroeg om het getij naarbuiten te pakken langs de iconische Needles. Flinke golven vanwege wind-tegen-stroom en mede daardoor het eerste gedeelte gemotored. Maar al vrijsnel konden de zeilen over bakboord vullen en koers gezet worden richting Frankrijk. Een prachtige laatste dag zeilen met aan het einde spiegelend water, een prachtige zonsondergang, en een potje Perudo. Uiteindelijk lopen we dan rond 23:00 de Franse zeehaven Cherbourg binnen. De eerste week van het avontuur is ten einde, er kan een kleine biertje gedronken worden!

Week 2, waarin we weer terug gaan naar Engeland, het kanaaleiland Guernsey bezoeken en eindigen in het Franse St. Malo komt ooit ook online. Eerst die video maar af editen, wat een werk!

Extended Mind Thesis en Roam

Sinds begin dit jaar experimenteer ik met een nieuwe manier van notities maken: Roam Research. Om daar mee te experimenteren heb ik het maar eens gebruikt om kort een idee te beschrijven. De Extended Mind Thesis van Andy Clark en David Chalmers waarin zij beargumenteren dat ons cognitieve gedrag niet enkel binnen de grenzen van ons lichaam plaatsvindt.

Laat ik maar gewoon zien hoe ik dit verhaal ge-brainstormed heb in Roam:

De dieptepunten van Ed-Tech in de 2010s

Het afgelopen decenium hebben we veel zien veranderen. In 2010 zette ik mijn eerste voet in de Universiteit Twente om Creative Technology te gaan studeren en gebruikte we nog email-lijsten om in de stad met vrienden af te spreken. Sindsdien zijn whatsapp-groepen de dominante rol gaan spelen en is Facebook gekomen, en weer gegaan als leidend platform voor het sociale, maar ook educatieve leven. (let wel; Whatsapp en Instagram zijn ook van Facebook, dus ze hebben nog steeds een flinke vinger in de pap!)

In die periode zijn er ook in innovatie in het onderwijs een boel hypes de revu gepasseerd, maar ook flinke veranderingen geweest. De hoeveelheid content die te vinden is om te leren is alleen maar groter geworden en ook de soort vaardigheden bij verschillende studies zijn ‘gedigitaliseerd’.

Op haar blog HackEducation.com bespreekt Audrey Watters regelmatig hypes en ontwikkelen in de ‘ed-tech’ wereld. En op de valreep van de jaarwisseling heeft ze een prachtige long-read gepubliseerd ‘The 100 Worst Ed-Tech Debacles of the Decade‘. Je raadt het al, ze is vrij kritisch!

Lees vooral zelf haar artikel even door, maar hier een korte highlight van wat van mijn favorieten:

  • 99. The Promise of Free: ‘voor niets gaat de zon op’, gratis dienstverlening bestaat niet. Óf je bent je gegevens aan het verkopen, of je bent de weg aan het leggen voor een toekomstige afhankelijkheid. (een voorbeeld is direct nummer 96, Ning)
  • 92. 3D Printing: een populaire hype, ook binnen mijn bachelor-opleiding, waarin dit onderwijs compleet zou veranderen. Ik heb het zien werken voor sommige studenten, maar overal is het ingewikkeld, onbetrouwbaar, en vervult het niet niet al zijn beloftes.
  • 89. Clickers (bv kahoot en mentimeter): Er is geen enkele reden om aan te nemen dat op je telefoon opties aanklikken ‘actief leren’ betekend.
  • 86. Badges: Badges hebben voor mij een speciale plek omdat ik op het moment van schrijven werk aan het project edubadges. Watters grootste kritiek hier is dat badges hun belofte nooit waargemaakt hebben, de onderwijsrealiteit bleek hier toch té weerbarstig voor, maar ondertussen beginnen steeds meer vergelijkbare projecten een weg te slaan richting een toekomst waarin vak-afronding en skills-acquisition via digitale certificaten geregistreerd kan worden.
  • 72. Chatbot Instructors: Willen we dit? Ik weet het niet. Steeds dezelfde vragen beantwoorden lijkt mij als docent erg vermoeiend, maar aan de andere kant vraag ik mij af of chatbots de meerwaarde creeren die ze beloven.
  • 64. Alexa at School: Slecht idee. Amazon (en wat mij betreft alle big tech) heeft geen plek in het klaslokaal bij minderjarigen.
  • 47. Brainwave Headbands: Brain-Computer Interfaces worden al jaren gepromoot met beloftes dat ze concentratievermogen kunnen meten en zelfs verbeteren. Vooralsnog is er weinig bewijs voor.
  • 22. Automated Essay Grading: Leuk idee, maar werkt slecht en blijkt steeds maar bestaande bias voort te zetten. Moet je dit willen?
  • 6. “Everyone Should Learn to Code”: Dit leeft nog enorm in Nederland. Zie initiatieven zoals Codeacademy en Codam (alhoewel Codam wel een gafe stichting lijkt). Dit is bij uitstek een trend die het narratief volgt van een technologische toekomst. Uiteraard zijn de grote spelers hier enthousiast over, meer programmeurs betekend straks goedkopere arbeid!
  • 4. “The Year of the MOOC”: Ooit heb ik meegewerkt aan de ontwikkeling van een MOOC over techniekfilosofie aan de Universiteit Twente. MOOCs hebben nooit hun belofte waar gemaakt, wat ik mooi vond aan de insteek bij de UT was dat het nooit bedoelt is geweest om een vak te vervangen maar enkel als voorproefje voor een onderwerp.

Audrey Watters schrijft met scherpe pen over innovatie in het onderwijs. Voor iedereen die zich met onderwijsinnovatie bezighoudt is dit eigenlijk verplichte kost, wat kritische reflectie op onze werkzaamheden is nooit verkeerd.

Special Interest Group: AI in het Onderwijs

Op deze maandagmiddag 16 december kwam we met ruim 50 geinteresseerden vanuit het onderwijs (mbo, hbo, wo en UMCs) bijeen om te spreken over de mogelijkheden van AI in het onderwijs. AI ontwikkelingen komen overal terug in het nieuws, maar ook binnen het onderwijs vinden ontwikkelingen rondom AI plaats. Vanuit Wilco te Winkel van de Erasmus Universiteit Rotterdam kwam vandaar uit de ambitie om een Special Interest Group rondom AI op te richtingen binnen SURF om krachten te bundelen en kennis te delen.

Zelf heb ik daarbij kort in een presentatie een realistische kijk geven op wat ‘AI’ nu is en hoe we hier als onderwijssector naar kunnen kijken (in samenwerking met Thijs van der Horst): Demystifying AI – Een realistische verkenning van een veelbesproken technologie.

De take-aways van de presentatie:

Geen magie, wel next-level automatiseren.

Data is key. Zorg voor een helder probleem en een goede match met je data.

Data is gekleurd, getrainde algoritmes dus ook.

Hierna heeft Wilco kort verteld over een experiment van de Erasmus Universiteit Rotterdam en Hogeschool Rotterdam waarbij rapporten en verslagen die worden ingeleverd door studenten van te voren worden geanalyseerd door een tool van FeedbackFruits op schrijfstijl, formating, en taalgebruik. Voor een korte uitleg kan je deze video bekijken:

Een vraag die bij mij op kwam na deze presentatie is in hoeverre dit nu echt AI of machine learning is ten opzichte van gewoon een handig stukje (if this then that) IT. Het algoritme schijnt zich echter op basis van reinforcement learning te verbeteren.

De discussie vloeide rijkelijk gedurende de middag. Enkele interessante punten en meningen die in de discussie naar boven kwamen:

  • Er gebeurt al zo veel. Onderwijs en onderzoek doen al zo veel en hebben zo veel ervaring, laten we dat ook meer verzamelen en delen.
  • Transparantie in algoritmes is belangrijk
  • Transparantie in algoritmes is helemaal niet zo belangrijk
  • Een voorbeeld zoals van FeedbackFruits is nog eenvoudig en objectief (lengte van een zin, aantal pagina’s), het wordt lastiger als het gaat om een beoordeling in de vorm van bijvoorbeeld een cijfer
  • Gaan we naar een soort ‘AI-as-a-Service’ (ik ben zelf skeptisch of we dat moeten willen)
  • De kans van AI in het onderwijs is zorgen dat student 1 en student 400 de zelfde kwaliteit van nakijken en feedback krijgen
  • Moet ethiek de drijvende factor zijn uit wat we wél willen doen, of een limiterende factor van wat we niet willen doen

Hoe nu verder met de Special Interest Group? Daar was genoeg enthusiasme voor. Die zou kunnen beginnen met:

  • Verzamelen en orderen van verschillende initiaven
  • Die initiatieven duiden
  • Kennis delen
  • Én kennis ontwikkelen

Interessante links om verder te lezen:
Strategisch Actieplan voor Artificïele Intelligentie – Rijksoverheid
Kunstmatige Intelligentie in het Onderwijs – Rijksoverheid
Ethics Guidelines for Trustworthy AI – High Level Expert Group on AI van de Europeese Commissie
Kunstmatige Intelligentie in het Onderwijs – Kennisnet

Uitlegbare AI – het perspectief in de UK

Een recent artikel van Liz O’Sullivan “UK GDPR Watchdog: Explain Your AI” heeft mijn aandacht weer getrokken naar de rol van uitlegbaarheid in AI en dan specifiek in de context van de GDPR. Zij schrijft uitgebreid over een nieuw standpunt van de ICO, de data toezichthouder in Groot Britannië, over het recht op uitlegbaarheid.

De GDPR is de afgelopen jaren een belangrijk onderwerp geweest in de IT. Ook in ontwikkelingen rondom AI heeft dit heel wat stof doen opwaaien omdat AI over het algemeen veel data verwerkt. Maar ook omdat er specifiek een clausule in de GDPR zit die uitlegbaarheid eist over geautomatiseerde processes (artikel 71 uit de GDPR). Wat dat betekend is lang onduidelijk geweest, hoe ver gaat dit en wat betekend dit voor geautomatiseerde processen?

Deterministische alghoritmes hebben hier over het geen problemen mee, daar is namelijk uit te leggen wat de logica is achter een besluit. Maar door de manier waarop AI werkt, zijn de soort algorithmes vaak een ‘black box’. Dat wil zeggen dat we alleen weten wat er in gaat en wat er uit gaat, maar niet zo goed wat er in de tussentijd gebeurd. Een recht op uitlegbaarheid gaat juist om het recht om inzicht te krijgen in een black box die inherent niet inzichtelijk is.

De handhaving hiervan blijkt dus ook lastig. Begin deze week kwam de ICO met een eerste stap door middel van een consultatie op hun visie op het recht op uitlegbaarheid. Ze eisen hierbij 6 dimensies waarop een AI model getoetst moet worden: motivatie, verantwoordelijkheid, data, rechtvaardigheid, veiligheid en prestatie, en impact. Waarbij voor elk machine learning model dat gebruikt wordt een organisatie moet weten en kunnen uitleggen wie het getraind heeft, met welke methode (en waarom!), de origine van de data, hoe het algoritme getest en gevalideerd wordt en nog veel meer.

Dit moet dan op een globaal niveau (model-niveau), waarbij bijvoorbeeld de methode en wijze van testen wordt bekeken. Maar omdat dat niet voldoende is als het model echt een black box is, ook nog op het lokale niveau (inferentie-niveau). Dit betekend dat van een organisatie wordt verwacht dat zij ook de randcassusen van hun model voldoende kunnen uitleggen.

De consultatie documenten bevatten praktische informatie en voorbeeld casusses zoals AI-assisted recruitment en AI-assisted medical diagnosis (zie Part 2: Explaining AI in practice). Het schrijft niet letterlijk voor wat wel en niet mag, maar geeft vragen om over na te denken en uitleg aan te geven.

Zoals O’Sullivan zegt in een mooie quote:

All in all, the ICO’s new guidelines set reasonable, achievable, (and strict!) requirements for any company using AI who is subject to the GDPR’s reach.

Conclusie

Hoewel dit enkel van toepassing is op de UK geeft het een hoog ambitie niveau aan. Het is enorm uitgebreid en is opgezet in samenspraak met professionals en academici die zich bezig houden met AI. Het kan ook als Nederlandse organisatie verstandig zijn om hier alvast een voorschot op te nemen, door goed na te denken over uitlegbaarheid dek je niet alleen mogelijk een toekomstig juridisch risico af maar ik ben er van overtuigd dat het ook zorgt dat je betere resultaten oplevert.