Wat is artificial intelligence (AI) en hoe gaat het onze wereld veranderen? Die vraag houd mij nu al langere tijd bezig. Samen met mijn collega’s Thomas van Himbergen en Andres Steijaert ben ik bij SURF een podcast begonnen om precies met dat soort vragen te stoeien.
Hierin praten we met onderzoekers, ingenieurs, innovatiemanagers en tal van anderen over hun ervaringen met en toekomstige verwachtingen van AI. Toegespits op toepassingen binnen onderwijs en onderzoek.
Boeken zijn kleine vensters in de zielen van anderen, manieren om dingen mee te maken die je nooit meegemaakt hebt, of leermeesters over alle onderwerpen van de wereld. Ze inspireren je tot nieuwe dingen, zetten je aan het denken, of nemen je weg uit het dagelijkse. Elk jaar houd ik bij welke boeken ik allemaal gelezen heb, op Goodreads. Dit jaar doe ik dat ook eens online op deze site!
Factfulness – Hans Rosling
Formule X – Jurriaan Kramer
The Alchemist – Paulo Coelho
Star Wars: Darth Plagueis – James Luceno
Steppenwolf – Herman Hesse
Machines Like Me – Ian McEwan
Man’s Search For Meaning – Victor E. Frankl
Everything Is F*CKED: a book about hope – Mark Manson
In Europa: reizen door de twintigste eeuw – Geert Mak
Aan het eind van het jaar zal de balans opgemaakt worden van wat ik allemaal gelezen heb en wat de moeite waard was. Ik merk wel steevast dat ik sneller door de verhalende boeken heen kom dan de inhoudelijke. Er ligt nog een flinke stapel boeken met boekenleggers erin op de kast. Begonnen maar nooit afgemaakt. Welke ik dus ver van deze lijst het meeste aanraad? Dan toch wel Factfulness en Man’s Search for Meaning, omdat beide helpen je jezelf een plek in de wereld te geven. Ik denk dat ook wel duidelijk mag zijn uit de selectie tot nu toe, dat ik daar naar op zoek ben.
Op bevrijdingsdag publiceert technologiecriticus en privacy designer Tijmen Schep zijn nieuwste creatie, www.hoenormaalbenik.nl/. Een kleine reis door de verschillende soorten algoritmen die dagelijks gebruikt worden om mensen in categorieen te plaatsen. Neem snel een kijkje, voordat je verder leest, dan krijg je de meest pure ervaring.
Je word zo vergeleken, zonder dat je er erg in hebt!
Wat Schep hiermee probeert te duiden is dat er enorm voor toepassingen zijn in het dagelijks leven die jou beoordelen. En daarbij vaak vanuit een aanname werken dat ‘normaal’ hetzelfde is als het gemiddelde van de data. Slecht gevormde data-sets hebben er bijvoorbeeld toe geleid dat gezichtsherkenningsalgoritmes vaak slecht zijn in het herkennen van mensen met een donkere huidskleur. Maar het kan bijvoorbeeld ook zijn dat de software van een bedrijf zoals HireView zegt dat je te weinig lacht tijdens een video-interview en daarom maar niet aangenomen moet worden.
De realiteit rondom algoritmes is bijzonder complex, soms lijken ze goede kandidaten te zijn om problemen op te lossen maar ook dat is nog ingewikkeld. En de gevolgen kunnen enorm zijn, zien we nu bijvoorbeeld in de ophef rondom de Belastingdienst.
Begin deze week kwam Joanna Bryson, professor in ethiek en technologie aan de Hertie School in Berlijn, met een oproep om het verhaal rondom ‘big data’ te veranderen: repelsteeltje AI de drogreden en een manifest. Hierin kaart ze aan dat veel data vaak helemaal niet betekend dat het ook goede data is, of de goede aanpak is voor een probleem. Door ons altijd maar op data verzamelen te focussen, voelen we een noodzaak om veel data te hebben terwijl juist grote datasets veel gevaren met zich mee brengen.
Haar 7 punten?
1. We as scientists want to communicate that privacy is essential to security, innovation, dignity, and flourishing. As such, we must stop celebrating how big our data is.
2. The Rumpelstiltskin (originally, Rumpelstilzchen) theory of AI is just wrong. You do not automatically get more or better intelligence in proportion to the amount of data you use. Even where you use machine learning to build your AI (which is certainly not always the case), it is basic statistics 101 that how much data you need depends on the variation in the population you are studying.
3. For very many applications, a large amount of data is only useful for surveillance.
4. Even where a lot of data might be useful, it is still a hazard.
5. Data should not be routinely retained and stored without good reason. Where there is good reason, it must be stored with the highest standards of cybersecurity.
6. We need both proactive and responsive systems for detecting and prosecuting the use of inappropriately retained data.
7. We need to stop calling for projects like “Big data and [policy problem X]” and start calling for projects like “Data-led validation of [policy solution X]”, so that we stop communicating to politicians that indiscriminately gathering and retaining data is ever a good thing.
Freelance UX designer Maarten Janssen deelde op Linkedin een interessante plaat die hij gemaakt had. Het viel hem op hoe we in Nederland vooral rechte lijnen en vakken gebruiken om 1,5 meter afstand van elkaar duidelijk te maken. Dat geeft ons een ruimte van 1,5m x 1,5m de ruimte om te bewegen. En garandeerd niet dat er altijd 1,5m afstand gehouden wordt.
Dat kan ook anders! In India zetten ze cirkels op 1,5m van elkaar waardoor je “gedisciplineerd” wordt om ook echt afstand te houden.
Een visuele presentatie van verschillende 1,5 meter disciplines gemaakt door Maarten Janssen (vind zijn werk hier)
Ontwerpers zijn zich vaak in het bijzonder er van bewust dat een ontwerp (‘materiele ordening’) niet iets neutraals is, maar juist iets wat je kan gebruiken om een gebruiker te helpen, begeleiden, of beinvloeden.
Dit voorbeeld deed mij onmiddelijk denken aan een quote van de duitse filosoof Martin Heidegger die zegt “das Ding dingt” (uit het boek What Things Do van Peter-Paul Verbeek). Heidegger was er uitermate van overtuigt dat ‘dingen’ niet neutrale objecten zijn die je van een afstand bekijkt, maar waardoor je een relatie aangaat met de wereld om je heen. Structuren zoals strepen of cirkels op de grond veranderen jouw relatie met de wereld omdat ze de mogelijkheden in de wereld anders presenteren.
Een ander mooi voorbeeld, zo even uit mijn hoofd, van Bruno Latour gaat over de sleutel van een hotelkamer. Nu in tijden van RFID pasjes is dat minder relevant, maar in de wat oudere hotels krijg je vaak nog steeds een sleutel met daarbij een flinke zware sleutelhanger. Door die sleutelhanger word je als het ware geinstrueert om je sleutel bij de receptie af te geven als je even de deur uit gaat. Want dat grote ding meenemen is maar vervelend. Hierdoor kan je je sleutel niet kwijtraken, wat dan weer prettig is voor het hotel.
Al mijn kennis over dit onderwerp komt voort uit de stroming van techniekfilosofie waarin ik in mijn studie kennis mee gemaakt heb, namelijke de mediatie-theorie van Peter-Paul Verbeek. Als je daar nu meer over wilt leren raad ik van harte deze MOOC aan die een korte introductie geeft van Verbeek’s gedachtegoed: ‘Philosophy of Technology‘.
Meer van mijn schrijfsels met het thema filosofie?
Deel 1 van een tweedelige video over een prachtig zeilavontuur naar de zuid Engelse kust. Geniet!
Zeilen is een van mijn grootste passies. De wind, het geluid van het water, de rust, en soms juist ook de spanning. Het heeft alles wat nodig is om te leven in het nu.
In de zomer van 2019 heb ik 6 vrienden zo gek gevonden om aan te sluiten op (een deel van) mijn twee-weekse zeilavontuur. Het plan was in eerste instantie om naar Noorwegen en Zweden te steken, maar een paar pittige zomerstormen gooiden roet in het eten. Met windkracht 9 aankomen bij de kust van Noorwegen was geen goede optie. Dus de tocht vertrok naar het zuiden.
Dag 1-2: Den Helder – Ramsgate
Na vertrek uit Den Helder kwamen we in pittige zeegang terecht, na nog geen 1,5 uur lagen mijn co-schipper en Hans benedendeks met zeeziekte. Een moeilijke beslissing of we met zo veel zieken wel een nacht door zouden kunnen zeilen. Gelukkig fleurde Bart na het middaguur weer op en konden we door blijven varen richting het kanaal. Met onstuimig weer en slecht te ontvangen weerberichten waren we blij om na 40 uur zeilen in de havenstad Ramsgate binnen te varen. Onderweg hadden we regen en storm mee gemaakt, en flarden over de marifoon van ‘gale warnings’ die uiteindelijk toch in een ander gebied bleken te zijn.
Dag 3-4: Ramsgate – Cowes
Hierna kwam het prachtige stuk langs de White Cliffs of Dover, zeilen in een zonnetje met mooie bries. Genoeg uitdaging voor de stuurlui, want het was druk op het water, maar met de prachtige zon, een 0,0% Radlertje en een vishengel kon de tocht niet stuk. Ook hier kon de nacht doorgezeild worden, waarbij we continue gelijk opliepen met wat later ook een Nederlands zeiljacht bleek te zijn. Zij hadden wel de durf om vlak onder de kust te varen, wij zaten iets zuidelijker.
Aan het eind van deze tocht voeren we in de vroege ochtend de Solent op richting het wereldberoemde zeilersplaatsje Cowes. Na even te moeten wachten op een plekje in de haven konden we aanleggen voor een bezoekje aan het douche gebouw, een pittige noodzaak na 4 dagen intensief zeilen. Maar eerst moest er nog een stukje visnet uit de schroef gedoken worden, dan blijkt dat water toch pittig koud! De warme douche maakte echter veel goed. De baarden gingen eraf en de snorren bleven staan (tot ieder’s groot succes!) en daarna werd Cowes ontdekt, zowel het stadje zelf als de mariner’s pubs die het huisvest.
Dag 5: Cowes – Yarmouth
Het kortste stukje zeilen deze week maar wel met pittige wind. Met tot in de 35 knopen aan de wind zeilen zorgde voor spanning en sensatie. Met Bart als schipper, want ik had geen energie meer. Na een ‘radar-dome overboordmanoeuvre’ en een snelle reparatie kon er mooi gezeild worden. De dag gevuld want aan-de-wind met stroom tegen schiet niet op.
Dag 6: Yarmouth – Cherbourg
Op de laatste vrijdag ging de wekker vroeg om het getij naarbuiten te pakken langs de iconische Needles. Flinke golven vanwege wind-tegen-stroom en mede daardoor het eerste gedeelte gemotored. Maar al vrijsnel konden de zeilen over bakboord vullen en koers gezet worden richting Frankrijk. Een prachtige laatste dag zeilen met aan het einde spiegelend water, een prachtige zonsondergang, en een potje Perudo. Uiteindelijk lopen we dan rond 23:00 de Franse zeehaven Cherbourg binnen. De eerste week van het avontuur is ten einde, er kan een kleine biertje gedronken worden!
Week 2, waarin we weer terug gaan naar Engeland, het kanaaleiland Guernsey bezoeken en eindigen in het Franse St. Malo komt ooit ook online. Eerst die video maar af editen, wat een werk!
Sinds begin dit jaar experimenteer ik met een nieuwe manier van notities maken: Roam Research. Om daar mee te experimenteren heb ik het maar eens gebruikt om kort een idee te beschrijven. De Extended Mind Thesis van Andy Clark en David Chalmers waarin zij beargumenteren dat ons cognitieve gedrag niet enkel binnen de grenzen van ons lichaam plaatsvindt.
Laat ik maar gewoon zien hoe ik dit verhaal ge-brainstormed heb in Roam:
Het afgelopen decenium hebben we veel zien veranderen. In 2010 zette ik mijn eerste voet in de Universiteit Twente om Creative Technology te gaan studeren en gebruikte we nog email-lijsten om in de stad met vrienden af te spreken. Sindsdien zijn whatsapp-groepen de dominante rol gaan spelen en is Facebook gekomen, en weer gegaan als leidend platform voor het sociale, maar ook educatieve leven. (let wel; Whatsapp en Instagram zijn ook van Facebook, dus ze hebben nog steeds een flinke vinger in de pap!)
In die periode zijn er ook in innovatie in het onderwijs een boel hypes de revu gepasseerd, maar ook flinke veranderingen geweest. De hoeveelheid content die te vinden is om te leren is alleen maar groter geworden en ook de soort vaardigheden bij verschillende studies zijn ‘gedigitaliseerd’.
Op haar blog HackEducation.com bespreekt Audrey Watters regelmatig hypes en ontwikkelen in de ‘ed-tech’ wereld. En op de valreep van de jaarwisseling heeft ze een prachtige long-read gepubliseerd ‘The 100 Worst Ed-Tech Debacles of the Decade‘. Je raadt het al, ze is vrij kritisch!
Lees vooral zelf haar artikel even door, maar hier een korte highlight van wat van mijn favorieten:
99. The Promise of Free:‘voor niets gaat de zon op’, gratis dienstverlening bestaat niet. Óf je bent je gegevens aan het verkopen, of je bent de weg aan het leggen voor een toekomstige afhankelijkheid. (een voorbeeld is direct nummer 96, Ning)
92. 3D Printing: een populaire hype, ook binnen mijn bachelor-opleiding, waarin dit onderwijs compleet zou veranderen. Ik heb het zien werken voor sommige studenten, maar overal is het ingewikkeld, onbetrouwbaar, en vervult het niet niet al zijn beloftes.
89. Clickers (bv kahoot en mentimeter): Er is geen enkele reden om aan te nemen dat op je telefoon opties aanklikken ‘actief leren’ betekend.
86. Badges: Badges hebben voor mij een speciale plek omdat ik op het moment van schrijven werk aan het project edubadges. Watters grootste kritiek hier is dat badges hun belofte nooit waargemaakt hebben, de onderwijsrealiteit bleek hier toch té weerbarstig voor, maar ondertussen beginnen steeds meer vergelijkbare projecten een weg te slaan richting een toekomst waarin vak-afronding en skills-acquisition via digitale certificaten geregistreerd kan worden.
72. Chatbot Instructors: Willen we dit? Ik weet het niet. Steeds dezelfde vragen beantwoorden lijkt mij als docent erg vermoeiend, maar aan de andere kant vraag ik mij af of chatbots de meerwaarde creeren die ze beloven.
64. Alexa at School: Slecht idee. Amazon (en wat mij betreft alle big tech) heeft geen plek in het klaslokaal bij minderjarigen.
47. Brainwave Headbands: Brain-Computer Interfaces worden al jaren gepromoot met beloftes dat ze concentratievermogen kunnen meten en zelfs verbeteren. Vooralsnog is er weinig bewijs voor.
22. Automated Essay Grading: Leuk idee, maar werkt slecht en blijkt steeds maar bestaande bias voort te zetten. Moet je dit willen?
6. “Everyone Should Learn to Code”: Dit leeft nog enorm in Nederland. Zie initiatieven zoals Codeacademy en Codam (alhoewel Codam wel een gafe stichting lijkt). Dit is bij uitstek een trend die het narratief volgt van een technologische toekomst. Uiteraard zijn de grote spelers hier enthousiast over, meer programmeurs betekend straks goedkopere arbeid!
4. “The Year of the MOOC”: Ooit heb ik meegewerkt aan de ontwikkeling van een MOOC over techniekfilosofie aan de Universiteit Twente. MOOCs hebben nooit hun belofte waar gemaakt, wat ik mooi vond aan de insteek bij de UT was dat het nooit bedoelt is geweest om een vak te vervangen maar enkel als voorproefje voor een onderwerp.
Audrey Watters schrijft met scherpe pen over innovatie in het onderwijs. Voor iedereen die zich met onderwijsinnovatie bezighoudt is dit eigenlijk verplichte kost, wat kritische reflectie op onze werkzaamheden is nooit verkeerd.
Op deze maandagmiddag 16 december kwam we met ruim 50 geinteresseerden vanuit het onderwijs (mbo, hbo, wo en UMCs) bijeen om te spreken over de mogelijkheden van AI in het onderwijs. AI ontwikkelingen komen overal terug in het nieuws, maar ook binnen het onderwijs vinden ontwikkelingen rondom AI plaats. Vanuit Wilco te Winkel van de Erasmus Universiteit Rotterdam kwam vandaar uit de ambitie om een Special Interest Group rondom AI op te richtingen binnen SURF om krachten te bundelen en kennis te delen.
Data is key. Zorg voor een helder probleem en een goede match met je data.
Data is gekleurd, getrainde algoritmes dus ook.
Hierna heeft Wilco kort verteld over een experiment van de Erasmus Universiteit Rotterdam en Hogeschool Rotterdam waarbij rapporten en verslagen die worden ingeleverd door studenten van te voren worden geanalyseerd door een tool van FeedbackFruits op schrijfstijl, formating, en taalgebruik. Voor een korte uitleg kan je deze video bekijken:
Een vraag die bij mij op kwam na deze presentatie is in hoeverre dit nu echt AI of machine learning is ten opzichte van gewoon een handig stukje (if this then that) IT. Het algoritme schijnt zich echter op basis van reinforcement learning te verbeteren.
De discussie vloeide rijkelijk gedurende de middag. Enkele interessante punten en meningen die in de discussie naar boven kwamen:
Er gebeurt al zo veel. Onderwijs en onderzoek doen al zo veel en hebben zo veel ervaring, laten we dat ook meer verzamelen en delen.
Transparantie in algoritmes is belangrijk
Transparantie in algoritmes is helemaal niet zo belangrijk
Een voorbeeld zoals van FeedbackFruits is nog eenvoudig en objectief (lengte van een zin, aantal pagina’s), het wordt lastiger als het gaat om een beoordeling in de vorm van bijvoorbeeld een cijfer
Gaan we naar een soort ‘AI-as-a-Service’ (ik ben zelf skeptisch of we dat moeten willen)
De kans van AI in het onderwijs is zorgen dat student 1 en student 400 de zelfde kwaliteit van nakijken en feedback krijgen
Moet ethiek de drijvende factor zijn uit wat we wél willen doen, of een limiterende factor van wat we niet willen doen
Hoe nu verder met de Special Interest Group? Daar was genoeg enthusiasme voor. Die zou kunnen beginnen met:
Een recent artikel van Liz O’Sullivan “UK GDPR Watchdog: Explain Your AI” heeft mijn aandacht weer getrokken naar de rol van uitlegbaarheid in AI en dan specifiek in de context van de GDPR. Zij schrijft uitgebreid over een nieuw standpunt van de ICO, de data toezichthouder in Groot Britannië, over het recht op uitlegbaarheid.
De GDPR is de afgelopen jaren een belangrijk onderwerp geweest in de IT. Ook in ontwikkelingen rondom AI heeft dit heel wat stof doen opwaaien omdat AI over het algemeen veel data verwerkt. Maar ook omdat er specifiek een clausule in de GDPR zit die uitlegbaarheid eist over geautomatiseerde processes (artikel 71 uit de GDPR). Wat dat betekend is lang onduidelijk geweest, hoe ver gaat dit en wat betekend dit voor geautomatiseerde processen?
Deterministische alghoritmes hebben hier over het geen problemen mee, daar is namelijk uit te leggen wat de logica is achter een besluit. Maar door de manier waarop AI werkt, zijn de soort algorithmes vaak een ‘black box’. Dat wil zeggen dat we alleen weten wat er in gaat en wat er uit gaat, maar niet zo goed wat er in de tussentijd gebeurd. Een recht op uitlegbaarheid gaat juist om het recht om inzicht te krijgen in een black box die inherent niet inzichtelijk is.
De handhaving hiervan blijkt dus ook lastig. Begin deze week kwam de ICO met een eerste stap door middel van een consultatie op hun visie op het recht op uitlegbaarheid. Ze eisen hierbij 6 dimensies waarop een AI model getoetst moet worden: motivatie, verantwoordelijkheid, data, rechtvaardigheid, veiligheid en prestatie, en impact. Waarbij voor elk machine learning model dat gebruikt wordt een organisatie moet weten en kunnen uitleggen wie het getraind heeft, met welke methode (en waarom!), de origine van de data, hoe het algoritme getest en gevalideerd wordt en nog veel meer.
Dit moet dan op een globaal niveau (model-niveau), waarbij bijvoorbeeld de methode en wijze van testen wordt bekeken. Maar omdat dat niet voldoende is als het model echt een black box is, ook nog op het lokale niveau (inferentie-niveau). Dit betekend dat van een organisatie wordt verwacht dat zij ook de randcassusen van hun model voldoende kunnen uitleggen.
De consultatie documenten bevatten praktische informatie en voorbeeld casusses zoals AI-assisted recruitment en AI-assisted medical diagnosis (zie Part 2: Explaining AI in practice). Het schrijft niet letterlijk voor wat wel en niet mag, maar geeft vragen om over na te denken en uitleg aan te geven.
Zoals O’Sullivan zegt in een mooie quote:
All in all, the ICO’s new guidelines set reasonable, achievable, (and strict!) requirements for any company using AI who is subject to the GDPR’s reach.
Conclusie
Hoewel dit enkel van toepassing is op de UK geeft het een hoog ambitie niveau aan. Het is enorm uitgebreid en is opgezet in samenspraak met professionals en academici die zich bezig houden met AI. Het kan ook als Nederlandse organisatie verstandig zijn om hier alvast een voorschot op te nemen, door goed na te denken over uitlegbaarheid dek je niet alleen mogelijk een toekomstig juridisch risico af maar ik ben er van overtuigd dat het ook zorgt dat je betere resultaten oplevert.
Op het ECP jaarcongress heeft Peter-Paul Verbeek, professor techniekfilosofie aan de Universiteit Twente, zijn aanpak voor begeleidingsethiek gepresenteerd. Peter-Paul speelt al gelangere tijd een rol in mijn leven, als een van de docenten in mijn master-studie heb ik veel van hem kunnen leren over de mens als wezen dat innig is verstrengeld met de technologie. Ik heb zelfs de eer gehad om met hem te kunnen werken aan een van de eerste MOOCs van de Universiteit Twente, ‘Philosophy of Technology‘.
Volg een bliksem introductie ‘technological mediation’ via deze animatie uit de MOOC.
De uitgave over begeleidingsethiek is hier eigenlijk een doorgetrokken variant van. Hoe kan je ethiek in technische ontwikkelingen meenemen als je voorbij durft te gaan aan de ‘beoordelende’ houding en inziet dat technologie onze plek in en interactie met de wereld medieert? Volgens Verbeek brengt een begeleidende benadering de ethiek weer terug midden in de technologie. Er zijn 3 belangrijke aspecten aan de begeleidingsethiek:
Je moet aan de slag met concrete technologische toepassingen
Je inventariseert mogelijke maatschappelijke implicaties
Je onderzoekt de mogelijke implicaties voor je handelen
De beschreven methode
Zoals vaak met ethiek, technologische ontwikkelingen, en het maken van de juiste beslissingen; is het allemaal stiekem best ingewikkeld. Waar Peter-Paul een concrete aanpak op papier heeft gezet, is de inzet van resources niet te min als je moet denken aan een groot deliberatief panel en dat voor elke concrete technologische toepassing. Aan de andere kant is dat misschien wel onze (nieuwe?) realiteit, een wereld waarin niet meer geaccepteerd wordt dat je ‘zomaar’ doet.
De ambitie is in ieder geval gezet, en ik hoop er in de toekomst eens mee aan de slag te kunnen. Ik zou zeggen bekijk de aanpak begeleidingsethiek zelf ook eens.
