Ethieklab: AI voor de rechter

Lesverloop

1. 1

   Stap 1: Introductie

   Vandaag kruipen leerlingen in de rol van AI-ethicus: iemand die onderzoekt of kunstmatige intelligentie eerlijk en verantwoord handelt. Ze onderzoeken hoe AI vooringenomen of oneerlijke beslissingen kan nemen. Eerst verkennen ze praktijksituaties waarin AI-toepassingen verschillende gevolgen hebben voor leerlingen, gemeenschappen en makers. Daarbij omschrijven leerlingen de kernbegrippen eerlijk, rechtvaardig en ethisch. Ze maken ook eigen tekeningen om deze begrippen concreet te maken.

   Vervolgens gebruiken leerlingen hun omschrijvingen om dossiers over het gedrag van AI te beoordelen. Ze bepalen of elke beslissing eerlijk, rechtvaardig of ethisch was. Ze laten hun oordeel zien met de richtingskleurcodes van Ozobot. Ook denken ze na over hoe vooringenomenheid zichtbaar wordt in AI-systemen, waarom dat ertoe doet en hoe mensen technologie kunnen verbeteren zodat die beter rekening houdt met iedereen.

2. 2

   Stap 2: Activeren

   Deel werkkaart 1 uit en wijs leerlingen op het startscenario. Lees het scenario voor of laat leerlingen het in stilte lezen. Laat hen de reflectievragen zelfstandig schriftelijk beantwoorden of eerst met een klasgenoot bespreken. Bespreek de vragen daarna met de hele klas.

   Scenario: Wie staat er in de schijnwerpers?

   Een bedrijf dat VibeSpark heet, maakt een AI-toepassing die jonge YouTubers helpt om op te vallen. De AI kijkt bijvoorbeeld naar hoe vaak een video wordt bekeken en hoeveel vind-ik-leuks en reacties die krijgt. Daarna kiest de AI welke video’s op de pagina ‘In de schijnwerpers’ van de app komen. Op die pagina staan is heel belangrijk: veel meer mensen zien je video’s, je krijgt meer volgers en je kunt er zelfs meer geld mee verdienen.

   Na een paar weken merken sommige leerlingen dat steeds dezelfde soorten kanalen worden uitgelicht. Meestal zijn die druk en grappig: de makers halen grappen uit, spelen snelle computerspellen of maken reactievideo’s met uitbundige, gekke gezichten. Andere soorten kanalen worden juist niet aan nieuwe kijkers getoond, zoals:

   • Een leerling die op een rustige manier leuke natuurwetenschappelijke proefjes deelt die je thuis kunt doen
   • Een kunstenaar die zacht praat en rustgevende tekenlessen plaatst
   • Een groep vrienden die doordachte toneelstukjes speelt met kostuums en uitgeschreven teksten

   Deze video’s krijgen niet meteen zoveel vind-ik-leuks of reacties. Daarom besluit de AI dat ze minder populair zijn en laat ze niet meer aan nieuwe mensen zien.

   Gespreksvragen:

   • Waarom denk je dat de AI steeds dezelfde soorten makers kiest?
   • Is de AI oneerlijk, of doet die alleen wat is opgedragen?
   • Hoe zouden de andere makers zich hierdoor voelen?
   • Wat zou kunnen helpen om de AI meer soorten video’s te laten opmerken?

   Benadruk: AI is niet met opzet oneerlijk, maar kan toch oneerlijk handelen. Dat hangt af van hoe de AI is getraind en wat die meet. Vandaag onderzoeken we hoe je oneerlijke AI-beslissingen herkent. We denken als probleemoplossers na over hoe technologie ethisch kan handelen en rekening kan houden met de gevolgen voor iedereen.

   Omschrijf de begrippen

   Vertel leerlingen dat ze zojuist precies hebben gedaan wat echte AI-ethici doen: herkennen wat oneerlijk voelt en nadenken over wie daar gevolgen van ondervindt. AI-ethici stellen belangrijke vragen, zoals:

   • Behandelt deze technologie mensen eerlijk en rechtvaardig?
   • Wie kan andere gevolgen ondervinden: wie wordt geholpen, buitengesloten of oneerlijk beoordeeld?
   • Wat moet er veranderen om het systeem voor iedereen ethischer te maken?

   Wijs leerlingen op het begrippenschema op werkkaart 2. Bij elk begrip doen ze het volgende:

   1. Schrijf op wat het begrip betekent.
   2. Maak een tekening die laat zien wat het woord voor jou betekent.

   Herinner leerlingen eraan dat je eerlijkheid of ethisch gedrag op meer dan één manier kunt laten zien.

3. 3

   Stap 3: Onderzoeken

   Stap 1: Laat leerlingen hun Evo of Ari aanzetten. Met Evo kunnen ze daarna direct met kleurcodes werken; ze hoeven geen menuopties te kiezen. Op Ari tikken ze op Informatica (Computer Science) en daarna op Kleurcodes (Color Codes). Tijdens de les programmeren ze met kleurcodes.

   Stap 2: Deel werkkaart 3 uit met de instructies voor leerlingen en werkkaart 5 met de kleurcodebaan.

   Vertel leerlingen dat ze nu als AI-ethici verschillende scenario’s over het gebruik van AI gaan beoordelen. Hun opdracht is om te onderzoeken hoe verschillende AI-systemen beslissingen hebben genomen en te beoordelen of die beslissingen eerlijk, rechtvaardig en ethisch waren. Later bepalen leerlingen wat er aangepast kan worden in scenario’s waarin de AI schadelijke of oneerlijke gevolgen had voor mensen.

   Stap 3: Geef elke leerling of elk groepje een scenariokaart. Leg uit dat dit hun eerste ‘dossier’ is. Laat hen de kaart met plakband vastmaken op de plek voor dossier 1 op hun baan.

   Zo beoordeel je een dossier. Leerlingen kunnen deze stappen terugvinden op werkkaarten 2 en 3.

   Volg als team deze stappen bij elk dossier dat je bekijkt:

   1. Lees het scenario samen hardop. Zorg dat iedereen begrijpt wat de AI heeft gedaan.
   2. Leg de scenariokaart op de baan.
   3. Bespreek en beslis: was dit een ethische AI-beslissing? Vraag je af: was deze beslissing eerlijk? Wie werd geholpen? Voor wie waren de gevolgen anders, of wie werd oneerlijk behandeld? Moet er iets veranderen?
   4. Plaats een kleurcode op de beslisstrook om je oordeel te laten zien. Met je kleurcode programmeer je Ozobot om duidelijk te maken wat jij als AI-ethicus vindt.

   Vertel leerlingen dat ze hun beslissing en hun redenen mondeling moeten kunnen toelichten aan klasgenoten of aan de klas. Daarbij gebruiken ze de begrippen eerlijk en ethisch.

   Opmerking voor de leerkracht: Zorg dat je het volgende punt duidelijk uitlegt, in deze of je eigen woorden: deze vereenvoudigde versie laat zien hoe echte AI-systemen ‘leren’ van eerdere gegevens of patronen. Als gegevens ontbreken of vooringenomen zijn, kan dat tot oneerlijke uitkomsten leiden. De dossiers van vandaag zijn gebaseerd op echte problemen die AI-onderzoekers hebben gevonden. Ze zijn alleen eenvoudiger gemaakt, zodat we ze samen kunnen onderzoeken.

   Aantekeningen voor de leerkracht bij de scenariokaarten:

   • Dossier 1 – De boekenrobot
     Soort vooringenomenheid: historische vooringenomenheid in trainingsgegevens
     Uitdaging: verschillende groepen lezers zijn niet even goed vertegenwoordigd
     Moeilijkheid van de beoordeling: gemiddeld
   • Dossier 2 – Gangwacht 3000
     Soort vooringenomenheid: onbewuste vooringenomenheid bij het interpreteren van gedrag
     Uitdaging: oneerlijke gevolgen voor leerlingen op basis van hun uiterlijk of manier van bewegen
     Moeilijkheid van de beoordeling: hoog
   • Dossier 3 – De lunchrijrobot
     Soort vooringenomenheid: vooringenomenheid tegenover mensen met een beperking; efficiëntie krijgt voorrang op rechtvaardigheid
     Uitdaging: eerlijke toegang voor leerlingen met verschillende behoeften
     Moeilijkheid van de beoordeling: gemiddeld
   • Dossier 4 – Kunstrobot
     Soort vooringenomenheid: culturele vooringenomenheid in trainingsgegevens
     Uitdaging: wiens creativiteit wordt erkend?
     Moeilijkheid van de beoordeling: hoog
   • Dossier 5 – De AI-huiswerkhulp
     Soort vooringenomenheid: geen duidelijke vooringenomenheid
     Uitdaging: is verschillende ondersteuning toch eerlijk?
     Moeilijkheid van de beoordeling: laag
   • Dossier 6 – De AI-leesmaat
     Soort vooringenomenheid: vooringenomenheid op basis van taal of accent, deels aanwezig
     Uitdaging: oneerlijke gevolgen voor meertalige sprekers
     Moeilijkheid van de beoordeling: gemiddeld
4. 4

   Stap 4: Uitleggen

   Kom weer samen voor een klassengesprek. Mogelijke gespreksvragen:

   • Welke AI-beslissingen waren het makkelijkst te beoordelen? Waarom?
   • Welke beslissingen waren moeilijker? Wat maakte ze lastig?
   • Zagen we patronen in de oneerlijke of onethische beslissingen?
   • Hadden bepaalde mensen of groepen vaker te maken met andere gevolgen of een oneerlijke behandeling?
   • Wat betekent het eigenlijk als AI ethisch handelt?
5. 5

   Stap 5: Verdiepen

   Verdiepen (optionele uitbreiding)

   1. Leerlingen kiezen een van de AI-systemen die ze hebben beoordeeld en stellen een verbetering voor. Ze kunnen hun verbetering uitwerken in een schriftelijk antwoord met een bewering, bewijs en redenering.
   2. Let thuis eens op een AI-toepassing die je gebruikt, zoals YouTube, TikTok of een computerspel. Vraag je af: wie heeft het meeste voordeel van de manier waarop deze AI keuzes maakt? Wie wordt er misschien buitengesloten? Deel wat je hebt opgemerkt met je gezin.
6. 6

   Stap 6: Evalueren

   Bespreek: stel dat je later AI voor scholen of sociale media zou ontwerpen. Welke regels zou je dan instellen om te zorgen dat iedereen eerlijk wordt behandeld?

   Leerlingen vullen de afsluitkaart op werkkaart 4 in.

   Afsluitkaart:

   1. Hoe kan vooringenomenheid zichtbaar worden in een AI-systeem? Leg het in je eigen woorden uit en geef een voorbeeld uit de activiteit van vandaag.
   2. Hoe kan een AI-beslissing verschillende gevolgen hebben voor verschillende mensen? Gebruik een voorbeeld van vandaag.
   3. Wat zou je een vriend of vriendin vertellen over hoe AI oneerlijk kan zijn?