Een algoritme voor keuzevakken ontwerpen

Lesverloop

1. 1

   Stap 1: Introductie

   In deze les onderzoeken leerlingen hoe AI-systemen gegevens gebruiken om beslissingen te nemen en wat er gebeurt als die beslissingen vooringenomen zijn. Eerst kruipen ze in de rol van een schooldirecteur. Ze bekijken vereenvoudigde leerlinggegevens en bepalen welke keuzevakken het beste bij elke leerling passen. Daarna vergelijken ze hun eigen keuzes met de indeling van een AI. Zo onderzoeken ze of het systeem te veel belang hechtte aan bepaalde factoren of andere factoren over het hoofd zag.

   Vervolgens omschrijven leerlingen de kernbegrippen eerlijk, rechtvaardig en ethisch. Met deze begrippen beoordelen ze of de regels van de AI tot rechtvaardige uitkomsten leidden. Hun eindopdracht is om hun eigen ethische beslisbomen te ontwerpen en zichtbaar te maken met Ozobot en kleurcodes. Daarmee laten ze zien hoe beter doordachte regels kunnen leiden tot eerlijke uitkomsten en gelijke kansen.

2. 2

   Stap 2: Activeren

   1. Geef elke leerling werkkaarten 1 en 2. Let op: deel werkkaart 3 pas uit nadat leerlingen hun eigen vakindeling hebben gemaakt. Zo ervaren ze eerst hoe het is om als directeur van de Morgan-school (onderbouw vo) op basis van hun eigen oordeel keuzevakken toe te wijzen. Daarna vergelijken ze hun indeling met de keuzes van de AI op werkkaart 3.
   2. Introduceer de situatie: verwijs leerlingen naar het onderdeel Activeren op hun werkkaart. Lees de situatie voor aan de klas of laat leerlingen deze zelf stil lezen. Leg uit dat ze de gegevens van elke fictieve leerling bekijken en bepalen welk keuzevak volgens hen het beste past.
   3. Zelfstandig werken – Leerlingen kunnen de tabel zelf invullen en zelfstandig beslissen over de indeling. OF ze bespreken hun overwegingen eerst met een klasgenoot of in een klein groepje voordat ze hun definitieve keuzes maken.
   4. Begeleid het gesprek: bespreek de opdracht klassikaal nadat de leerlingen klaar zijn. Vraag ze te vertellen over:
      • De factoren die ze het belangrijkst vonden bij hun beslissingen
      • Eventuele meningsverschillen in hun groepje
      • Patronen die ze in hun eigen indeling opmerkten
3. 3

   Stap 3: Verkennen

   Zeg: ‘Wat als de directeur AI zou gebruiken om te bepalen welke keuzevakken leerlingen krijgen, in plaats van een mens?’

   Leg uit waarom een school ervoor zou kunnen kiezen om AI in te zetten voor de indeling van keuzevakken:

   • AI kan veel gegevens snel verwerken. Dat bespaart tijd.
   • AI volgt voor iedereen dezelfde regels en vermijdt daarmee persoonlijke vooringenomenheid. Toch kan de uitkomst oneerlijk zijn als de gegevens of regels vooringenomen zijn.
   • AI kan patronen herkennen die mensen misschien missen.

   Zeg: ‘Maar AI is niet perfect. Als de gegevens waarvan AI heeft geleerd of de regels die AI heeft gekregen vooringenomen zijn, kan AI oneerlijke keuzes maken.’

   Zeg: ‘Kan AI eerlijke keuzes maken bij het indelen van leerlingen voor keuzevakken? Die vraag gaan we vandaag beantwoorden.’

   Vertel leerlingen dat ze nu dezelfde leerlinggegevens bekijken waarmee ze net hebben gewerkt. Dit keer heeft een AI de indeling gemaakt. Deze AI is gebouwd met regels die door een mens zijn geschreven en met eerdere leerlinggegevens, zoals cijfers, aanwezigheid, gedrag en opmerkingen van leerkrachten. De leerlingen vergelijken de keuzes van de AI met hun eigen keuzes. Ze proberen te achterhalen welke regels de AI volgde en aan welke gegevens de AI het meeste belang hechtte.

   Deel werkkaart 3 uit (de tabel met keuzevakken die de AI heeft toegewezen). Onder de tabel is ruimte voor leerlingen om hun eerste reacties op te schrijven. Hieronder staan vragen die je daarbij kunt gebruiken.

   Gespreksvragen:

   • Welke patronen zie je in de manier waarop de AI keuzevakken heeft toegewezen? Welke leerlinggegevens lijken het zwaarst mee te tellen? Is dat eerlijk?
   • Handelde de AI ethisch bij het nemen van deze beslissingen? Waarom wel of niet?
   • Wat zou je veranderen om de keuzes van de AI te verbeteren? Moet de AI andere gegevens gebruiken of sommige gegevens minder of juist zwaarder laten meetellen?

   Zeg of benadruk: ‘AI neemt beslissingen op basis van de gegevens die het systeem krijgt en waarop het volgens de instructies moet letten. Als belangrijke informatie ontbreekt of bepaalde gegevens te zwaar meetellen, kunnen de keuzes van de AI verkeerd uitpakken of oneerlijk aanvoelen. Jullie hebben gezien welk keuzevak elke leerling kreeg en hebben patronen ontdekt. Nu gaan we onderzoeken hoe die keuzes tot stand kwamen door de regels van de AI nauwkeurig te bekijken. We maken die zichtbaar met een vereenvoudigde beslisboom. Daarna beoordelen we of de regels eerlijk en ethisch zijn en ontwerpen we onze eigen verbeterde versie.’

4. 4

   Stap 4: Uitleg

   Deel 1: De begrippen omschrijven

   Zeg: ‘Jullie hebben net onderzocht wat oneerlijk voelt en wie daar gevolgen van ondervindt. Dat is precies wat mensen doen die zich beroepsmatig bezighouden met AI-ethiek.’

   Zij stellen belangrijke vragen, zoals:

   • Behandelt deze technologie mensen eerlijk?
   • Waar kan vooringenomenheid in dit systeem zijn ontstaan en welke gevolgen heeft dat voor verschillende mensen?
   • Wat moet er veranderen om het systeem voor iedereen ethischer te maken?

   Deel werkkaart 4 uit en verwijs leerlingen naar de begrippentabel. Bij elk begrip:

   1. Schrijven ze de betekenis op
   2. Maken ze een tekening die laat zien wat het woord voor hen betekent

   Herinner leerlingen eraan dat je op verschillende manieren kunt laten zien wat eerlijkheid of ethisch gedrag is.

   Deel 2 – Beslisbomen

   Zeg: ‘De AI maakte keuzes door een aantal regels te volgen. Je kunt die regels weergeven in een beslisboom. Een beslisboom is een schema met een reeks ja-neevragen die uiteindelijk tot een keuze leiden. Zowel mensen als AI kunnen beslisbomen maken.’

   Laat een eenvoudig voorbeeld zien, zoals het voorbeeld via de onderstaande link dat antwoord geeft op de vraag: ‘Is het goed weer om te tennissen?’ Zo zien leerlingen hoe de ja-neestructuur werkt. Wijs aan hoe elke vraag leidt tot een volgende stap of een einduitkomst. https://spotintelligence.com/2024/05/22/decision-trees-in-ml/

   Leg uit dat leerlingen vandaag een vereenvoudigde, lineaire beslisboom onderzoeken en er daarna zelf een maken. Met Ozobot en kleurcodes voor de richting maken ze zichtbaar hoe de AI-beslisboom de gegevens van elke leerling verwerkt. Ze ontwerpen hun eigen lineaire beslisboom op basis van de factoren die zij het belangrijkst vinden bij het maken van een AI-systeem. Zo begrijpen ze beter hoe AI-systemen worden opgebouwd en kunnen ze beoordelen of een bepaald systeem ethisch is.

   Stappen van de activiteit

   1. Laat leerlingen hun Evo of Ari aanzetten. Op Ari bladeren ze naar Computer Science en kiezen ze Color Codes. Evo kan na het aanzetten direct lijnen en kleurcodes volgen; leerlingen hoeven daarop geen menu te kiezen.
   2. Deel de voorbeeldbeslisboom uit (werkkaart 5). Deze laat zien hoe de AI beslissingen neemt. LET OP – in de voorbeeldbeslisboom zijn de kleurcodes niet ingevuld. Dat doen de leerlingen zelf als onderdeel van de opdracht.
   3. Laat leerlingen één leerlingprofiel kiezen uit de gegevenstabel van de AI. Met behulp van de gegevens en kleurcodestiften vullen ze de juiste kleurcodes voor de richting in.
   4. Laat leerlingen de kleurcode Winnen/Exit invullen bij het vak waarop de gekozen leerling uitkomt op basis van de vragen in de beslisboom.
   5. Verwijs leerlingen naar de reflectievragen onderaan werkkaart 4 om de beslisboom van de oorspronkelijke AI na te bespreken:
   6. Vind je dat de regels van de AI eerlijk en ethisch waren? Waarom wel of niet?
   7. Welke vragen of beslispunten in de beslisboom van de AI hadden de grootste invloed op de toewijzing van keuzevakken?
   8. Als je het AI-systeem helemaal opnieuw zou ontwerpen, wat zou je dan anders doen om het eerlijker of doeltreffender te maken?

   Toelichting voor de leerkracht (om voor te lezen of in eigen woorden te vertellen): ‘Deze beslisboom is een vereenvoudigde weergave van hoe veel AI-systemen echt werken. Echte AI gebruikt vaak zulke vertakkende regels of beslissingen waarbij factoren verschillend meetellen. Door dit met Ozobot na te bootsen, zien we hoe gegevens en regels de uitkomsten van AI bepalen. We begrijpen dan ook beter waarom die keuzes soms eerlijk of oneerlijk aanvoelen.’

   Vragen voor een gesprek over ethiek

   Gebruik deze voorbeelden om een gesprek op gang te brengen of om leerlingen te laten nadenken:

   • Manny en Rina kregen allebei Ondersteuning Nederlands, ondanks belangrijke verschillen in hun andere gegevens. Hoe verhoudt Rina's gemiddelde cijfer zich tot dat van de andere leerlingen? Is dit eerlijk? Welke aanname deed de AI over deze leerlingen en welke belangrijke gegevens negeerde het systeem?
   • Taylor, Malik en Isaac werden ingedeeld bij Stil studie-uur vanwege gedragsmeldingen, terwijl Malik een gemiddeld cijfer van 8,8 heeft en 96% van de tijd aanwezig is. Is dit eerlijk? Horen deze leerlingen daar wel thuis?
   • Alle leerlingen, behalve Rina, met een gemiddeld cijfer van 9 of hoger werden automatisch ingedeeld bij het STEM en robotica lab, ongeacht hun eerste keuze. Behandelt deze regel alle leerlingen eerlijk? Welke vooringenomenheid kan ontstaan als je het gemiddelde cijfer zo zwaar laat meetellen?
   • Nora kreeg het keuzevak van haar eerste keuze, terwijl ze het laagste gemiddelde cijfer en het laagste aanwezigheidspercentage heeft. Hoe kan dat met dit algoritme gebeuren? Wat zegt dit over de manier waarop de regels van de AI zijn ontworpen?

   Laat leerlingen hun eigen beslisboom ontwerpen:

   • Op een blanco vel bedenken leerlingen hun eigen ja-neevragen die leiden tot de toewijzing van een keuzevak.
   • Leerlingen gebruiken de criteria die zij het belangrijkst vinden, zoals gemiddeld cijfer, aanwezigheid, de keuze van de leerling of opmerkingen van leerkrachten.
   • Herinner leerlingen eraan dat het ontwerp eenvoudig genoeg moet blijven om er een baan met kleurcodes voor Ozobot van te maken.
5. 5

   Verdiepen

   Stap 5: Verdiepen (optionele uitbreiding)

   Leg uit dat beslisbomen ingewikkelder kunnen worden als je meer beslispunten toevoegt. Introduceer drie kernbegrippen:

   • Wortel – de beginvraag of het belangrijkste beslispunt
   • Tak – een pad dat vanaf een beslispunt verdergaat
   • Blad – een einduitkomst of eindpunt van de boom

   Geef een voorbeeld: de vraag bij de wortel kan zijn of een leerling het keuzevak van diens eerste keuze krijgt. Deze beslissing kan op basis van aanwezigheid vertakken in drie paden:

   • Meer dan 95%
   • Tussen 90% en 95%
   • Minder dan 90%

   Leg na het voorbeeld weer de verbinding met ethiek:

   Zeg: ‘Als we meer takken en bladeren toevoegen, voegen we ook meer regels toe. Elke nieuwe regel kan het systeem eerlijker of juist meer vooringenomen maken. Dat hangt af van onze keuzes. Denk na over de gevolgen van elke nieuwe tak voor verschillende leerlingen. Zorgt die tak voor nieuwe vooringenomenheid of vermindert die juist de vooringenomenheid?’

   Moedig leerlingen aan om hun beslisbomen te herzien of uit te breiden. Laat ze takken toevoegen met criteria die volgens hen leiden tot eerlijke en ethische uitkomsten met zo min mogelijk vooringenomenheid.

6. 6

   Stap 6: Evalueren

   Laat leerlingen de volgende vragen beantwoorden op een kaartje of onderaan hun werkkaart:

   1. Wat betekent het volgens jou dat een AI-systeem ethisch is? Leg het uit in je eigen woorden.
   2. Bekijk je eigen beslisboom. Welke keuze heb jij gemaakt die de beslisboom volgens jou eerlijker of minder vooringenomen maakt dan die van de oorspronkelijke AI?
   3. Stel dat jouw AI-beslisboom op een echte school wordt gebruikt. Wie heeft dan waarschijnlijk het meeste voordeel van jouw regels? Wie kan nog steeds worden benadeeld?