Nu is het nog een hype, voer voor discussie en heel veel probeersels. Maar wanneer Microsoft straks de techniek van ChatGPT heeft opgenomen in Office en Word schrijft zelf die brief of dat verslag, dan zijn we voorbij de hype. En wanneer zoekresultaten gebaseerd worden op foutieve data, dan wordt het wel complex voor scholen, studenten en docenten.
Vorige week onthulde Microsoft de vernieuwde Bing zoekmachine, die gebruik maakt van de techniek achter ChatGPT (waar Microsoft investeerder van is). Deze zoekmachine werkt net als ChatGPT maar haalt zijn informatie realtime op uit zoekresultaten van het web. Daarmee is het antwoord wat de zoekmachine geeft actueler maar ook bijna niet te reproduceren. Immers, wanneer je nu een zoekterm invult krijg je ook steeds verschillende resultaten op basis van wat het algoritme bedenkt en welke data hij over de gebruiker kan vinden. Wanneer de antwoorden van de chatbot dus worden geformuleerd op basis van zoekresultaten krijg jij waarschijnlijk een heel ander antwoord dan ik. Dat is potentieel gevaarlijk omdat de zoekmachine het antwoord als ‘de waarheid’ presenteert. De eerste gebruikers melden al bijzondere conversaties waarin Bing blijft volhouden dat het nog steeds het jaar 2022 is en dat het vervolg op de film Avatar niet in de bioscopen draait.
Natuurlijk weten wij dat het 2023 is en dat die film in de bioscopen te zien is, maar als het gaat om lesstof voor studenten en studenten vragen informatie op en krijgen ‘de waarheid’ voorgeschoteld zonder dat ze kunnen checken of dat klopt (omdat ze de kennis nog niet hebben), dan wordt het lastig. Niet alleen Microsoft heeft hier last van, ook Bard, de chatbot van Google ging meteen de mist in bij de eerste vraag. Het wordt nog moeilijker wanneer Bing en Bard zich gaan baseren op webpagina’s die zijn gemaakt met behulp van bijvoorbeeld AI en allerlei onwaarheden bevatten. Want als de bron onjuist is, is het antwoord van de chatbot dat hoogstwaarschijnlijk ook.
Gewoon in Office
In onderstaand interview bespreekt Satya Nadella de nieuwe Bing, de samenwerking met ChatGPT en de mogelijkheden die hij ziet om de techniek ook in Office te implementeren. Ze beginnen met de browser, Edge, waarbij je in de browser aan de hand van een paar invulvelden (zakelijke brief/informele brief, gelegenheid, toon) een brief kunt laten opstellen. Ik zag wat voorbeelden daarvan voorbij komen op internet die heel goed waren. Nadella spreekt hierbij steeds over ‘concepten’. ‘De software geeft je concepten en dan is het aan de mens om die concepten te beoordelen, aan te passen en te gebruiken zoals hij wil.’ Ook hier komt weer terug dat je dan wel gedegen kennis nodig hebt als gebruiker om te beoordelen of het concept goed is. Of het taalkundig correct is, of de woorden kloppen, of de inhoud klopt, al dat soort zaken.
Het lijkt dus allemaal zo aantrekkelijk en er zijn talloze manieren om dit handig in te zetten voor het onderwijs, zowel aan de student als docent kant. Kennisnet heeft daar een mooi overzicht voor gemaakt. Maar in navolging van het kunnen beoordelen van ‘fake news’ moeten we allemaal dus ook leren AI-gegenereerde teksten te beoordelen. Want het tegenhouden of stoppen van deze ontwikkeling is geen optie. Het is slechts een kwestie van tijd dat dit ingebakken zit in Word en Outlook en dat studenten die sollicitatiebrief of dat verslag met een paar klikken gemaakt hebben.
Wat te doen?
Sinds 1 augustus 2016 zijn kritische denkvaardigheden toegevoegd aan het Examen- en kwalificatiebesluit beroepsopleidingen (bron). Dat is een belangrijke stap maar niet genoeg. Want om kritisch te kunnen denken heb je kennis nodig. Het idee dat studenten alles wel kunnen ‘Googlen’ wordt met de komst van chatsbots steeds lastiger zoals ik hierboven al beschreef. Ouderwets kennis stampen is ook niet de oplossing, maar kennis is macht. Onze studenten goed toerusten met kennis die ze nodig hebben om kritisch te kunnen denken en door AI-gegenereerde teksten te beoordelen is een belangrijke taak om goed om te kunnen gaan met ChatGPT, Bing, Bard en alle andere bots die er nog komen.
Geef een reactie