Ah dames en heren. Welkom bij deze nieuwe les. In deze les gaan we het hebben over. Kunnen we de output van AI nou vertrouwen? Kunnen we dat blindelings vertrouwen? Of maakt het soms ook fouten? Oftewel liegt het tegen ons. En zo ja, want het antwoord is daarop. Ja, eh, Hoe gaan we daar dan mee om?

Ehm er zijn eigenlijk eh twee manieren eh waarom we die output niet kunnen vertrouwen en het eerste is hallucinaties en wat we daarmee bedoelen is dat het gewoonweg liegt. Ik heb hier een mooie Pinocchio Ai versie van een Pinocchio eh eh gemaakt. Het geeft soms gewoon weg, het verkeerde antwoord of het eh een compleet slecht antwoord.

Ik heb daar straks ook nog een voorbeeld van en daar moeten we dus rekening mee houden. Een ander ding is waarom we de output niet kunnen vertrouwen. Is dat er een bepaalde bias in zit die AI al die chatmodellen en al die AI systemen die zijn gebouwd door Amerikaanse techbedrijven of in ieder geval degene die wij gebruiken en dat is getraind op allerlei menselijke data en in die menselijke data in al die training.

Eh, zit heel erg veel bias eh, oftewel vooroordelen voor iets. Ehm, dus eh een een mooi voorbeeld hiervan is is als je vroeg om een. Een een afbeelding van een dokter, dan kreeg je eigenlijk altijd een witte man in een doktersout output. Nou, dat is echt een bias en ze zijn dat aan het repareren, dus ze zijn in eh, die modellen zijn ze het zo aan het ehm recht zetten dat je dus ook vrouwen gaat zien.

Ook donkere mensen ook? Nou ja, eh dat het een veel gekleurder eh palet is zoals het in de werkelijkheid. Ook is dus dat we die bias er eigenlijk uit aan het halen zijn Eh, maar op dit moment eh, is de die AI echt nog wel biased eh, maar laten we het even hebben over die hallucinatie, want dat is wel een hele belangrijke en eigenlijk het grootste nadeel in mijn optiek van deze systemen.

Ik heb hier een voorbeeldje gepakt. Hier zie je een monopoliebord en ik heb net eh gevraagd een chatshypotheek. Als ik vanaf de start bij Nederlandse Monopoly 39 vakjes vooruit gaat, Waar kom ik dan terecht? Nou, het snapt eh wat Monopoly is. Ik snap dat dat 40 vakjes heeft en als je dus eh 39 stapt en dan eindig je één vakje voor start weer.

Nou, ik snap dat allemaal eh, maar wat het verkeerd doet is dan zegt hij Dit is het vakje Betaal inkomsten. Terwijl als we hier kijken, dat is dus eh de Kalverstraat waar we op uitkomen en wat het probleem is. Hiermee is het lijkt het allemaal te snappen en het geeft een definitief antwoord, maar dat antwoord is helemaal verkeerd.

Dat slaat nergens op of nergens op. Het is. Het is in ieder geval niet goed wat je eh moet weten. Is dat dit ding eigenlijk? Ehm altijd een poging gaat doen, dus het zal altijd een antwoord proberen te geven. Het zegt bijna nooit van hé, ik weet dit eigenlijk niet.

Eh misschien moet je het zelf even opzoeken Eh en dat is wel heel jammer want het geeft dus af en toe echt nog wel verkeerde informatie En ik zeg af en toe Ehm. Het ligt heel erg aan waar je dit gebruikt en welke context hoeveel je meegeeft. Ehm hoe je het prompt Als we dit goed zouden prompen zouden we dit waarschijnlijk wel in één keer goed hebben en dat zie je ook eh hier.

Ik heb ehm ben doorgegaan in hetzelfde gesprek en ik zeg ook op het Nederlands woord terwijl. Dat we dit natuurlijk eigenlijk al zeiden van Hé Nederlandse Monopoly, dus ik heb eigenlijk geen informatie toegevoegd en nu komt het wel gewoon uit bij de Kalverstraat, dus het heeft het wel goed, dus ergens zat die informatie wel, maar het kwam er niet in één keer uit en dat is wel heel jammer, want het maakt dus soms nog fouten.

Nou dat is gewoon iets heel belangrijks wat je moet meenemen. Ehm kunnen we dan hierdoor helemaal niet meer AI gebruiken? Nou volgens mij helemaal niet. Eh, die AI is vele vele malen slimmer dan dat Ik ben. Eh en ik doe ook nog een hele hoop eh dingen. Ik zeg wel eh vaak ook dat ik het iets niet weet, eh maar moet dus gaan leren hoe we dit kunnen inzetten en wanneer we dit kunnen inzetten.

Nou over hoe we hier nou mee gaan omgaan dus met dat hallucineren en die bias wil ik heel erg aanraden om het mensmachine mens principe toe te passen. Wat ik hiermee bedoel, is jij als mens jij als student gaat nadenken over hé, wat wil ik nou ehm krijgen uit deze.

Machine eh, dus dat zit hem vooral in pronting. Je moet goed nadenken wat je precies wil hebben eh, dan gaat die machine voor jou nadenken. Die gaat misschien een een hele scriptie genereren. Die gaat dan afbeelding maken. Die gaat wat dan ook ehm en jij als dan is dat niet het eindpunt, want jij als mens gaat dat nog eens controleren.

Uiteindelijk ben jij degene die verantwoordelijk is voor wat daar uitkomt. Dus zo'n vraag eh over Monopoly net ja als ik dan eh dit had doorgespeeld naar iemand anders van hé, eh dit is het antwoord en ik had het niet gecheckt. Dan was had ik dus verkeerde informatie overgegeven en dat was echt een probleem geweest Ehm, dus we moeten altijd het mensmachine mens principe toepassen en dat gaan we ook zien.

In heel veel voorbeelden dat als we een scriptie gaan schrijven dat het heel eh goed is en heel handig is als jij als mensen nog altijd die controle functie gaat toepassen. Ehm, dan heb ik het wel heel erg over dat we dit doen op. Nou ja, korte termijn nabije toekomst omdat.

Op dit moment zijn die hallucinaties eh echt nog wel een groot probleem. Ik zou zelf zeggen het grootste probleem waar we nu tegenaan lopen bij AI. Het kan heel veel, maar zeker ook niet alles. Ehm, daar gaan we het later ook nog eh over hebben. Natuurlijk waar je het dan wel wil inzetten.

Ehm maar ga er ook vanuit dat die AI nog vele malen slimmer wordt en nog beter wordt, Dus misschien kan het straks wel al die antwoorden in één keer goed geven, maar op dit moment echt nog niet. Jij bent verantwoordelijk en pas alsjeblieft dat mensenmachine mens principe toe. Bedankt.