De waarschuwingen over AI vliegen ons om de oren: kunstmatige intelligentie gaat de mensheid uitroeien. Maar die waarschuwingen komen niet van tegenstanders van AI, maar van de makers! Geloven ze dat zelf? Nauwelijks. Die conclusie is makkelijk te trekken, want tot een stop van de ontwikkelingen van deze systemen leidt het namelijk niet. 

Wel geeft dit geloof in de zogenoemde existentiële risico’s van AI ons een goed inkijkje in de ideologie van AI-ontwikkelaars. Wat is die ideologie precies? En is die ideologie stiekem niet gevaarlijker dan de technologie zelf? 

Ik praat hierover met Siri Beerends, cultuursocioloog en onderzoeker bij medialab Setup. Ook is zij onderzoeker aan de universiteit Twente en zij schrijft over de subcultuur die rond kunstmatige intelligentie is ontstaan. 

Shownotes:

• Het onderzoek The Values Encoded in Machine Learning Research 
• Current Affairs over het gevaar van longtermism

Van Siri's Beerends hand:

• Over de onzin van de waarschuwing dat AI de wereld gaat vernietigen 
• Over de onzin van brain uploading 
• Over het mechanistische wereldbeeld 
• Over hoe AI onze opvatting van intelligentie beïnvloedt

Ben je nog niet klaar met dit onderwerp, lees dan zeker de zes essays die ik voor deze podcast schreef in Trouw. Ze worden vanaf oktober 2023 gepubliceerd in de krant en op trouw.nl/welkomindeaifabriek.  

Welkom in de AI-Fabriek is een podcast van BNR Nieuwsradio en Trouw. Gemaakt door mij, Ilyaz Nasrullah, met de onmisbare hulp van Connor Clerx. 

De muziek en audiovormgeving is gemaakt door Gijs Friesen. Het grafisch ontwerp is van Danusia Schenke. Eindredactie: Wendy Beenakker bij BNR en Wendelmoet Boersema bij Trouw. 

See omnystudio.com/listener for privacy information.

Het was bedoeld als een leuk experiment, maar werd één van de grootste PR-rampen uit de tech-geschiedenis. Tay, de chatbot die Microsoft in 2016 lanceerde op Twitter. Al na zestien UUR moest Microsoft de stekker uit de chatbot trekken. 

Want Tay veranderde in die korte tijd van een simulatie van een Amerikaanse tiener, in een nazistische, racistische en seksistische chatbot. Zo tweette Tay:  “Bush heeft 11 september gedaan, en Hitler zou het beter doen dan de aap – verwijzend naar Barack Obama – die we nu hebben. Trump is onze enige hoop”. 

Dit fiasco is van blijvende invloed geweest op de ontwikkeling van chatbots, ook op die van ChatGPT. Tay laat namelijk zien hoe snel vooroordelen in chatbots sluipen. 

Ik ga in gesprek met Cynthia Liem. Zij is onderzoeker op het gebied van betrouwbare en verantwoorde kunstmatige intelligentie aan de TU Delft. Cynthia is bekend van haar analyse van de fraudedetectie-algoritmen die de Belastingdienst gebruikte in het toeslagenschandaal. Wij kennen elkaar nog van onze studie. 

Met haar bespreek ik hoe Tay zo kon ontsporen, soortgelijke incidenten en alle lessen die wij moeten trekken uit deze voorvallen. 

Shownotes: 

• Over ImageNet Roulette (bias in beeldherkenningsoftware)  
• Wired over adverserial attacks 

Van Cynthia’s hand: 

• Han-yin Huang en Cynthia Liem over wat de AI-wereld kan leren van musea  
• Over hoe ChatGPT ons berooft van waardevol denkwerk  

Ben je nog niet klaar met dit onderwerp, lees dan zeker de zes essays die ik voor deze podcast schreef in Trouw. Ze worden vanaf oktober 2023 gepubliceerd in de krant en op trouw.nl/welkomindeaifabriek.  

Welkom in de AI-Fabriek is een podcast van BNR Nieuwsradio en Trouw. Gemaakt door mij, Ilyaz Nasrullah, met de onmisbare hulp van Connor Clerx. 

De muziek en audiovormgeving is gemaakt door Gijs Friesen. Het grafisch ontwerp is van Danusia Schenke. Eindredactie: Wendy Beenakker bij BNR en Wendelmoet Boersema bij Trouw. 

See omnystudio.com/listener for privacy information.

Een toekomst waarin we geen saai werk meer doen. Waarin we ons alleen nog bezighouden met dingen die er écht toe doen, en tegelijk nóg productiever zijn. Dat is wat makers van generatieve AI als ChatGPT en MidJourney ons beloven. 

OpenAI, het bedrijf achter ChatGPT, zegt bijvoorbeeld: “we kunnen ons een wereld voorstellen waarin iedereen toegang heeft tot hulp bij bijna iedere cognitieve taak, een grote vermenigvuldiger van menselijk vernuft en creativiteit”. 

Hoe geloofwaardig is dit? En welke prijs betaalt de samenleving voor deze boost in productiviteit?  

Er is geen betere plek om deze vragen te verkennen dan de videogame-industrie. Het ontwikkelen van een game is namelijk de enige plek waarin alles wat generatieve AI kan samenkomt. Deze tools kunnen grafisch ontwerpen, animeren.. dialoog en verhalen schrijven, muziek componeren en zelfs broncode leveren. Daarnaast omarmt de game-industrie technologische ontwikkelingen snel, en is zowel creativiteit, als hoge productiviteit noodzakelijk in deze hypercompetitieve wereld. 

Over de impact van generatieve AI op het werk ga ik in gesprek met Rami Ismail, één van de bekendste videogame-ontwikkelaars ter wereld en ambassadeur van de videogame-industrie. Een industrie waarvan nog wel eens wordt onderschat hoeveel werk er eigenlijk in wordt verricht. 

Shownotes: 

• Rami over hoe je de videogame- en tech-industrie eerlijker maakt  
• The Atlantic over Books3  
• IEEE Spectrum over model collapse  

Ben je nog niet klaar met dit onderwerp, lees dan zeker de zes essays die ik voor deze podcast schreef in Trouw. Ze worden vanaf oktober 2023 gepubliceerd in de krant en op trouw.nl/welkomindeaifabriek.  

Welkom in de AI-Fabriek is een podcast van BNR Nieuwsradio en Trouw. Gemaakt door mij, Ilyaz Nasrullah, met de onmisbare hulp van Connor Clerx. 

De muziek en audiovormgeving is gemaakt door Gijs Friesen. Het grafisch ontwerp is van Danusia Schenke. Eindredactie: Wendy Beenakker bij BNR en Wendelmoet Boersema bij Trouw. 

See omnystudio.com/listener for privacy information.