Welkom bij de podcast HKU en AI.
In deze podcast gaan we in gesprek met HKU'ers en alumni over hoe zij AI inzetten in hun werk- en maakprocessen.
In elke aflevering zoomen we in op één aspect van AI, naar aanleiding van een concrete gebeurtenis of ervaring.
Ik ben Mikal van Leeuwen.
En ik ben Babette van Reden.
Vandaag gaan we in de studio Jorrit Thijn en we gaan met hem praten over.
zijn werken met AI. Welkom, Jorrit. Kan je jezelf even voorstellen als begin?
Ja, ik ben theatermaker. Ik ben al vrij lang aan het schrijven als theatermaker voor interactieve performances.
Bijvoorbeeld toen we net smartphones hadden voor GPS-gestuurde soundscapes en hoorspelen in het openbare gebied.
En op een gegeven moment kwamen robots op mijn pad. Het project Robot Stories.
En langzaamaan ben ik in dat project gegroeid.
Eerst als creatieve schrijver.
En later steeds meer als onderzoeker in dat project.
En op dit moment ben ik namens de HKU een promotiekandidaat bij de VU.
Bij de Social AI Group.
En daar werk je met AI.
Ja, dat is de bedoeling.
Maar het is wel interessant dat AI en robots in mijn bubbel heel vaak door elkaar heen lopen.
Ja, kan je daar iets meer over zeggen?
Nou ja, kijk, AI is natuurlijk eigenlijk alleen de brains.
En een robot, zou je kunnen zeggen, is een lichaam.
En je wil heel graag dat daar brains in zitten.
En ik denk dat tot een paar jaar geleden voor de LLMs echt een vlucht namen.
Dat robots nog vooral echt mechanische poppen waren.
Maar nu zijn we toch best behoorlijk ver bezig om dat te integreren met elkaar, merk ik.
En dat maakt het wel interessant.
En daar ben jij zelf ook mee bezig, met het integreren van die systemen?
Ja, nou niet exact dat ik zelf de programmatuur daarvoor ontwikkel.
Maar ik werk samen met een andere promotiekandidaat in het project Robot Stories, Sander.
En dat is meer de super technische onderlegde van ons twee.
En ik ben meer degene die de kennis heeft vanuit het theater om een artificiële identiteit te kunnen ontwikkelen.
En we proberen eigenlijk samen om een manier te vinden hoe je AI en robots meer een persoonlijkheid kunt geven, zodat de interactie met de AI en de robot interessanter is over langere tijd.
Ja, en hebben jullie dan bepaalde contexten om dat in te zetten?
Ja, de onderzoeksgroep van de VU heeft eigenlijk op dit moment twee grote doelgroepen waar we veel mee samenwerken.
Dat zijn kinderen en oudere mensen en dan meestal oudere mensen met dementie.
Waarom wil je daar robots en AI in zetten bij die doelgroepen?
Ja, dat is een hele goede vraag.
En een vraag die ook eigenlijk elke keer opnieuw vind ik gesteld moet worden.
Want de hype is natuurlijk hartstikke leuk.
Maar je moet je wel altijd blijven afvragen van wat ontwikkelen we dan voor wie?
En een mooi voorbeeld vond ik met kinderen bijvoorbeeld hebben we een project gedaan met Robot Stories waarbij we de kinderen de gelegenheid gaven om met die robot een aantal verhalen te maken.
En dat waren kinderen met een kanker diagnose.
Die moesten op een gegeven moment ook een operatiekamer in.
En dat is natuurlijk heel spannend.
En het idee was dat op dat laatste moment, waarbij eigenlijk zo weinig mensen nog om die kinderen heen mochten zijn,
dat dan de robot een verhaal terug kon vertellen aan het kind wat ze samen gemaakt hadden.
En daarmee een klein stukje een soort echo van een eerdere interactie weer zouden kunnen herbeleven.
Waardoor er net iets minder eenzaamheid op dat moment en een beetje afleiding eigenlijk ook zou kunnen zijn voor die kinderen.
En daarin vind ik het bijvoorbeeld een interessante toepassing krijgen.
Omdat op die plek niet alle mensen mogen erbij.
Maar zo'n robot kunnen we daar wel wat makkelijker steriel neerzetten.
En dan heeft dat misschien net op zo'n moment een rol.
En hoe ervaren de kinderen dat?
De kinderen die vonden het sowieso heel erg leuk om met een robot te praten.
Dus ook in het traject daarvoor waren ze heel erg enthousiast en wilden ook heel graag meedoen met het project.
En ik moet een beetje voorzichtig zijn, want ik heb de cijfers niet paraat.
Maar de anekdotische opmerking vanuit het ziekenhuis was wel dat het ook zeer waarschijnlijk was dat de stressniveaus voor de kinderen best wel wat verlaagd heeft, omdat ze die afleiding hadden.
En je zou je kunnen voorstellen, maar daar moet ik geen keiharde uitspraken over doen, maar je zou je kunnen voorstellen dat zoiets zou kunnen helpen om eventueel wat minder anesthesie te hoeven geven.
Maar dat zou wel een vervolgstudie moeten zijn. Dat is op dit moment een vermoeden.
Ik weet wel dat ziekenhuizen heel veel van dit soort projecten omarmen om te kijken wat zij kunnen met nieuwe technologie in het algemeen, maar zeker ook met robots.
En heeft dat dan ook te maken met personeelstekort?
Of is het echt een toegevoegde waarde op het systeem wat er al is?
Dat is een interessante vraag.
Misschien meer voor de andere doelgroep die we hebben.
De oudere mensen met dementie.
Heel vaak wordt er een combinatie gemaakt.
Robots en mensen met dementie.
Dus dan is al heel snel het verhaal van...
Oké, die robots komen ons helpen.
Want we hebben handengebrek in de zorg.
En dat is ook echt zo.
Ik kom tegenwoordig steeds vaker in de verzorgingshuizen...
waar we het dan over hebben.
En die mensen zijn gewoon niet bereikbaar.
Omdat ze echt altijd aan het werk zijn.
Het is echt heel pittig.
Het verdrietig is alleen dat ik denk dat robots op de korte termijn...
niet de oplossing zijn voor het probleem van te weinig handen.
Ik denk wel dat robots een interessante toevoeging kunnen zijn.
Die misschien bepaalde velden kan openen...
die wij op dit moment als mensen nog niet of misschien wel nooit zullen beheersen.
Om een voorbeeld te noemen.
Met AI zou je bijvoorbeeld in spraakanalyse in een vroeg stadium allerlei zaken die je met de hersenen van doen hebt kunnen ontdekken.
Dus bijvoorbeeld of de kans heel groot is dat je een toeval gaat krijgen.
Of dat bijvoorbeeld dementie versneld aan het verslechteren is.
Als je daar een analyse op gaat uitvoeren, dan zou je daar misschien al in een veel eerder stadium ook actief op kunnen handelen.
In zo'n geval is het dan wel noodzakelijk dat er data is voor een AI om die analyse te kunnen maken.
En in zo'n geval is het dan fijn als je een robot hebt die een leuk verhaal komt vertellen.
Of misschien wel samen met de mensen een verhaal komt maken.
Dus je moet dan een robot hebben die een beetje leuk is om mee te praten.
Want je gaat niet zomaar tegen een robot praten.
Tenminste ik niet.
Omdat hij langs komt rijden.
Precies.
Dus dan gebruik je eigenlijk de interactie met de robot als een zijspoor,
terwijl je eigenlijke doel is om te kunnen analyseren of er iets anders aan de hand is.
Ja, nou ik denk dat dit heel veel verschillende mogelijkheden en toepassingen zijn.
Die op dit moment op heel veel verschillende manieren worden onderzocht.
Maar nog niet allemaal in synthese bij elkaar gebracht zijn.
Dus we zijn best wel aan het speculeren of aan het fantaseren zoals ik nu ook net doe.
Wat zou er mogelijk kunnen zijn in de toekomst met deze technologie?
En in het vooruit voorzien wij dat het dan wel nodig zal zijn dat je met een robot een soort prettiger vorm van gesprek zou moeten kunnen voeren.
En een van de kleine stukjes die daaraan kunnen bijdragen is wellicht dat een robot een vorm van identiteit zou hebben.
Mijn expertise is dus vanuit theater en gaat dus over het artificieel bouwen van een identiteit.
Maar het is niet altijd de bedoeling dat wij nu, of zeker niet altijd, eigenlijk is het helemaal niet de bedoeling dat we nou per se op een mens lijkende identiteit gaan maken.
Dat maakt wel dat het nog steeds heel interessant is.
Wat is dan een typische robot identiteit?
Of wat is de essentie van een robot?
En hoe kunnen we dat verder ontwikkelen?
En ik denk dat dat de komende jaren nog echt alle kanten op zal schieten.
Wat is jouw rol in het project?
In het project Robot Stories ben ik zelf een onderzoeker.
Eigenlijk ben ik dus aan het onderzoeken hoe we de technieken die ik dan vanuit het theater mee kan nemen in dit project.
kunnen inzetten om bij een robot of een robot slash AI
de suggestie te wekken dat daar een identiteit aanwezig is.
En met name het woord suggestie is dan belangrijk,
omdat als je diep in de filosofie duikt,
dan is er sowieso eigenlijk al geen overeenstemming
wat identiteit precies is.
De suggestie van een identiteit,
maar met de suggestie kun je al heel erg veel,
want daar kun je juist aan ontwerpen.
Ja, want je zei al van we hebben nu LLMs, de taalmodellen, de large language models.
Dus die kunnen we dan in zo'n robot stoppen.
Waarom is dat nog niet voldoende identiteit voor wat jij wil bereiken?
Het vermoeden bij ons in de groep waar ik zit, is dat voorlopig de komende tijd een LLM toch nog interessanter kan worden.
Als je dat voor een deel aanvult met welgescript tekst of identiteitskenmerken.
Plus dat in de uitwisseling met een ander, maar dan komen we al een beetje op de filosofische kant van wat is identiteit.
Mijn standpunt is dat identiteit niet alleen iets is vanuit mijn lichaam, maar dat ook mijn identiteit voor een deel ontstaat in de uitwisseling, in de intraactie volgens Karen Barad.
Dus we moeten ook iets organiseren dat AI en de robot tijdens het gesprek, tijdens de interactie met de ander, dat daar ook identiteit uit mag ontstaan.
En dat kunnen wij mensen, dat gaat bij ons heel gemakkelijk.
We denken daar ook niet bij na dat dat ontstaat zo.
Ik heb jou een paar keer eerder ontmoet en ik ben bij jou net weer een beetje anders dan bij bijvoorbeeld iemand die bij mij in de straat woont.
Dus we zijn bij iedereen anders.
Dat ontwikkelt zich.
Maar dat zijn allemaal aspecten die voor een robot ontworpen moeten worden.
En daar moeten we dus een manier voor vinden.
En juist dat hoe ontstaat een identiteit.
Kan je bijvoorbeeld wat mij betreft heel interessant onderzoeken op de theatervloer.
Bijvoorbeeld vanuit improvisatie.
Improvisatie kun je doen zonder iets.
Je zet gewoon twee mensen op het toneel en het begint.
Het zijn allemaal vormen van improvisatie die in meer of mindere mate nu ook met een robot zouden kunnen uitgeprobeerd worden.
Om te kijken van wat gebeurt er dan met de identiteit van die robot?
Wordt dat ontspoord dat helemaal?
Als je een LLM nu maar laat praten, dan is het soms best wel ingewikkeld op de langere termijn.
Om daar een soort consistente identiteit in te kunnen blijven zien.
En aan de andere kant wil je juist dat dat niet helemaal exact hetzelfde blijft.
Want als je al twintig keer met die robot gesproken hebt, wil je wel dat die identiteit van die robot zich ook een beetje ontwikkeld heeft.
Dus er zitten heel veel verschillende aspecten aan die eigenlijk met alleen een LLM nog niet helemaal voldoende opgelost kunnen worden.
En hoe ontwikkel je dat dan? Hoe los je het dan wel op?
Of dat is het onderzoek?
Ja, dat is het onderzoek.
Als ik daar het antwoord al op had, dan was ik nu eigenlijk klaar.
Oké. Ja, op dit moment zijn we bijvoorbeeld bezig om in november gaan we een theaterperformance, een onderzoeksperformance doen met een robot en een acteur op het toneel.
Eigenlijk een beetje langs de lijn van wat ik net zei, met een deel gescript, een deel niet gescript, een deel echt improviseren, een deel half improviseren.
Om te kijken wat doet dat nou met de perceptie van het publiek op hoe die robot als iets met een identiteit zich daar manifesteert.
We gaan ook heel vaak met die robot de zorginstellingen in.
En dan willen we die robot een soort verhalenverteller dus maken.
Het heet niet voor niks Robot Stories.
Maar ook een verhalencollector.
Dus er moet eigenlijk een soort uitwisseling gaan plaatsvinden...
tussen de robot en de mensen rondom verhalen.
En dan gaan we dus kijken of we die verhalen kunnen manipuleren.
Maar ook op zo'n manier dat dat een soort weerspiegeling is...
van de identiteit van de robot.
En hoe die identiteit zich heeft ontwikkeld door het contact met de mensen.
Zijn er dingen bij die je verbaasd hebben of die je ontroerd hebben?
Een paar jaar geleden zaten we met een oudere vrouw en de robot tegenover elkaar.
En een van de schrijvers van dat script zat naast de robot als een soort chaperone.
En naast de oudere vrouw zat een bekende van haar.
En dat gesprek ging om een gegeven moment, dat had de schrijver dus verzonnen,
dat de robot dat moest vragen.
Goh, wat is dat nou mens zijn?
Het is niet een vraag die ik elke dag aan mensen stel,
maar het lijkt zo'n simpele toch wel vraag die je als mens aan een mens kunt stellen.
Maar als een robot zo'n vraag stelt aan een mens, wordt het al gekker.
Maar in dit geval stelde die robot de vraag aan een oudere vrouw die al een fase 2 dementie had.
En het interessante was dat hoewel zij eerder in dat gesprek heel veel moeite had om te kunnen vertellen waar ze was en wie zij zelf was.
Kon zij opeens op dat stuk van wat is mens zijn hele mooie antwoorden geven.
Dus blijkbaar zit dat op een veel diepere laag dan de identiteit die wij aangenomen hebben.
En dat ontroerde mij zeker.
Ja, mooi.
MUZIEK
En als we kijken, want we zitten hier vanuit HKU.
Is dit iets wat de studenten ook al in een opleiding zouden moeten krijgen?
Krijgen ze dat al?
Ja, dat is een goede vraag.
Ik ben zelf verbonden aan de afstuurrichting interactive performance te zijn van theater.
En dat zijn studenten die over het algemeen heel erg graag iets willen met interactie sowieso.
En met technologie die daarbij behulpzaam kan zijn.
Dus die studenten krijgen al wel zaken als AI.
Maar ik denk dat eigenlijk die vraag ook andersom gesteld zou moeten.
Zitten de studenten er wel op te wachten?
En dat vind ik wel een interessante.
Want ik merk dat bij meerdere studenten wel een soort huivering is bij technologie in het algemeen.
En wat denk je dat de studenten weerhoudt?
Ja, ik denk bij de studenten die kritisch zijn, dat ze vooral zorgen hebben over de grote bedrijven die daarachter zitten.
Wat ik ook wel begrijp, want ik maak mezelf daar ook zorgen over.
Ik vind ook dat we ook als HKU ons best moeten doen om bijvoorbeeld Europese initiatieven te steunen.
Ik denk de andere kant dat ze het gevoel hebben dat de technologie hun werk uit handen gaat nemen.
En dat juist kunststudenten heel erg graag zelf willen creëren.
En eigenlijk nog niet voldoende de waarde zien om samen met een AI te creëren.
Dus dat het er niet om gaat het vervangingssyndroom, zullen we maar zeggen.
Ik denk echt namelijk dat dat een mythe is.
We moeten dat niet te veel blijven herhalen.
We gaan niet vervangen worden.
Het zal een soort toevoeging worden.
Maar wij mensen zijn mensen en robots en AI zullen dat zijn.
Maar het zal er wel daarnaast komen, denk ik.
En kunststudenten kunnen dan het inzetten als een medemaker.
Dat zou ik interessant vinden.
Of als een tool.
Maar daar moeten ze dan inderdaad de waarde van gaan ervaren of gaan zien.
En ik wil niet zeggen van nou studenten jullie hebben het nog niet gezien en wij wel.
Ik denk dat het waardevol kan zijn en een toevoeging kan zijn.
Maar ik denk dat studenten op dit moment dat nog niet helemaal zou ervaren hebben.
Maar jullie zijn nog wel, sorry deze vraag ga ik even opnieuw beginnen zodat ik hem kan gebruiken.
Jullie zijn ook een minor aan het ontwikkelen op dit gebied.
Ja inderdaad. We gaan volgend jaar starten met artistieke artificiële intelligentie.
Dat is een minor.
En daarmee willen we eigenlijk proberen om een aantal van de bewegingen die op verschillende plekken in de HKU al wel aan de hand zijn.
De ruimte bieden om studenten een half jaar de tijd te geven om echt even te gaan experimenteren met AI.
Op een artistieke manier.
En de insteek zal wel zijn dat het niet alleen een tool hoeft te zijn.
Wij willen eigenlijk gaan kijken van wat als het een medemaker is.
De boog zal zijn dat we eigenlijk in een half jaar tijd de studenten gaan begeleiden op het inzetten van AI als een medemaker in een project dat leidt tot een kunstwerk waarbij eigenlijk die AI niet had kunnen ontbreken.
Dus het stuk AI is onderdeel wellicht van het kunstwerk zelf, maar ook echt onderdeel van het maakproces.
Juist in dat proces denken wij een heleboel vragen tegen te komen die jij net ook al stelde.
Moeten we niet met de studenten ook gaan nadenken over wat is dan die wereld waar je in terecht komt?
Wat is dat werkveld als AI daar ook een aanwezigheid is geworden?
Maar ook de vragen van moet je zomaar maar elke AI die op het internet te vinden is gaan gebruiken?
Of moet je daar toch op een wat meer ethische manier mee omgaan?
Dus heel veel van dat soort vragen kunnen we eigenlijk aan de hand van het maakproces en de samenwerking met de AI kunnen we gaan beantwoorden.
En als jullie naar de toetsing daarvan kijken?
Ja, we hebben het idee om een examinator aan te stellen die zelf een AI is.
Ja, dat is geen grapje.
Dat moeten we nog wel even met de examencommissie afkaarten.
Maar het is wel een grapje dat dat de enige examinator zal zijn.
Ik neem aan dat dat de toetsingsvraag is die je stelt.
Hoe gaan we dan bekijken of het een student is die het werk gemaakt heeft of de AI?
Want dat is de vraag die ik vaak in het onderwijs hoor.
En hoe is die samenwerking geweest? Hoe ga je dat uit je student halen?
Dat de student gaat vertellen hoe die samenwerking is geweest.
Kijk, in zo'n proces gaat zo'n AI eigenlijk de rol spelen die je zou kunnen zeggen
dat je in een projectgroepje met nog één of twee of drie andere collega-studenten hebt.
In dat hele proces wordt de studenten ook gevraagd om aan te geven
welke rollen de verschillende mensen in dat project hebben gehad.
Ik vind het heel interessant wat je zegt.
In de opzet is het al een gegeven dat de student met AI gaat werken.
Dus het kan eigenlijk niet meer ontkend worden.
Je kan niet zeggen, nee, dit heb ik allemaal zelf gemaakt.
Want iedereen weet dat er een AI aan tafel zit.
Ik denk dat de vraag niet alleen maar zou moeten gaan over hoe gaan we beoordelen of iets door een mens gemaakt is of door een AI.
Maar de vraag moet dus eigenlijk ook gaan over hoe heb je dus met die AI samengewerkt.
Het gaat niet zozeer om de uitkomst. Het kan best zijn dat de uitkomst eigenlijk helemaal niet zo geslaagd is.
Dat kan, maar het kan zijn dat het proces naar die uitkomst ongelooflijk interessant is geweest en dat daar hele mooie dingen gebeurd zijn.
En je zei net, een van die beoordelaars is dus ook AI zelf.
Ja.
En je zei dat dat moet natuurlijk.
Vertel.
Nou ja, kijk, dit is de wens.
Kunnen we een docent ook AI maken?
Ook weer niet om te kijken van kunnen wij als mensen daarin vervangen worden?
Maar wel om te onderzoeken van, goh, wat brengt het ons?
Wat geeft dat voor nieuwe inzichten of voor vreemde en nieuwe kijken op wat beoordelen.
misschien wel is.
Ik vind het wel heel mooi.
Want je zegt de studenten in de minor.
Laten we samenwerken.
Zij gaan onderzoeken hoe die samenwerking met AI is.
En wat ik hier eigenlijk hoor.
Is dat jullie als docenten.
Of als beoordelen ze ook die samenwerking opzoeken.
Ja, ik denk dat dat nog best wel spannend kan zijn.
Ik heb zelf als docent ook wel eens.
Op theater in een project.
Een soort residentie kunnen doen.
In dat project.
Samen met een paar andere.
Twee andere collega docenten.
En toen kwamen wij docenten daarachter dat het best ingewikkeld is om samen te werken.
Terwijl dat er wel is wat we continu van onze studenten vragen.
Dus het zou best nog wel eens kunnen dat een collega AI een heel ingewikkelde situatie oplevert.
En dan hebben we in ieder geval met de studenten een mooi bondje.
Iets om over te praten met elkaar.
Precies.
En over te zeuren.
tijdens het koffiedrinken, als de AI niet meeluistert.
Ja.
Dat is wel weer het voordeel van AI.
Dat kun je ook even uitzetten.
Precies.
En zouden jullie dan ook kijken naar wat voor collega dat dan zou moeten zijn?
Dus gaan jullie dan kijken van...
Ga je die ook vormgeven?
Wat missen we zeg maar in ons, bijvoorbeeld in ons team nu?
Wat zouden we moeten hebben nog?
En dat jullie dan dus dat gaan prompten daar, dat er een extra dimensie bij komt.
Nou ja, dit is een leuke vraag die dan ook inderdaad weer teruglinkt naar mijn onderzoek.
Want in principe, als we dat gaan doen, hebben we dan elk jaar bijvoorbeeld een nieuwe prompt.
We hebben elk jaar een nieuwe collega.
Want wat is dan de continuïteit?
Mag de collega groeien, de AI-collega?
Mag die leren van het voorgaande jaar en dan dat meenemen?
Want wij kunnen dat wel.
Maar als wij elk jaar of misschien wel elke week...
onze AI-collega een update hebben gegeven...
is dat nog wel dezelfde AI-collega.
Dus we zullen zeker ergens moeten beginnen...
en dan op een gegeven moment ook een keuze moeten maken...
van gaan we afscheid nemen van onze AI-collega 1.0...
Dan gaan we met de 2.0 collega verder.
Interessant. Ik ben heel benieuwd.
Ja, ik ook. We gaan het meemaken.
Ja, we gaan dit soort dingen meemaken.
Dat is ook spannend, hè?
Ja, zeker. In welke zin vind jij het spannend?
Dat het echt een soort uncharted territory begint te worden.
Dingen die we in onze jeugd, in science fiction zagen,
beginnen langzaamaan toch echt wel een beetje in ons dagelijks leven te verschijnen.
Met de bijkomende hele grote vraagstukken.
Van willen we dat?
En hoe dan?
En wat betekent dat voor ons als mens?
Ik merk dat door met AI en robots bezig te zijn.
Dat ik ook heel erg veel aan het nadenken ben.
Wie ben ik dan?
Als mens?
Als Jorrit?
Wat is mijn identiteit dan?
Dus ja, ik vind dat spannende tijden.
Maar niet zozeer omdat ik denk.
Nou, over een paar jaar bestaat de wereld niet meer.
Want AI en robots hebben dat overgenomen.
Ik denk dat we daar echt wat meer tegengas op moeten geven.
Ik heb nog een laatste vraag.
Heb jij nog iets als kijk- of luister- of leestip?
Ik heb niet per se heel specifiek iets wat je zou moeten lezen.
Van nou ga dat lezen.
Maar ik denk wel dat het interessant is juist nu om heel veel fictie opnieuw te gaan bekijken.
Omdat het nu veel urgenter geworden is.
Heel lang geleden, toen waren het allemaal hele gave films of het waren mooie boeken van Asimov.
En nu beginnen we in een tijdperk te komen waarin een aantal van dat soort verhalen wat meer binnen handbereik beginnen te komen.
Om een voorbeeld te noemen, de drie wetten van Asimov voor de robotica.
Een man die eigenlijk al, wat is het, 50, 60 jaar geleden op die manier aan het nadenken was van op welke manier zouden wij goed kunnen samenleven met robots.
En wat moeten we dan aan algoritme eigenlijk schrijven, zodat die robots op een goede manier met ons gaan samenleven?
Dus er is in de fictie, is er al heel erg veel gespeculeerd over de toekomst waar we nu langzaamaan in wandelen.
Dus ik zou mensen eigenlijk vooral aanraden, ga opnieuw ook naar de oude films kijken.
Oude science fiction weer pakken.
Omdat dat misschien weer wat handvatten geeft.
En dan natuurlijk niet alleen maar de dystopische versies.
Niet alleen maar Terminator gaan kijken.
Nee, maar Asimov is denk ik misschien wel een leuke boekentip voor mensen die graag lezen.
Oké, dankjewel.
Dankjewel.
Dankjewel voor je komst en voor het interessante gesprek.
En tot de volgende keer.
Tot de volgende keer.