Interview prof. dr. Sigrid Sterckx - 'Geneeskunde in tijden van AI : Handvatten Voor Vandaag En Morgen'

Voor deze vragen kan u terecht in het boek Geneeskunde in tijden van AI: Handvatten voor vandaag en morgen van prof. dr. Sigrid Sterckx en prof. dr. Wim Van Biesen.

Gent Leest had de unieke kans om met prof. dr. Sigrid Sterckx in gesprek te gaan over het boek, de gevaren en mogelijkheden van AI, en bikinigeneeskunde.

U bent professor in de ethiek, en politieke en sociale filosofie. Dat lijkt ver te staan van AI, hoe heeft u de sprong gemaakt naar big data?

Eigenlijk heel toevallig, een bevriende collega had mij al meermaals aangespoord om onderzoek te doen rond ethische uitdagingen van big data in de geneeskunde. Ik had daar op dat moment heel weinig interesse in, ik dacht dat big data de nieuwe modetrend zou zijn waar vele ethici dan opspringen en snel van alles over schrijven om dan te wachten op volgende hype. Johan, die vriend, is gelukkig heel volhardend en heeft mij kunnen overtuigen van het enorme belang van de thema’s big data en AI. Dank zij zijn engelengeduld en veel uitleg op basis niveau werd het mij duidelijk dat dit geen hype is, maar een razend interessant thema waar in de filosofie nog te weinig mee gedaan wordt. Ik smokkel nu AI als thema in bijna al mijn lessen binnen. Soms gaat het over AI en mensbeelden. Bijvoorbeeld het debat over conscious AI, wat is bewustzijn? Hoe weten we hoe ons bewustzijn werkt? Dat zijn eeuwenoude vragen, maar door AI worden ze steeds actueler.

We willen met het boek mee helpen voorkomen dat mensen passief toekijken zonder enige achtergrond. We horen vaak dat mensen enkel goed nieuws verhalen horen, of juist doemverhalen, maar de realiteit ligt vaak in het midden.
AI in de geneeskunde is interessant, boeiend, fascinerend, en biedt kansen; maar het is tegelijkertijd iets waar we vraag over moeten durven stellen: Waar gaan we naartoe?

Jullie beginnen dan ook bij de vraag; wat is AI nu eigenlijk?

Om te weten waar we naartoe gaan, moeten we weten waar we beginnen. Het boek begint dan ook met een uitgebreide toelichting over de technologie die schuilgaat achter AI.
AI gaat over data, datawetenschap.
Het is niet enkel het resultaat dat telt, maar ook de vraag. Welke soorten vragen proberen we te beantwoorden met AI? Of AI al dan niet een antwoord kan bieden, hangt af van de vraag die gesteld wordt. En dan rijst de veel meer algemene maar wel cruciale vraag, wat is het doel van geneeskunde? Welke vragen tracht de geneeskunde te beantwoorden, welke problemen tracht ze op te lossen? Hoe verandert de ‘blik’ of de focus van geneeskunde onder invloed van AI technologie en big data? Welke problemen waar patiënten mee zitten worden ernstig genomen en welke niet, wanneer men geneeskunde in toenemende mate als een “datawetenschap” ziet?

Mensen hebben bepaalde beelden voor ogen als ze zich AI in de zorg voorstellen. Een goed bekend voorbeeld is de radioloog die AI gebruikt om beelden te labelen, of mensen weten dat ‘een computer’ een rol speelt in de zorg. Maar het is niet omdat je een computer ziet, dat er per sé AI gebruikt wordt, en het is niet omdat je geen computer ziet dat er geen AI aan het werk is achter de schermen.
We moeten ons bij alles de vraag durven stellen wat de meerwaarde zou kunnen zijn van AI te betrekken. AI kan zorgverleners en patiënten enorm helpen, maar vaak niet in de meest sexy toepassingen. Het meeste aandacht gaat naar de flashy onderwerpen: beeldherkenning, personaliseren van kankerbehandelingen, … maar we leggen in het boek uit dat de contexten waarin AI nu al een wezenlijk verschil zou kunnen maken voor zorgverleners op de werkvloer, vooral ‘saaie’ contexten zijn. In het bijzonder het invullen van allerhande formulieren en attesten en het opzoeken van vaak simpele informatie, bvb. over wanneer welke medicatie gestart of gestopt is, en door welke arts en om welke reden?

U vermeldde al de onoverkomelijke aanwezigheid van computers tijdens het doktersbezoek. Zal AI er voor zorgen dat deze een nog prominentere rol zal spelen?

Ik denk dat er groot risico is om mensen te reduceren tot nummertjes in plaats van te zien als unieke patiënten. AI kan enkel maar kan werken met data, dat is gewoon inherent aan de technologie, ze is op data gebaseerd. Elk fenomeen dat je niet kan vertalen in data, elk fenomeen dat je niet digitaal kan representeren, of dat essentieel veranderd wordt bij het digitaal voorstellen; daar kan AI niet op werken.
In sommige domeinen is dat geen enkel probleem, maar voor geneeskunde heeft dit grote gevolgen. Als je aan gelijk wie zou vragen ‘wat is geneeskunde voor u?’; gaat niemand als antwoord geven dat geneeskunde enkel het interpreteren van data is. Dan gaan er heel andere termen vallen, mensen willen zich graag gehoord voelen als patiënt, en gezien worden als een persoon in plaats van als een dataset om technologie op los te laten.

Wat meteen een van de gevaren van AI in geneeskunde is. “Voor iemand met een hamer, ziet alles eruit als een nagel”, voor iemand die AI wilt toepassen, ziet alles eruit als data. Als dit de voornaamste lens wordt waarmee naar gezondheidszorg gekeken wordt, dan ga je veel andere relevante zaken niet langer zien. Het gevaar vormt zich dan dat AI niet ingezet wordt voor de zorg, maar de zorg ingezet voor AI. Dat je op zoek begint te gaan naar problemen om je technologie op toe te passen, in plaats van kritisch de vraag te stellen wat de meerwaarde van de toepassing van deze technologie is.
Je hebt het gevaar in een situatie terecht te komen waar mensen herleid worden naar pure parameters. Ook voor de patiënten zelf is dit een verleidelijke val om in te trappen. Doe een bloedonderzoek, controleer alle biomarkers, en je weet meteen hoe gezond je bent. Het is heel aantrekkelijk om te denken dat geneeskunde zo simpel kan zijn.

We hebben de neiging om blindelings vertrouwen te hebben in computers en data, welk effect heeft dit op zorgverleners?

Ik denk dat er een heel groot risico is dat men klakkeloos overneemt wat de computer zegt, wat er voor zorgt dat de mens minder moeite moet doen. Een korte termijn voordeel is dan dat men beter kan omgaan met een werkcontext van personeelstekort en tijdsdruk waar iedereen in de zorg over klaagt.

Maar je kan hier ook de bedenking bij maken dat je op deze manier naar een AI model delegeert wat een arts tot een arts maakt. Namelijk iemand die doorheen een heel lange en complexe opleiding geleerd heeft om voortdurend hypothesen te formuleren, te toetsen, te kalibreren, en bij te sturen op basis van nieuwe informatie. AI maakt gebruik van die parameters, van die data, maar je mist het unieke proces van medisch redeneren en besluitvorming waar we in het boek een heel hoofdstuk aan besteden met allerlei voorbeeldjes. Daar proberen we op een heel toegankelijke manier uit te leggen hoe ongelooflijk veel verschillende aspecten er eigenlijk in het spel zijn bij ‘geneeskunde’. Er zijn goede redenen waarom dit niet ‘geneeswetenschap’ heet. Sommige aspecten van geneeskunde kunnen spectaculair verbeteren met het inzetten van bepaalde soorten AI, terwijl dat voor andere aspecten niet alleen geen betere informatie oplevert, maar net heel risicovol en/of ethisch onwenselijk kan zijn.

bepaalde context hetzelfde zouden doen, wordt dit gezien als de meest redelijke actie; en kan niet gezegd worden dat je onzorgvuldig bent geweest. Bij gebruik van AI wordt ditzelfde denkkader toegepast, als het merendeel van de artsen de aanbevelingen van de computer opvolgt, zal dit de nieuwe ‘juiste’ manier van werken worden. Als het merendeel van de artsen dus overtuigd geraakt dat het in hun belang is om veel naar AI te delegeren, is dat heel slecht nieuws voor de zorgverleners die hier kritisch tegenover staan en die in een bepaald geval zouden denken dat het de patiënt zou schaden als de AI-aanbeveling zou worden gevolgd.

AI maakt artsen niet meteen overbodig, maar verandert wel de manier waarop de maatschappij naar hun en hun functie kijkt?

Op dit moment heerst een beeld dat specialisten en huisartsen een monopolie hebben op een soort heel speciale kennis en kunde. In sommige gevallen zou AI dit beeld inderdaad kunnen doen wankelen; maar anderzijds zou AI dit ook juist kunnen versterken. Dat hangt af van de AI die ze toepassen en op welke manier ze communiceren met de patiënten. Als een arts zegt “ik heb scans genomen van uw hersenen, en op basis van AI gaan we nagaan of er sporen van Alzheimer zijn”; ga je als patiënt sneller denken dat je met een moderne, ervaren specialist te maken hebt, die heel verstandig moet zijn om zo met AI om te gaan. Als een arts daarentegen zegt “ik heb je symptomen eens in ChatGTP gesmeten, en dit is de conclusie”, ga je een heel ander beeld hebben.
Dit is de essentie van het probleem. Veel patiënten zijn zich niet bewust van wat AI is, en wat de mogelijkheden en beperkingen zijn.
AI wordt op die manier een soort sterrenstof die het kritisch denken bij de patiënt wegneemt.
Op een gelijkaardige wijze zoals we nu gewoon zijn geworden aan smart devices. Er zijn mensen die voor alle toestellen in hun huis een ‘smart’ optie kiezen, waardoor ze met commando’s vanop afstand gordijnen kan sluiten, lichten kan aandoen, zelfs een waterkoker aanzetten. Dat klinkt handig op het eerste zich, maar die apparaten luisteren wel de hele tijd mee. ‘Smart’ betekent immers niet meer of niet minder dan: verbonden met het internet. Dit maakt het permanent collecteren van data mogelijk. Heel wat mensen zijn er van overtuigd dat hun leven hierdoor makkelijker wordt. Maar is dat zo? En wat gebeurt er met die goudmijn aan data? Wat is het voordeel van de ontwikkelaar om zo’n zaken te marketen? Want die ontwikkelen uiteraard niets enkel om het leven makkelijk te maken; er moet een verdienmodel zijn.
En dat is grotendeels hetzelfde met AI en apps voor de zorg.

Ook data over patiënten zijn een goudmijn.

Het boek legt ook uit dat AI-systemen maar zo goed kunnen zijn als de datasets waar ze op gebaseerd zijn. Zou het dan niet juist beter zijn als alle artsen gebruik maken van AI en zo meer en betere datasets kunnen aanleveren?

In theorie wel, hoe meer AI systemen gebruikt worden, hoe meer data gevoed worden aan het systeem, en hoe beter de aanbevelingen gaan zijn. Maar veel zal weer afhangen van het soort vraag of probleem waarop men een antwoord zoekt.
Bovendien bestaan er, we gaan hier dieper op in in het tweede hoofdstuk, hallucinante voorbeelden van systemen die getraind zijn in het ene ziekenhuis, en dan toegepast worden in ander ziekenhuis in de buurt; en dan op die andere locatie, hoewel vlakbij, totaal niet blijken te werden. Dat toont aan hoe lokaal de betrouwbaarheid of het succes van sommige AI-systemen zijn. Je kan eigenlijk zelfs niet veronderstellen dat een systeem binnen dezelfde buurt, met dezelfde socio-economische parameters, dezelfde successen zal hebben. We gaan er te snel van uit dat alles overal wel zal werken, omdat het op één locatie succesvol was.

Daarnaast werkt AI ook versterkend voor bepaalde biases of vooroordelen die al eeuwenlang een probleem zijn in de geneeskunde. AI werkt op basis van data, en de meeste medische data die beschikbaar zijn, zijn afkomstig van blanke mannen. Sommigen dachten dat AI hier een oplossing voor zou zijn, want met AI zou je alles moeten weten. Dat blijkt dus niet het geval te zijn.
De hoop is nu deze gender bias, en andere biases in medische data, zwart op wit aan te tonen, en te hopen dat het serieus genomen wordt. Pas daarna kunnen stappen gezet worden om deze vooroordelen ook te reduceren. Helaas wordt deze problematiek nog te snel aan de kant gezet als een verplicht nummertje, maar nog te weinig serieus genomen.

Dat is het gevaar van bikinigeneeskunde, het idee dat als je de lichaamsdelen die bedekt worden door de gemiddelde bikini buiten beschouwing laat; elk lichaam inwisselbaar is. Niet enkel binnen bepaalde groepen, maar over de hele mensheid heen. Wat niet het geval is, want er zijn fundamentele verschillen binnen in het lichaam, en in de werking van het lichaam. Het hart van een vrouw ziet er bijvoorbeeld anders uit dan dat van een man, en toch wordt daar veel te weinig rekening mee gehouden bij zowel de diagnostiek als de behandeling van hartproblemen. Vele overlijdens zouden kunnen worden vermeden als het besef dat bikinigeneeskunde verkeerd is veel meer ingang zou vinden. De hele tijd wordt gesproken over gepersonaliseerde geneeskunde, maar op een fundamenteel level speelt ook nog steeds het idee dat elk lichaam door een ander vervangen kan worden. Heel wat verschillen tussen de werking van mannen- en vrouwenlichamen worden met moeite herkend, laat staan onderzocht. En op deze data bouwt AI verder, wat dit verkeerde idee verder bevestigt.

AI kan maar een antwoord bieden op vragen die wij eraan stellen, gebaseerd op de data die wij aanleveren. Naast de vraag over de mogelijkheden en limieten van AI, is er ook de vraag wat met prioriteit onderzocht moet worden en wat niet? Waar krijg je financiering voor? Wat verkoopt? Er is ook een hele economische context die mee bepaalt wat er uit de onderzoekspijplijn komt. Welke studies worden aangemoedigd en wat wordt, zoals bijvoorbeeld meer onderzoek naar de effecten van de pil op vrouwen, aan de kant geschoven wegens niet economisch interessant?

Professor Shoshana Zuboff van de Harvard Business School is de eerste die het woord ‘smart’ heeft gecoind voor alles dat verbonden is met het internet, in haar boek In the Age of the Smart Machine uit 1988. Daarin staat een zin die ik nog altijd een van de krachtigste wijsheden ooit vind over AI: ‘AI is nothing more than a spectrum of possibilities, selected and shaped by economic and political choices’. Er is een heel spectrum van mogelijkheden in AI, zowel qua type technologie, type van AI, als qua manieren om ze te gebruiken, maar uit dat spectrum worden sommige mogelijkheden wel gekozen en andere niet, en de gronden waarop dat gebeurt in onze maatschappij zijn doorgaans economische en politieke gronden.

Gender bias is niet enkel een probleem in de medische wereld, maar ook in de ontwikkeling van AI. Toch lag een vrouw aan de grondslag?

Inderdaad, Ada Lovelace lag aan de grondslag van het baanbrekend onderzoek dat tot de ontwikkeling van AI heeft geleid. Het idee kwam van Wim, mijn co-editor, en was oorspronkelijk om in het boek een korte vermelding te maken van de bijdrages die vrouwen hebben geleverd bij de ontwikkeling van AI, maar het is met Ada Lovelace een beetje uit de hand gelopen. In plaats van een foto met korte toelichting is het een volledig hoofdstuk geworden. Het is dan ook fenomenaal wat ze allemaal bereikt heeft, veel mensen kennen haar voornamelijk als de dochter van Lord Byron; maar ze was een geweldig gepassioneerde vrouw en een van de allereerste personen om te ontdekken dat computers veel meer kunnen doen dan berekeningen maken. Zij besefte bovendien als eerste dat rekenen te maken heeft met algoritmen of instructies.

Het boek heeft verschillende schrijvers, op welke manier werden deze gekozen?

Bij elk van de hoofdstukken hadden we op voorhand mensen in ons hoofd die zouden passen bij de thematiek, personen die we kennen via andere samenwerkingen of omdat we wisten dat ze een unieke expertise hebben. We wilden bovendien ook experts met echte praktijkervaring. Iedereen was enthousiast om een bijdrage te leveren. Wat voor ons ook bewijst dat het een thema is dat leeft, niet enkel bij geïnteresseerde leken, maar ook bij mensen die nu al met AI moeten werken in de zorg; en die soms ook niet volledig op de hoogte zijn van de volledige situatie.
Ik vond het persoonlijk heel interessant om al die bijdragen samen met mijn co-editor te becommentariëren. Ik ben een editor die veel feedback geeft, maar ik verwacht niet dat de uitgenodigde schrijver al mijn suggesties zomaar aanvaardt, ik hoop altijd dat er een soort debat kan ontstaan. Net zoals je met je co-editor voortdurend samen elke tekst aftoetst en bespreekt. Voor mij is het hele proces van een boek tot stand brengen, als auteur of als editor, een transformatieproces. Ik vind het cruciaal om bij interdisciplinaire schrijfprojecten, zoals dit boek, in dialoog te gaan en ook voluit interesse te tonen in anderen hun domeinen. Op deze manier leer je ook zelf veel bij en leg je beter linken tussen theorie en praktijk.
Mijn ogen zijn op sommige vlakken echt geopend door een jaar lang zo veel aan dit boek te werken. Ik leerde vrijwel elke dag weer super boeiende dingen bij.
Ik ontdekte ook dat er artsen zijn die tot diep in de nacht bezig zijn met zichzelf bij te scholen in nieuwe technologie om zaken betaalbaarder te maken voor hun patiënten. Die echt bezig zijn met o.a. door AI manieren te zoeken om betere artsen te worden, en die niet zomaar aanvaarden wat hun van bovenaf wordt opgelegd. Die daar ook kritisch mee omgaan en ambetante vragen durven stellen wanneer het nodig is.
Dat heeft mij veel optimisme gegeven.

Annalin Van Biesen