Slimmer met data
Risico’s temmen van het veelbelovende AI
Patiënten en experts die meebeslissen over de inzet van AI in een groot Europees onderzoek naar het voorspellen van vaatziekten. Do’s en dont’s over het juiste datagebruik in de AI Proeftuin van Amsterdam UMC. Het beleid rond het verantwoord gebruik van deze vernieuwende technologie zit in een stroomversnelling.
Tekst: Jasper Enklaar - Foto: Martijn Gijbertsen
Het Europese onderzoeksproject VASCUL-AID is in de eerste plaats een inhoudelijke studie naar het verloop van aneurysma’s en andere vaatziekten. Maar tegelijk is het een Europees modelonderzoek naar de correcte inzet van patiëntdata en van AI, vertelt Kak Khee Yeung, vaatchirurg en hoogleraar in Amsterdam UMC. “In elke fase van het project staan we uitgebreid stil bij het gebruik van persoonlijke gegevens en bij de AI-technieken die we inzetten. Die laten we beoordelen door zowel patiënten als door experts. Van die aanpak kunnen toekomstige onderzoekers profiteren.”
Inspraak patiënten
Zo vroegen de VASCUL-AID onderzoekers aan een vertegenwoordiging van patiënten welke concrete variabelen volgens hen in het model moesten worden meegenomen en geanalyseerd. En dus ook: welke data gaan er verzameld worden? “Deels gaven zij dezelfde antwoorden als de experts aan wie we dezelfde vraag stelden”, aldus Yeung (zie foto). “Maar ze noemden ook andere prioriteiten: zoals ‘Wanneer treden er infecties op?’ en ‘Wordt er in de behandeling een stent gebruikt?’. Deze onderwerpen hebben we vervolgens ook in onze selectie meegenomen. Op deze manier win je het vertrouwen van alle betrokkenen dat je data en AI op een verantwoorde manier inzet.”
H
‘Feiten checken is noodzakelijk’
Die inzet van AI neemt zienderogen toe in de wereld, Amsterdam UMC is daarop geen uitzondering. Die groei biedt veel kansen - in onder meer zorg en onderzoek - maar brengt ook risico’s met zich mee. Hoe waarborg je bijvoorbeeld de privacy van patiënten als je een AI-algoritme ‘loslaat’ op een grote hoeveelheid zorgdata? “Dat patiënten centraal staan in een ziekenhuis is een no brainer”, weet directeur Patiëntenzorg Joost Rotteveel. “Maar relatief nieuw is de vraag hoe je dat belang een plaats geeft in de snelle opmars van AI-technieken. Daarom worden er nieuwe kaders gesteld. Op Europees niveau is sinds vorig jaar de EU AI Act geldig, die strengere regels formuleert voor het verzamelen en gebruik van onderzoeksdata.” Ook binnen Amsterdam UMC worden gedragscodes geactualiseerd. Deze zijn nu vastgelegd in het K2-document ‘AI-beleid Amsterdam UMC’, waarin wordt uitgelegd welke vormen je wel en niet kan gebruiken. Een hele veilige manier om AI te gebruiken, is door deel te nemen aan de eigen AI proeftuin.
Veilige platformen
Binnen de AI Proeftuin van Amsterdam UMC leert een brede waaier aan professionals op een beschermde manier omgaan met de innovaties. “Collega’s leren onder meer op welke AI-platformen ze veilig kunnen opereren. Dat zijn onderzoekers, maar bijvoorbeeld ook adviseurs die een goede beleidstekst willen schrijven”, zegt Rotteveel. “Dat mag dus niet op Chat GPT, want daar kunnen data van Amsterdam UMC in het publieke domein terechtkomen. Belangrijk is om er goed om erop te letten nooit patiëntgegevens binnen AI-toepassingen te gebruiken; dat moeten we te allen tijde vermijden.” Binnen de proeftuin worden deelnemers ook in de interpretatie van AI-methoden gecoacht. “Als je een tekst van een patiëntfolder op B1-taalniveau wilt laten schrijven, kun je daar heel goed generatieve AI voor gebruiken”, stelt Rotteveel. “Maar zodra je een inhoudelijk verhaal laat opstellen, moet je kritisch zijn op de feiten. Niet alles wat je krijgt aangeboden klopt, dus checken is noodzakelijk.”
24 november Symposium ‘Data & AI’
Verken de wereld van data en kunstmatige intelligentie in Amsterdam UMC. Tijdens het symposium ‘Data & AI’ op maandag 24 november ontdek je hoe werken met data nu al het verschil maakt in de zorg. Op het symposium maak je niet alleen kennis met de nieuwste toepassingen, de sprekers duiken ook in de uitdagingen die daarbij komen kijken: hoe zetten we AI slim én verantwoord in? Hoe blijft het gebruik van data duurzaam? Wat is de meerwaarde van digitale leerpaden? Bereid je voor op inspirerende sprekers, prikkelende discussies en een blik op de zorg van de toekomst.
Het symposium duurt van 9.00–13.00 uur in collegezaal 4 op locatie AMC.
De onderzoekers van VASCUL-AID testen en checken voortdurend het AI-gereedschap waarmee ze werken. “In ons project staat het voorspellen en visualiseren van vaatziekten centraal. Daarvoor moet je allerlei soorten patiëntdata combineren: klinische gegevens, DNA en resultaten van beeldvorming zoals CT-scans”, legt Yeung uit. “Een vernieuwing die wij toepassen is om met behulp van AI bewegende beelden te vormen uit statische AI-scans. Zoals bij het stimuleren van een goede bloeddoorstroming. De technieken die je daarvoor nodig hebt, moet je zorgvuldig testen en certificeren.”
Pionierswerk
Van dit pionierswerk kan in de toekomst ander medisch onderzoek profiteren. Yeung: “Deze leidraden kunnen ook gebruikt worden door andere onderzoekers, in Europees verband maar ook daarbuiten. Een voorbeeld is de zogeheten data dictionary. Daarin wordt op basis van literatuur en expert meetings de feitelijke onderbouwing geleverd voor alle losse elementen die in het AI-model gebruikt worden.” Daarnaast wordt binnen VASCUL-AID een AI framework ontworpen voor het gebruik van predictiemodellen in de zorg. Hierin worden per deelonderwerp alle relevante procedures en achtergrondinformatie verwerkt. Als waarborg voor een zorgvuldige werkwijze.
Kost dat niet heel veel extra werk voor de toch al drukbezette onderzoeker? “In dit project wel, maar veel collega’s die dit navolgen kunnen onze opzet voor een groot deel copy pasten. Bovendien hoef je een bepaald stappenplan alleen volledig toe te passen als het gaat om een behandeling met een relatief hoog risico. Met een grote impact op het leven van de patiënt. Zoals een voorspelling van het wel of niet opereren van een aneurysma, waaraan een substantieel risico vastzit.”
Het evenwicht vinden tussen de risico’s en mogelijkheden van AI, dat is de balanceeract waar steeds meer professionals in Amsterdam UMC mee te maken krijgen. Rotteveel: “Met AI kun je fantastische dingen doen. Je hoeft de krant maar open te slaan om de voorbeelden te zien. Maar in diezelfde kranten lees je over de nadelen. Daarom is het nodig om samen betere afspraken te maken. Dat doen we nu: in Europa, binnen Amsterdam UMC en alles daartussenin.” •
Slimmer met data
Risico’s temmen van het veelbelovende AI
De onderzoekers van VASCUL-AID testen en checken voortdurend het AI-gereedschap waarmee ze werken. “In ons project staat het voorspellen en visualiseren van vaatziekten centraal. Daarvoor moet je allerlei soorten patiëntdata combineren: klinische gegevens, DNA en resultaten van beeldvorming zoals CT-scans”, legt Yeung uit. “Een vernieuwing die wij toepassen is om met behulp van AI bewegende beelden te vormen uit statische AI-scans. Zoals bij het stimuleren van een goede bloeddoorstroming. De technieken die je daarvoor nodig hebt, moet je zorgvuldig testen en certificeren.”
Pionierswerk
Van dit pionierswerk kan in de toekomst ander medisch onderzoek profiteren. Yeung: “Deze leidraden kunnen ook gebruikt worden door andere onderzoekers, in Europees verband maar ook daarbuiten. Een voorbeeld is de zogeheten data dictionary. Daarin wordt op basis van literatuur en expert meetings de feitelijke onderbouwing geleverd voor alle losse elementen die in het AI-model gebruikt worden.” Daarnaast wordt binnen VASCUL-AID een AI framework ontworpen voor het gebruik van predictiemodellen in de zorg. Hierin worden per deelonderwerp alle relevante procedures en achtergrondinformatie verwerkt. Als waarborg voor een zorgvuldige werkwijze.
Kost dat niet heel veel extra werk voor de toch al drukbezette onderzoeker? “In dit project wel, maar veel collega’s die dit navolgen kunnen onze opzet voor een groot deel copy pasten. Bovendien hoef je een bepaald stappenplan alleen volledig toe te passen als het gaat om een behandeling met een relatief hoog risico. Met een grote impact op het leven van de patiënt. Zoals een voorspelling van het wel of niet opereren van een aneurysma, waaraan een substantieel risico vastzit.”
Het evenwicht vinden tussen de risico’s en mogelijkheden van AI, dat is de balanceeract waar steeds meer professionals in Amsterdam UMC mee te maken krijgen. Rotteveel: “Met AI kun je fantastische dingen doen. Je hoeft de krant maar open te slaan om de voorbeelden te zien. Maar in diezelfde kranten lees je over de nadelen. Daarom is het nodig om samen betere afspraken te maken. Dat doen we nu: in Europa, binnen Amsterdam UMC en alles daartussenin.” •
24 november Symposium ‘Data & AI’
Verken de wereld van data en kunstmatige intelligentie in Amsterdam UMC. Tijdens het symposium ‘Data & AI’ op maandag 24 november ontdek je hoe werken met data nu al het verschil maakt in de zorg. Op het symposium maak je niet alleen kennis met de nieuwste toepassingen, de sprekers duiken ook in de uitdagingen die daarbij komen kijken: hoe zetten we AI slim én verantwoord in? Hoe blijft het gebruik van data duurzaam? Wat is de meerwaarde van digitale leerpaden? Bereid je voor op inspirerende sprekers, prikkelende discussies en een blik op de zorg van de toekomst.
Het symposium duurt van 9.00–13.00 uur in collegezaal 4 op locatie AMC.
Die inzet van AI neemt zienderogen toe in de wereld, Amsterdam UMC is daarop geen uitzondering. Die groei biedt veel kansen - in onder meer zorg en onderzoek - maar brengt ook risico’s met zich mee. Hoe waarborg je bijvoorbeeld de privacy van patiënten als je een AI-algoritme ‘loslaat’ op een grote hoeveelheid zorgdata? “Dat patiënten centraal staan in een ziekenhuis is een no brainer”, weet directeur Patiëntenzorg Joost Rotteveel. “Maar relatief nieuw is de vraag hoe je dat belang een plaats geeft in de snelle opmars van AI-technieken. Daarom worden er nieuwe kaders gesteld. Op Europees niveau is sinds vorig jaar de EU AI Act geldig, die strengere regels formuleert voor het verzamelen en gebruik van onderzoeksdata.” Ook binnen Amsterdam UMC worden gedragscodes geactualiseerd. Deze zijn nu vastgelegd in het K2-document ‘AI-beleid Amsterdam UMC’, waarin wordt uitgelegd welke vormen je wel en niet kan gebruiken. Een hele veilige manier om AI te gebruiken, is door deel te nemen aan de eigen AI proeftuin.
Veilige platformen
Binnen de AI Proeftuin van Amsterdam UMC leert een brede waaier aan professionals op een beschermde manier omgaan met de innovaties. “Collega’s leren onder meer op welke AI-platformen ze veilig kunnen opereren. Dat zijn onderzoekers, maar bijvoorbeeld ook adviseurs die een goede beleidstekst willen schrijven”, zegt Rotteveel. “Dat mag dus niet op Chat GPT, want daar kunnen data van Amsterdam UMC in het publieke domein terechtkomen. Belangrijk is om er goed om erop te letten nooit patiëntgegevens binnen AI-toepassingen te gebruiken; dat moeten we te allen tijde vermijden.” Binnen de proeftuin worden deelnemers ook in de interpretatie van AI-methoden gecoacht. “Als je een tekst van een patiëntfolder op B1-taalniveau wilt laten schrijven, kun je daar heel goed generatieve AI voor gebruiken”, stelt Rotteveel. “Maar zodra je een inhoudelijk verhaal laat opstellen, moet je kritisch zijn op de feiten. Niet alles wat je krijgt aangeboden klopt, dus checken is noodzakelijk.”
‘Feiten checken is noodzakelijk’
Het Europese onderzoeksproject VASCUL-AID is in de eerste plaats een inhoudelijke studie naar het verloop van aneurysma’s en andere vaatziekten. Maar tegelijk is het een Europees modelonderzoek naar de correcte inzet van patiëntdata en van AI, vertelt Kak Khee Yeung, vaatchirurg en hoogleraar in Amsterdam UMC. “In elke fase van het project staan we uitgebreid stil bij het gebruik van persoonlijke gegevens en bij de AI-technieken die we inzetten. Die laten we beoordelen door zowel patiënten als door experts. Van die aanpak kunnen toekomstige onderzoekers profiteren.”
Inspraak patiënten
Zo vroegen de VASCUL-AID onderzoekers aan een vertegenwoordiging van patiënten welke concrete variabelen volgens hen in het model moesten worden meegenomen en geanalyseerd. En dus ook: welke data gaan er verzameld worden? “Deels gaven zij dezelfde antwoorden als de experts aan wie we dezelfde vraag stelden”, aldus Yeung (zie foto). “Maar ze noemden ook andere prioriteiten: zoals ‘Wanneer treden er infecties op?’ en ‘Wordt er in de behandeling een stent gebruikt?’. Deze onderwerpen hebben we vervolgens ook in onze selectie meegenomen. Op deze manier win je het vertrouwen van alle betrokkenen dat je data en AI op een verantwoorde manier inzet.”
H
Tekst: Jasper Enklaar - Foto: Martijn Gijbertsen
Patiënten en experts die meebeslissen over de inzet van AI in een groot Europees onderzoek naar het voorspellen van vaatziekten. Do’s en dont’s over het juiste datagebruik in de AI Proeftuin van Amsterdam UMC. Het beleid rond het verantwoord gebruik van deze vernieuwende technologie zit in een stroomversnelling.
