Als we willen dat deze modellen in de praktijk worden toegepast, moeten we betrouwbare methoden ontwikkelen waarbij de mens centraal staat

Tachtig procent van alle data over patiënten is ongestructureerd. Aantekeningen uit een gesprek met de huisarts, de evaluatie van een specialist van een universitair medisch centrum of zelfs het advies van een apotheker. Deze ‘ongestructureerde’ data zijn geen probleem voor de mens, maar voor een AI-algoritme zijn deze data een enorme uitdaging. Zo’n uitdaging zelfs, dat het “AI weerhoudt zijn volle potentieel te bereiken”, aldus onderzoeker/universitair docent Iacer Calixto. Om AI hierbij te helpen, gaat Calixto een door NWO gefinancierd project leiden dat “de grootste uitdagingen gaat tackelen die de toepassing van AI in de kliniek verhinderen.”

“Als we willen dat deze modellen in de praktijk worden toegepast, moeten we betrouwbare methoden ontwikkelen waarbij de mens centraal staat”, aldus Calixto. Het project zal verder bouwen op Natural Language Processing (NLP) technieken die nu al de basis vormen voor het steeds populairdere ChatGPT. Op dit moment kan software zoals ChatGPT nog niet makkelijk gebruikt worden in de gezondheidszorg, omdat de data uit deze sector dus zo ongestructureerd is. Maar de software zelf biedt juist veel mogelijkheden voor de gezondheidszorg. AI kan bijvoorbeeld het nemen van beslissingen en het invoeren van data verbeteren en zo tijd vrij maken voor artsen en verpleegkundigen om te kunnen besteden aan patiëntenzorg.

Privacy waarborgen
“Het beschermen van de privacy van onze patiënten is een topprioriteit bij Amsterdam UMC, en dat is niet anders wanneer we AI-algoritmen ontwikkelen, testen of gebruiken”, zegt Mat Daemen, vice-decaan Research bij Amsterdam UMC. Om ervoor te zorgen dat AI op een veilige manier gebruikt kan worden, houdt dit project zich dus ook bezig met privacy kwesties. Er worden patiëntendossiers ontwikkeld die gebaseerd zijn op gesimuleerde informatie. Deze dossiers lijken op de echte patiëntendossiers waardoor het makkelijker is om te onderzoeken, terwijl de informatie van de ‘echte’ patiënten wordt beschermd.

“Eén van de belangrijkste knelpunten bij onderzoek in de gezondheidszorg is de toegang tot gegevens. AI heeft deze gegevens gestructureerd nodig, anders kan het niet zelflerend werken. Daarom bevatten de nagemaakte patiëntendossiers naast gestructureerde ook ongestructureerde gegevens, zoals de belangrijkste punten die in een consult bij de huisarts zijn besproken. Deze nagemaakte dossiers zijn dan wel niet van echte patiënten, toch kunnen deze gegevens heel nuttig zijn om onderzoekers en artsen makkelijker toegang te geven tot hoogwaardige gegevens uit de gezondheidszorg”, zegt Calixto.

Verantwoord Nederlands
Een ander knelpunt voor het gebruik van AI in de Nederlandse gezondheidszorg ligt meer voor de hand, namelijk de taal. Software, zoals ChatGPT, is gebouwd op taaldatabases en die zijn voornamelijk Engels. Door nieuwe modellen te bouwen die juist getraind zijn op Nederlandse medische dossiers, zal het project de betrouwbaarheid van bestaande modellen vergroten. Zo zijn ze makkelijker te gebruiken door professionals op de afdelingen of in de behandelkamer.

“Dit project maakt Amsterdam UMC één van de drijvende krachten achter innovatie in de gezondheidszorg, met kunstmatige intelligentie en NLP technieken. De hele Nederlandse gezondheidszorg, inclusief andere ziekenhuizen en universitaire medische centra, zullen profiteren van de resultaten van dit project”, aldus Calixto.

De verantwoordelijkheid van dit AI project beperkt zich niet alleen tot het bewaken van de privacy van patiënten. Het project richt zich ook op het verwijderen van alle aspecten van discriminatie en oneerlijkheid die nu mogelijk bestaan in bestaande AI-modellen. Voor Daemen is dit een voorwaarde voor het gebruik van AI in Amsterdam UMC, en een centraal onderwerp binnen dit project. “Binnen Amsterdam UMC en in de Amsterdamse regio zijn er al veel experts bezig met AI-tools, dit project is een belangrijke aanvulling op hun werk. Zo kunnen we samen AI op een veilige en werkzame manier introduceren en gebruiken.”

Bron: Amsterdam UMC