Hoe wordt AI gebruikt in de gezondheidszorg?

In de gezondheidszorg kan AI worden gebruikt om verschillende routinetaken uit te voeren en te verbeteren. Dit is mogelijk omdat AI op softwareniveau in staat is om een spectrum van menselijke cognitieve leer- en besluitvormingsprocessen kan nabootsen.

Dit heeft een aantal belangrijke voordelen voor medische professionals en hun patiënten. Het voornaamste voordeel is dat het repetitieve taken uit handen kan nemen van drukbezette artsen, zodoende kan er een snellere en meer gestroomlijnde gezondheidszorg aangeboden worden.

Hoewel er nog steeds vragen en zorgen zijn over het veilige en ethische gebruik van AI in de gezondheidszorg – en er onmiskenbaar behoefte is aan duidelijke richtlijnen en regelgeving voor de implementatie ervan – is er ook een groeiende bereidheid binnen de sector om AI in gebruik te nemen.

Hier zijn twee hoofdpijlers van AI-implementatie in de gezondheidszorg:

1. AI-besluitvorming: Een AI-algoritme dat getraind is op een specifieke dataset waar verschillende technieken bij worden gebruikt. Het doel ervan is om menselijke besluitvorming te ondersteunen, en het evolueert niet – het leert niet van nieuwe data en past zich dus niet aan nieuwe informatie en ontwikkelingen.
2. Autonome AI-besluitvorming: Dit type AI absorbeert en leert van nieuwe informatie – wellicht nieuwe patiëntgegevens – en gebruikt deze om te evolueren over een tijdsperiode. Bijvoorbeeld, het kan beter en beter worden in het voorspellen van de status van een ziektebeeld.
   Er is een breed scala aan AI-toepassingen mogelijk in de gezondheidszorg. Het kan worden gebruikt voor alles van foto-analyse via verschillende scanmethodes tot aan robotchirurgie. Het resultaat is een snellere, meer gepersonaliseerde gezondheidszorg met verhoogde efficiëntie.

Momenteel is de meeste regelgevende informatie omtrent AI in de gezondheidszorg nog in ontwikkeling en worden standaarden, richtlijnen en voorschriften nog opgesteld of bijgewerkt. Daarom is het belangrijk om op de hoogte te blijven van de veranderingen op dit gebied.

Nu moeten medtech bedrijven weten dat alle software die medische professionals ondersteuning biedt bij het nemen van beslissingen, moet voldoen aan de MDR.

Valt AI onder de MDR?

Het korte antwoord is ‘ja’. De MDR definieert software als een reeks instructies die invoergegevens verwerkt en uitvoergegevens creëert. Software in de gezondheidszorg wordt op verschillende manieren gecategoriseerd.

Het definiëren van software als medisch hulpmiddel (SaMD) is sterk afhankelijk van het beoogde doel van het product. Software kan worden beschouwd als een medisch hulpmiddel op zichzelf; het kan een medisch hulpmiddel aansturen of beïnvloeden - zoals software die een robotarm bedient; of het kan worden gedefinieerd als een accessoire dat wordt gebruikt in combinatie met een medisch hulpmiddel.

Software die een handeling uitvoert op patiëntgegevens valt niet noodzakelijkerwijs onder de MDR. Neem als voorbeeld een ‘Electronic Patient Record System’ of elektronisch patiëntendossier (EPRS). Het slaat patiëntgegevens op of draagt ze over. Zelfs als AI helpt bij het efficiënter opslaan of overdragen van gegevens, is het beoogde gebruik niet medisch.

In grote lijnen valt alle software, inclusief AI, die een directe impact heeft op de zorg voor de patiënt waarschijnlijk onder de MDR en moet deze volledig gevalideerd worden. Dat betekent dat de risicoklasse moet worden bepaald – meestal klasse IIA of hoger – afhankelijk van het potentiële risico voor de patiënten.

Zijn er AI-producten goedgekeurd voor de EU-markt?

Hoewel het uitdagend kan zijn om een medisch hulpmiddel met AI-integratie uit te brengen op de markt, is het zeker niet onmogelijk. Ter voorbeeld, een product uit de Verenigde Staten – met AI-integratie – is onlangs goedgekeurd voor introductie op de EU-markt. Het product, wat patiënten in staat stelt om glucose bloed levels te testen, kan toekomstige levels voorspellen en suggereert vervolgens acties om deze levels af te laten nemen.

Een ander product dat inzichten geeft in cellulaire afwijkingen, zoals kanker, is ook goedgekeurd. Het is een in-vitro diagnostiek product dat gebruik maakt van AI om patiënten te diagnosticeren. Deze is goedgekeurd in zowel de Verenigde Staten als de EU.

Een groot obstakel voor AI-innovatie binnen medtech is ‘change management’. Feit is dat elke verandering die wordt doorgevoerd, moet worden gedocumenteerd en gerapporteerd. Echter, als AI constant leert en evolueert – per uur, of zelfs per minuut – is het uitvoeren van ‘change management’ ondoenlijk.

Deze restrictie smoort innovatie en verlaagt de ontwikkelingssnelheid. Er is gelukkig een alternatief waar gebruik van gemaakt kan worden. Verbeteringen aan een algoritme kunnen worden getest, gedocumenteerd en daarna – met formele goedkeuring – worden uitgebracht middels een update.

De impact van deze aanpak is een weliswaar langzamer, maar veiligere en iteratieve ontwikkeling van AI voor medische hulpmiddelen. Dit betekent wel dat volledig autonome AI voor medische hulpmiddelen nog niet mogelijk is, al zal dat in de toekomst snel veranderen. Waarschijnlijk zal worden besloten om autonome AI te gebruiken met strenge controles en parameters om zo een tussenweg te vinden tussen innovatie en patiënt veiligheid. Een vooraf vastgesteld risico is dus toegestaan en ingeperkt.

Wat is de toekomst van AI in medische hulpmiddelen?

Op dit moment zijn de Verenigde Staten voorlopers op het gebied van regelgeving van autonome AI geïntegreerd in medische hulpmiddelen. De FDA is bezig aan regelgeving voor ‘change control’ dat bedrijven in staat moet stellen om alle mogelijke processen die AI kan uitvoeren te documenteren. Dit zou kunnen leiden tot een robuust systeem voor het valideren en implementeren van aanpassingen aan AI op een manier die het voortbestaan van patiëntveiligheid garandeert.

Daarbij wordt het ook verplicht om een grondige risicoanalyse uit te voeren over de impact van mogelijke veranderingen door AI. Om een product met autonome AI uit te brengen, is het noodzakelijk om risico’s en voordelen secuur uiteen te zetten in een technisch document. Voor medtech bedrijven is het een goede zaak om alvast voorbereidingen te treffen voor de AI Act, die naar alle verwachting in 2024 arriveert.

De AI Act van de EU zal een eigen risico classificatiesysteem hebben voor AI-producten. De risiconiveaus zullen worden gebaseerd op de impact dat een algoritme kan hebben op gebruikers. Er wordt ook verwacht van bedrijven om mogelijke ongewenste bias in ‘Machine Learning’ (ML) te beperken.

Als een AI-model bijvoorbeeld getraind wordt op een dataset waarin alleen mannelijke patiënten voorkomen, kan het leren om onbedoeld tegen vrouwelijke patiënten te discrimineren. Dit is waarom het voor elk product dat AI gebruikt van uiterst belang is om gevalideerd te worden via een uitgebreide klinische evaluatie, zodat het uiteindelijk commercieel veilig gebruikt kan worden. 

Advies over het integreren van AI in medische hulpmiddelen.

Het precedent voor het gebruik van AI in medische hulpmiddelen is al geschapen. Het is duidelijk dat er uitgebreide documentatie en validatie vereist is voor AI kan worden goedgekeurd voor de EU.

Een robuuste strategie voor ‘Post Market Surveillance’ moet worden gepland en uitgevoerd om te garanderen dat autonome AI geen schadelijke bias ontwikkelt. Met dat in het achterhoofd, is hier ons advies voor innovatieve medtech bedrijven die AI-integratie als doel hebben:

• Bereid een gedetailleerd technisch document voor
• Verifieer en valideer uw model
• Zorg ervoor dat u een robuust risicomanagement systeem heeft
• Voer een grondig klinisch onderzoek of evaluatie uit
• Creëer vooraf een strategie voor ‘change management’ voor uw AI-product
• Beschrijf een uitgebreide ‘Post Market Surveillance’ strategie
• Zorg voor compliance met internationale standaarden, zoals GDPR
• Vraag uw Notified Body hoe zij de AI-ontwikkelingen incorporeren in hun beleid

Bij Peercode Regulatory Consultancy helpen wij bedrijven die medische hulpmiddelen ontwikkelen en faciliteren – waaronder bedrijven die AI willen integreren in medische hulpmiddelen – om soepel door de MDR te navigeren. Praat met een specialist om de mogelijkheden te bespreken.

Als u geïnformeerd wilt blijven van onze aankomende blogs, abonneer hier om een nieuwe blog als eerste te ontvangen.