Voor de medische hulpmiddelenindustrie komen uit het gebruik van AI twee belangrijke uitdagingen voort. Ten eerste, hoe u AI-schrijfhulpmiddelen kunt gebruiken om regelgevingsdocumenten te maken. Ten tweede, hoe zorg je voor een veilige en effectieve implementatie van AI in ‘software als medisch hulpmiddel’ of als onderdeel van een fysiek apparaat.

Dit is ons standpunt over de huidige stand van zaken voor AI op het gebied van medische hulpmiddelen regelgeving en hoe dit ethisch, veilig en productief kan worden gebruikt.

AI assistentie voor wettelijke documentatie

AI-schrijfhulpmiddelen zijn al enige tijd op de markt – grotendeels ontworpen om de grammatica te corrigeren en de helderheid te verbeteren. In veel sectoren worden AI-chatbots gebruikt om menselijke schrijvers te helpen, van het maken van de eerste versie van een document tot het samenvatten van complexe artikelen.

Een Notified Body acht het noodzakelijk dat de documentatie en het technische dossier voor de EU Medical Device Regulation (MDR) duidelijk en begrijpelijk is. Als je niet oppast, kan het gemakkelijk te technisch en moeilijk te lezen worden. Het moet de juiste balans bevatten tussen technische nauwkeurigheid en duidelijkheid.

Een AI-chatbot zoals OpenAI's ChatGPT kan het schrijfproces ondersteunen en helpen om belangrijke informatie samen te vatten en te vereenvoudigen. Het kan fungeren als een editor – het kan uw tekst controleren om er zeker van te zijn dat deze leesbaar is. Daarnaast kan het inspiratie bieden - het biedt suggesties om u te helpen een zogenaamde writer’s block te overkomen. Het heeft ook waarde als onderzoeksinstrument – zoals een zoekmachine – om onbekende terminologie of concepten te helpen verklaren.

Door AI gegenereerde documentatie is mogelijk, maar de uitvoer door AI moet altijd door een mens worden bewerkt. Dat geldt met name voor de complexe wettelijke documentatie die nodig is voor een medisch hulpmiddel. Een AI-chatbot kan een plausibel klinkende kopie aanbieden, maar is mogelijk niet feitelijk juist en kan belangrijke details missen die relevant zijn voor uw hulpmiddel. Het kan subtiele nuances, die per project en per persoon veranderen, niet begrijpen, zoals de definitie van ‘klinische relevantie’.

Het komt erop neer: volg niet simpelweg AI en laat hierbij uw eigen processen niet vallen. Het is een beetje zoals het gebruik van satellietnavigatie. Gebruik de informatie om u te helpen, maar vertrouw op uw eigen gezond verstand en intelligentie voor het nemen van belangrijke beslissingen. En vergeet niet dat u voor sommige belangrijke informatie-elementen de daadwerkelijke gegevensbron moet kunnen identificeren!

Implementatie van AI in software als medisch hulpmiddel

Wanneer in de EU een AI- of ML-component in een stuk software een medisch doel heeft, wordt het onderworpen aan de MDR. Dus een kruising tussen de MDR en de nieuw goedgekeurde regels voor transparantie en risicobeheer voor AI-systemen (EU AI Act) is waarschijnlijk.

Het implementeren van AI in software als een medisch hulpmiddel (SaMD) is geen gemakkelijke klus. Volgens de EU MDR moet elke update van software goed worden gedocumenteerd om ervoor te zorgen dat er geen nieuwe risico's zijn en dat nieuwe functionaliteit werkt zoals bedoeld.

AI is ingedeeld in verschillende subsets, waaronder ML – waarbij een computer leert van een dataset. Er is ook geautomatiseerde ML, wanneer de AI continu leert. Elke AI in software als een medisch hulpmiddel, dat leert van het gedrag van gebruikers, zal voortdurend worden bijgewerkt en leren, waarbij de algoritmen worden verfijnd. Volgens bestaande richtlijnen zou dat een constante update van de documentatie vereisen - wat niet haalbaar is. Maar als er geen controles worden uitgevoerd, kan dit niveau van vrijheid ervoor zorgen dat AI snel uit de hand loopt en uw apparaat niet meer voldoet.

Er is dus een discrepantie tussen de EU MDR en hoe AI en ML functioneren (en waarde toevoegen aan een product). Een oplossing is om het algoritme voor een specifieke release te vergrendelen. Dat betekent dat het algoritme hetzelfde blijft – het leert geen nieuwe dingen – en de leverancier behoudt de controle over de output. Daarmee gaat echter het doel verloren van AI in een product dat al op de markt is: continue verbetering van de gezondheidszorg die aan de patiënt wordt geboden. Dit laatste kan dan alleen worden ingevoerd via wijzigingen, die vaak onderhevig zijn aan kennisgeving en toetsing door toezichthoudende instanties.

Er zijn al een handvol hulpmiddelen op de EU-markt met een ML-component. Ter vergelijking: de Amerikaanse Food and Drug Administration (FDA) heeft al meer dan 500 AI/ML-medische hulpmiddelen goedgekeurd, geautoriseerd of vrijgegeven. Dit omvat stand-alone software of software als onderdeel van medische hardware.

Wat uw bedrijf in medische hulpmiddelen nu kan doen

De aankomende AI-wet van de EU is nog ver weg. Dus wat kan uw bedrijf in medische hulpmiddelen doen om zich voor te bereiden?

Ten eerste moet u op de hoogte blijven van de laatste richtlijnen over het gebruik van AI in medische hulpmiddelen. Het is zeer waarschijnlijk dat de AI-wet duidelijke gebruikerscontroles en bewustzijn van het juiste gebruik van de software zal waarderen. Dit is overlappend met de MDR, die sterk de nadruk legt op gebruiksaanwijzingen en begeleidende documenten.

Ten tweede dekt de naleving van de MDR al bepaalde aspecten van AI. Denk aan uw risicomanagementsystemen, verificatie en validatie, klinische evaluatie en/of post-market surveillance activiteiten. Gebruik de MDR in uw voordeel. Uw documentatie in orde brengen voor de MDR zal vrijwel zeker in uw voordeel zijn wanneer de AI-wet van kracht wordt.

Ten derde kan post-market surveillance u helpen bij het plannen van updates en prestatiecontroles van de AI, net als bij elk ander softwareonderdeel. Dit helpt u controle te houden over hoe het zich gedraagt.

Tot slot, omdat AI afhankelijk is van grote hoeveelheden data, zal de nieuwe AI-wet waarschijnlijk ook overlap vertonen met de Algemene Verordening Gegevensbescherming (AVG). Laat u hier dus goed over informeren en ken uw hiaten.

De Amerikaanse FDA loopt voorop

Zoals gezegd loopt de Amerikaanse FDA al voorop als het gaat om het accepteren en reguleren van AI/ML in medische hulpmiddelen. Een belangrijk punt uit hun huidige richtlijnen voor Good Machine Learning Practices (GMLP) is ervoor te zorgen dat u uw trainingsdataset en testdataset gescheiden houdt voor validatiedoeleinden, en documenteert hoe GMLP tijdens de ontwikkeling wordt gevolgd. Daarnaast, als je een AI laat leren, moet je de grenzen beheersen en de risico's blijven valideren, en ervoor zorgen dat je dataset de beoogde gebruikerspopulatie vertegenwoordigt.

De Amerikaanse FDA heeft ook een nieuw regelgevingskader voorgesteld voor de wijzigingen van op AI/ML gebaseerde software als medisch hulpmiddel. Het stelt voor dat fabrikanten een 'change control plan' moeten indienen voordat de hulpmiddelen op de markt worden gebracht. Dit plan definieert vooraf de soorten toekomstige aanpassingen aan het hulpmiddel en beschrijft de methodologie en validatie die zullen worden geïmplementeerd om continue veiligheid en effectiviteit te garanderen. Het vereist ook een impact beoordeling voor dergelijke geplande wijzigingen. Op dit moment is dit de sterkste indicatie van wat u kunt verwachten van aankomende AI-regelgeving, ook voor de EU-markt.

Heeft u deskundige hulp nodig bij het naleven van de regelgeving voor uw medische hulpmiddel? Praat vandaag nog met een van onze specialisten.