Corrette Ploem is bijzonder hoogleraar recht, zorgtechnologie en geneeskunde aan de faculteit der rechtsgeleerdheid van de Universiteit van Amsterdam. Een nieuwe leerstoel, gevestigd door artsenfederatie KNMG. Afgelopen mei hield ze onder de titel Goed recht voor zorgtechnologie haar oratie.
Credit foto Ploem: Kirsten van Santen
In haar oratie ging Ploem in op de vraag wat ‘goed recht’ is voor zorgtechnologie. Ze definieert dit als: recht dat waarborgt dat technologie op verantwoorde wijze in de praktijk landt en functioneert. Ze besprak dit in haar oratie aan de hand van 4 centrale thema’s binnen het gezondheidsrecht: informed consent, zeggenschap over eigen gegevens, kwaliteit en veiligheid van zorg en het tegengaan van commercialisering.
Informed consent
Ook in de toekomst moet ruimte blijven bestaan voor het niet gebruiken van technologietoepassingen voor informed consent als Mijn Dossier of PGO (persoonlijke gezondheidsomgeving), stelt Ploem. Maar is dit een discussiepunt, ligt een verplichting op de loer? “Een verplichting niet”, zegt ze. “Maar een situatie waarin het moeilijk wordt het niet te gebruiken is wel denkbaar. Het sluipt erin. Bijvoorbeeld dat de patiënt zelf actie moet ondernemen om uitslagen via Mijn Dossier te vernemen. Ook lijken PGO’s een centrale rol te gaan vervullen bij de beoogde Europese uitwisseling van gezondheidsgegevens. Als de patiënt met genoemde technologietoepassingen moeite heeft, kan het een uitdaging worden om nog dezelfde kwaliteit van zorg te garanderen. Hetzelfde geldt voor artificial intelligence (AI). Als een patiënt niet wil dat dit wordt gebruikt voor analyse van zijn CT-scan, is het dan nog mogelijk voor de arts om dezelfde deskundigheid en kwaliteit te leveren? Vanwege hun verantwoordelijkheid om goede zorg te leveren zullen zorgaanbieders zich moeten inspannen om hun patiënten mee te nemen in zulke ontwikkelingen én om toch, bij uitzondering, zorg te blijven bieden als de patiënt wil afzien van de toepassing van die technologie.”
Wat zijn in dit perspectief de mogelijkheden en begrenzingen van een chatbot? “Die kan een heel goede aanvulling op de zorg zijn”, zegt Ploem. “Gelet op het recente onderzoeksresultaat dat die volgens artsen en verpleegkundigen empathischer medische vragen kan beantwoorden dan een arts, kan een arts er misschien ook wat van leren. De kwaliteit moet dan wel gelijkstaan aan wat de arts kan leveren. Ook moet rekening worden gehouden met de context. Loutere informatieverstrekking aan een bezoeker van een gezondheidsplatform is niet hetzelfde als informatieverstrekking binnen een behandelrelatie waarvoor de arts verantwoordelijkheid draagt. In dat laatste verband houdt informeren immers ook in dat hij in een persoonlijk gesprek met de patiënt nagaat of hij de informatie heeft begrepen en hoe hij erop reageert. Het menselijke contact – kenmerkend voor de zorg – mag niet verloren gaan.”
Ploem stelt verder dat de patiënt moet weten hoe hij een app of wearable verantwoord kan gebruiken en wat de belangrijkste risico’s zijn. Is dit – gelet op de overstelpende hoeveelheid van de beschikbare apps en wearables – een reële eis? “In de setting waarin een arts zo’n app of wearable voorschrijft in ieder geval wel”, zegt ze. “Maar in breder verband is de markt voor die toepassingen wel iets om je zorgen over te maken. Aan de AI die erin wordt verwerkt moeten eisen worden gesteld. De AI-act van de Europese Commissie verkeert nu in de laatste fase, die zal op dit gebied belangrijk worden.”
Zeggenschap over eigen gegevens
Bij het tweede thema, de zeggenschap over eigen gegevens, is de discussie over opt-in (vooraf toestemming geven voor datagebruik) of opt-out (gebruik van data is toegestaan tenzij de patiënt aangeeft dit niet te willen) actueel. “Het is belangrijk die discussie zuiver te voeren”, zegt Ploem hierover. “Het kan gaan om data-uitwisseling voor zorgverlening of voor wetenschappelijk onderzoek. Dat onderscheid moet gehandhaafd blijven. ‘Je gebruikt zorg dús je doet mee aan onderzoek’ lijkt me geen goed uitgangspunt. Onderzoek is vaak internationaal en in samenwerking met de industrie. Daarin moet je de patiënt niet diens autonomie ontnemen, dus het is zaak hierin een goed midden te vinden. Dat je in een ziekenhuis globaal toestemming geeft voor niet-gevoelig onderzoek dus. En dat soepel wordt omgegaan met situaties waarin dit niet mogelijk is, bijvoorbeeld omdat de patiënt met spoed moest worden geholpen. Dan moet er ruimte zijn voor afwijking van het toestemmingsprincipe. Maar wel met goede informatieverstrekking aan het individu. En met ruimte om te weigeren dat je data wordt gebruikt.”
Kwaliteit en veiligheid van zorg
In relatie tot AI is aansprakelijkheid een belangrijke kwestie. De verantwoordelijkheid van artsen voor hun medische besluitvorming strekt zich in beginsel ook uit tot de daarbij gebruikte technologie. Kernvraag is in welke situaties zorgverleners aansprakelijk zullen zijn voor schade die is ontstaan door gebruik van gebrekkige AI-systemen. Dit verdient dringend nader onderzoek, stelt Ploem. Zijn artsen zich voldoende bewust van die aansprakelijkheid in relatie tot hun huidige gebruik van AI? “AI is een medisch hulpmiddel van de hoogste risicoklasse”, zegt ze. “Een beslisregel in een systeem – de simpele AI dus – is niet zozeer het probleem. De risico’s zitten vooral aan de meer geavanceerde systemen, de ‘deep learning’-systemen. Die worden nog niet echt gebruikt, maar zijn wel volop in ontwikkeling. Voor zover ik kan overzien vanuit mijn betrokkenheid bij Europese projecten is de medische praktijk zich ten volle bewust dat gebruik van AI ook in dit opzicht geen simpele kwestie is. De arts moet uiteindelijk goede zorg bieden, rekening houdend met alle wet- en regelgeving. Het gaat erom AI alleen te gebruiken omdat het iets toevoegt aan de zorg en niet louter omdat het nieuw is. We moeten hier kritisch naar blijven kijken en toezicht houden op het gebruik. Wat we niet moeten willen, is dat meer geavanceerde AI-systemen als zelfstandige entiteiten gaan functioneren en de rol van de arts overnemen. De arts blijft verantwoordelijk. Dit vraagt ook om duidelijke afspraken tussen ziekenhuizen en leveranciers of producenten. De patiënt mag geen slachtoffer worden van een systeem waarin voor tekortschietende zorg bij wijze van spreken niemand meer aansprakelijk te stellen is.”
Tegengaan van commercialisering
Bij het thema ‘tegengaan van commercialisering’ noemt Ploem 2 voorbeelden van ongewenste commerciële invloeden. Het eerste is de casus van de cardiologen die op een mogelijk te ruime indicatie inwendige devices tegen hartritmestoornissen plaatsten. Het tweede is het toenemende internetaanbod van preventieve hulpmiddelen en diensten. Op zich begrijpelijk, maar ook zonder technologie kunnen artsen oneigenlijk handelen en kunnen mensen verkeerde beslissingen nemen. Betekent het feit dat het over zorgtechnologie gaat dat hierover aanvullende maatregelen moeten worden genomen om tot ‘goed recht’ te komen? Ploem denkt van wel. “Neem de groeiende markt van wearables en apps: die heeft een aanzuigende werking op burgers”, zegt ze. Als het er is, willen veel mensen het ook gebruiken. Naar mijn idee vraagt dit om een kritische blik van overheid en wetgever om uitwassen op de markt van health checks tegen te gaan. Daarbij is het ook zaak te voorkomen dat mensen te snel patiënt worden. We moeten ervoor uitkijken dat we door de mogelijkheden die AI biedt – zoals het nauwgezet kunnen monitoren van het verloop van een ziekte – patiënten te snel medicaliseren als die met enkele simpele leefregels thuis ook goed uit de voeten kunnen.”
Refererend aan het voorbeeld van de cardiologen stelt Ploem dat het zaak is te voorkomen dat behandelaars financiële prikkels hebben om gebruik te maken van zorgtechnologie. “De oplopende zorgkosten worden voor een groot deel door het gebruik van technologie veroorzaakt.”
Kijkend naar de toekomst
Concluderend, is in de huidige klinische praktijk onvoldoende sprake van kennis over wat ‘goed recht’ is voor zorgtechnologie? “Mijn waarneming is dat de zorg zich heel goed realiseert dat je zorgtechnologie niet zomaar kunt invoeren”, zegt Ploem. “Ik heb in mijn oratie een eerste verkenning gedaan naar wat goede regels zijn voor gebruik van zorgtechnologie, in het bijzonder van de meer geavanceerde AI-systemen. Onderzoek op in elk geval de 4 thema’s die ik in mijn oratie besproken heb, is nodig. Via multidisciplinaire samenwerking zullen we nog echt een beetje moeten uitvinden met elkaar wat goede regels zijn voor technologie. Dit onderzoek is belangrijk om ‘maatschappelijk verantwoord’ te kunnen innoveren en is een aandachtsgebied in het kader van mijn hoogleraarschap.”
De ontwikkelingen in zorgtechnologie moeten ook gevolgen hebben voor de geneeskundeopleiding, stelt Ploem. “De arts moet op hoofdlijnen kennis hebben over de werking, de kwaliteit, de verantwoordelijkheid, de aansprakelijkheid en het patiëntrecht”, zegt ze. “En hij moet er in de spreekkamer mee kunnen omgaan. Want daar komt het uiteindelijk bij zorgverlening op aan”, besluit ze.
Zorgtechnologie en de rol van de patiënt
Hoewel zorgtechnologie een steeds grotere rol speelt in de zorg, is Ploem terughoudend op het punt van de verantwoordelijkheid die dit voor de patiënt met zich meebrengt. “Met eigen verantwoordelijkheid ben ik altijd een beetje voorzichtig”, zegt ze. “Wie ziek is, heeft zorg nodig. Patiënten moeten zich vrij blijven voelen om de zorg te benaderen. Verantwoordelijkheid voor je eigen gezondheid is er natuurlijk, maar het is de vraag of iedereen die even goed kan dragen, zeker in de situatie van patiënt zijn. Het is een belangrijk aspect dat we meenemen in ons onderzoek naar de verantwoorde invoering van zorgtechnologie.”