Holländsk sjukhusinfochef som medicinsk chatbot rullas ut: Låt oss inte reglera AI till döds

University Medical Center Groningen (UMCG) använder en AI-chatbot för att svara på de hundratals frågor som den får från patienter varje vecka för att underlätta arbetsbördan för redan överansträngda vårdgivare.

I början av december nådde EU:s beslutsfattare en politisk överenskommelse om AI Act , som kommer att bli ett globalt riktmärke för att reglera denna allt populärare teknik. Strax innan började UMCG-sjukhuset i norra Nederländerna använda AI för att svara på de hundratals frågor som det får från patienter.

Chief Medical Information Officer vid UMCG, Dr Tom van der Laan, uppmanade EU att inte överreglera artificiell intelligens för att tillåta tekniken att lätta på regionens hälsovårdsbegränsningar under en intervju med Euractiv.

”Låt oss inte reglera detta till döds. Det kan vara vår enda chans att snart få en viss nivå av sjukvård för äldre människor istället för att vara begränsade och av lägre kvalitet än vad vi är vana vid, säger van der Laan.

”Att inte kunna använda den här tekniken kommer att få allvarligare konsekvenser än att använda den och kanske överskrida riskprofilen lite”, tillade han.

Dr Chatbot

Läkaren går i spetsen för UMCG:s användning av AI, och den är den första i Europa som använder tekniken för att utarbeta svar på e-postmeddelanden från patienter som en vårdpersonal sedan kontrollerar innan de skickas.

Varje vecka får UMCG mer än 1 200 skriftliga frågor om olika ämnen, inklusive läkemedelsanvändning och smärthantering, vilket ökar den administrativa bördan för läkare och annan vårdpersonal.

Medan van der Laan berömde AI:s förmåga, sa han att sjukvården förblir mänskligt arbete.

”Artificiell intelligens kan stödja och göra arbetet lättare, men sjukvårdspersonal är oersättliga inom vården för tillfället”, sa han.

Ändå sa han att AI skulle förändra medicinområdet och att det kom vid en rimlig tidpunkt med åldrande befolkningar och färre människor med kompetens att ta hand om dem.

Mer tid med patienterna

Enligt van der Laan innebär vårdgivare som lägger mindre tid på administrativa uppgifter att de har mer tid med patienterna. Dessutom kan vårdgivare behöva vara korta i sina svar när de svarar på frågor via e-post på grund av deras enorma arbetsbörda.

AI:n kan kanske justera svaren för att få dem att låta mer empatiska – AI:n önskade en patient en trevlig semester i slutet av ett e-postmeddelande, en rad som kan ha blivit osänd av en läkare i all hast.

Van der Laan använder också AI för att hjälpa till med patientrundor och för att sammanfatta sina patienters läkemedelsförändringar.

”Det är som att ställa en fråga på mänskligt språk till en annan läkare. Det kommer att ge ett svar, säger van der Laan.

Det amerikanska företaget Epic utvecklade AI-applikationen, som även tillhandahåller sjukhusets elektroniska patientfilsmjukvara (EPD) och har ett strategiskt samarbete med Microsoft.

En talesperson för Epic berättade för Euractiv att AI-databehandling för europeiska kunder sker i en säker miljö i Europa.

”Hälsovårdsorganisationer i EU och runt om i världen använder våra AI-verktyg för att öka effektiviteten, göra klinikers arbetsliv enklare och roligare och förbättra patientupplevelsen”, sa de.

Den AI som användes under försöket var inte ett självlärande system, så chatboten lärde sig inte av patientdata. Den integrerades i EPD för att hålla patientdata säker, vilket gjorde den otillgänglig för leverantören. Den använder OpenAI:s GPT-4-modell, men de kan byta när som helst om det till exempel dyker upp en specifik medicinsk modell i framtiden.

Vid tvivel hänvisar AI patienter till människor

I Sverige inleddes en utredning efter att en triage-chatbot inte korrekt prioriterat en av fem patienter, som Euractiv rapporterat.

I Nederländerna sa van der Laan att istället för att ge felaktig information, sa deras modell ibland att den saknade den nödvändiga informationen för att ge ett korrekt svar, och i dessa fall rekommenderade den att en patient kontaktade en (mänsklig) vårdpersonal.

Leave a Reply

Din e-postadress kommer inte publiceras. Obligatoriska fält är märkta *