Li Felländer-Tsai är professor och överläkare i ortopedi och en av tre läkare bakom rapporten. 

I rapporten beskriver ni ett paradigmskifte inom sjukvården i och med den tekniska utvecklingen. Vad innebär det?

– Ny teknik som till exempel nya visualiseringsmetoder, simulering och AI, måste matchas med nya arbetssätt, utbildning och forskning. Samtidigt är introduktionen av ny teknik snabbare än uppdateringen av utbildningen. Det är inte unikt för hälso- och sjukvården, men i och med att vi har patientsäkerheten som vår ledstjärna är det angeläget. Man kan jämföra med Boeing 737 Max 8-planen som fick en ny bränslesnålare design, men samtidigt fick andra flygegenskaper som inte tränades och medvetandegjordes, säger Li Felländer-Tsai.

Ni skriver att det kommer att kräva andra arbetssätt och systematisk träning. Kan du berätta mer om det?

– Till exempel systematisk träning med hjälp av simulatorer. Gränssnittet mellan tekniken och människan är viktigt. Träningen måste integreras i utbildningen så att människa-maskininteraktionen kan säkerställas på ett ändamålsenligt sätt. 

Fler kliniska träningcentrum byggs och ni förutspår att patientsimulering får en mycket viktig roll i utbildningen framöver. Samtidigt efterlyser ni en nationell samordning.

– Ja, det måste finnas kvalitetskrav. Nu finns en europeisk ackreditering vilket är ett steg i den riktningen. I utvärderingen ingår infrastruktur, organisation, lärarnas kompetens och metodiken för hur man använder apparaterna – inte maskinparken i sig. 

Vilka risker finns om man använder dem fel?

– Då finns risk att man befäster felaktiga beteenden som inte gynnar patientsäkerheten.

Ni skriver att artificiell intelligens, AI, har stor potential och att en snabb expansion nu sker inom sjukvården. Samtidigt har den kritiska granskningen och etiska diskussionen inte riktigt hängt med.

– Det finns generellt en ganska ytlig kunskap i sjukvården i stort om vad AI innebär och det finns en risk att det blir en hajp och man inte fullt ut förstår konsekvenserna. Att man bara tror att algoritmen fixar allt och inte förstår att validering och datasetets kvalitet som tränar AI är minst lika viktig. Nya kunskaper inom statistikområdet blir också viktiga.

Vad kan det leda till?

– Det finns en stor risk för att det blir en skevhet. Ansiktsigenkänning är ett exempel. Det finns olika applikationer som har tagits fram på ett dataset som inte är relevant för hela befolkning. Används de utan att man förstår begränsningarna i dem, hamnar man helt fel. Sedan finns det förstås etiska problem: är personerna vars data används för att träna en AI tillfrågade? 

Ni pekar också på att AI kräver tydliga ansvarsförhållanden och att det i dag finns juridiska gråzoner som måste redas ut när AI blir en del i mötet mellan läkare och patient.

– Det är delvis oreglerat i dag. Om det är ett medicintekniskt hjälpmedel, vem bär till exempel ansvaret om det används på fel sätt eller om produkten inte är validerad? Det finns många etiska aspekter som måste diskuteras och där professionen måste involveras.

På vilka områden kan sjukvården främst vinna på att använda AI?

– Till exempel inom bildtolkning av vissa typer av röntgenbilder och histologiska bilder för automatiserad bildgranskning. Olika triagemodeller och beslutstöd kan också fungera bra – om de är validerade. Men det kan också bli väldigt fel.

Hur ser framtidens läkarroll ut?

– Det blir oftast fel när man försöker sia om framtiden. Men för att få ut det bästa ur AI tror jag det är viktigt att titta på och lära sig av projekt som inte gått så bra. Som IBM:s projekt med Watsondatorn och varför det inte fungerade som man först tänkt. 

2021 får vi en ny legitimationsgrundande läkarutbildning. Vad krävs för att framtidens läkare ska hänga med i den tekniska utvecklingen?

– Det finns förstås många krav. Kunskapen av vad AI innebär – även utifrån ett etiskt och humanistiskt perspektiv – är en vit fläck för väldigt många inom läkarprofessionen. Utöver detta är förstås förmågan till kritisk granskning viktig. Det måste genomsyra hela kedjan av utbildning, på grundnivå, avancerad nivå och fortbildningsnivå. Man måste samverka mellan olika discipliner och professioner.

De andra läkarna som skrivit SNS-rapporten är Annika Östman Wernerson och Anders Bergenfelz.