Pēteris Apinis: Mākslīgais intelekts un ārsta modrība šī intelekta sniegto secinājumu un ieteikumu interpretācijā 38
Pēteris Apinis

Neticami strauji medicīnā ienāk mākslīgais intelekts, pie kam tas ārsta praksē nāk gan pa durvīm, gan kāpj pa logu. Pa durvīm tas ienāk, analizējot magnētiskās rezonanses attēlus, elektrokardiogrammas vai laboratoriskās analīzes, bet pa logu – ar nepamatotām reklāmām medikamentiem un uzturbagātinātājiem. Gan šo rindu autoram, gan maniem kolēģiem laiku pa laikam nākas ieraudzīt savu attēlu pie kaut kādas nejēdzīgas reklāmas. Es neesmu pazīstams ar ļoti skaisto aktrisi Agnesi Zeltiņu, taču internetā klīst mākslīgā intelekta uzprojektēts stāsts un bilde – it kā es esot nozīmējis aktrisei tievēšanas zāles (kuras nu nekādi nevar samazināt svaru).

Reklāma
Reklāma
Kokteilis
6 lietas, ko nedrīkst aizdot citiem, lai nezaudētu savu laimi un veiksmi
Kokteilis
“Kad Sīrija kritīs…” Aklā gaišreģe Vanga pareģojusi nemierus Sīrijā, taču pravietojuma turpinājums ir vēl biedējošāks… 7
“Par ko mēs maksājam nodokļus?” Vīrietis paliek “uz gultas”, jo ģimenei nav iespējas samaksāt par NMPD izsaukumu
Lasīt citas ziņas

Mākslīgā intelekta integrācija ikdienas diagnostikā, ārstniecībā un klīniskajā aprūpē kļūst arvien straujāka. Ietekme, ko ģeneratīvā mākslīgā intelekta un mašīnmācīšanas rīki atstāj uz veselības aprūpes nozari, ir ļoti būtiska un jau šobrīd var (bet nākotnē daudz vairāk spēs) līdzēt kā pakalpojumu sniedzējiem (ārstiem, farmaceitiem), pacientiem un finansētājiem. Mākslīgā intelekta izmantošana veselības aprūpē turpina palielināties, un pētījumi apstiprina tā efektivitāti hronisku slimību diagnosticēšanā, personāla efektivitātes palielināšanā un aprūpes kvalitātes uzlabošanā, kā arī dažās jomās – resursu optimizācijā.

Kā neapstrīdamu tēzi es vēlos norādīt, ka mākslīgais intelekts jau šodien plaši tiek izmantots veselības aprūpē, lai palīdzētu diagnosticēt pacientus, zāļu atklāšanā un izstrādē, ārsta un pacienta saziņas uzlabošanā, medicīniskos dokumentu piepildīšanā. Tā kā parasti ir pieejami lieli datu apjomi, tostarp, attēli, kurus var piemērot precīzi definētām problēmām, mākslīgais intelekts var veiksmīgi diagnosticēt stāvokļus, kam nepieciešami vizuāli salīdzinājumi. Kā piemēru vēlos minēt Google izstrādātais rīks, kas ļauj diagnosticēt un novērtēt diabētisko retinopātiju. Izmantojot mākslīgā intelekta asistentus un tērzēšanas robotus, var uzlabot arī pacientu pieredzi, palīdzot pacientiem atrast pieejamos ārstus, plānot vizītes un pat atbildēt uz dažiem pacientu jautājumiem.

CITI ŠOBRĪD LASA

Mākslīgais intelekts angliski runājošās valstīs jau šobrīd mēdz pārskatīt pacienta slimības vēsturi, mēdz ierakstīt dokumentos ārsta piezīmes, bet nereti sniedz pacientam noradījumus gan dzīvesveida ievērošanā, gan medikamentu lietošanā. Mākslīgais intelekts drīzumā palīdzēs pieņemt svarīgus klīniskos lēmumus, piemēram, noteikt diagnozes un ieteikt terapiju klīniskajiem speciālistiem. Patiesībā esmu jau iepazinies ar programmām, kas veiksmīgi atbild uz jautajumiem – par ko būtu jādomā, ja analīzēs redzam šo, pacienta sūdzības vēsta par to, bet radioloģiskā atradne neatrod neko. Ja mēs ar kolēģi, profesoru Andreju Ērgli pirms pieciem gadiem plaši diskutējām un rakstījām par personalizēto medicīnu, tad mēs nevarējām pat iedomāties, kā ļoti ātri šajā jomā ienāks mākslīgais intelekts un spēs sniegt tikai konkrētajam pacientam būtisku ārsniecības ceļa karti.

Mākslīgais intelekts no atsevišķa, jauna ieguldījuma pārtapis par kaut ko daudz izplatītāku, ierastāku un tajā pašā laikā – smalkāku. Šāda evolūcija šķiet pievilcīga, jo mēs taču vēlamies, lai uzticama tehnoloģija, internets un programmatūra klusi darbotos fonā, veicinot cilvēka centienus. Tomēr praksē mākslīgā intelekta rezultāti nebūt nav perfekti, jo ne viss, kas ievadīts internetā un programmatūras izstrādē ir perfekts. Tad nu pienācis brīdis ārstam pārbaudīt vispārēji uzticamu tehnoloģiju sniegtos priekšlikumus vai rezultātus. Un šeit rodas otrā problēma – cilvēki nebūt nav perfekti, pat, ja viņiem ir uzdots pārbaudīt mākslīgā intelekta priekšlikumu vai atbildi divreiz.

Ja mākslīgais intelekts būtu 100 % precīzs un pilnībā uzticams, klīnicists ātri iemācītos uzticēties tehnoloģijai, bet šajā gadījumā klīnicists kļūtu lieks kā diagnosts vai ārstniecības persona. Bet otrādi – ja mākslīgais intelekts darbosies slikti, bieži pieļaus klūdas un neprecizitātes, klīnicists pārtrauks izmantot makslīgā intelekta rezultātus.

Šo rindu autoram sķiet, ka paredzamā nākotnē, teiksim nākošos 20 gadus, mākslīgā intelekta sniegtie rezultāti atradīsies kaut kur pa vidu starp 100% precizitāti un neuzticamību.

Mākslīgā intelekta sniegtie padomi būs pietiekami precīzi, lai būtu noderīgi, bet pietiekami nepilnīgi, lai klīnicistam tie nebūtu dubulti jāpārbauda, līdz pašam jāuzņemas atbildību par galīgo atziņu, rīkojumu vai diagnozi, kā arī par iespējamām kļūdām. Mākslīgā intelekta modrību sauksim par ārsta modrību (par to nedaudz vēlāk). Taču šo modrību mazina fakts, ka mākslīgā intelekta kļūdas allaž būs apvītas ar pareizu informāciju, pasniegtas labā sarunvalodas vai vēl biežāk – autoritatīvā tonī.

Reklāma
Reklāma

Ar lielu varbūtību jau tuvākajā desmitgadē ārstu modrība mazināsies, kontrolējot mākslīgā intelekta ieteikumus un secinājumus, es pieļauju, ka šīs modrības kļūdainība pastiprināsies. Prasība ārstam būt par parasti precīza, bet periodiski kļūdaina mākslīgā intelekta nevainojamu dubultkontrolieri ir sistēma, kurai lemts pietiekami bieži ciest neveiksmi, lai būtiski apdraudētu mākslīgā intelekta drošību, vērtību un atzīšanu. Mūsdienu programmētājiem ir jāparedz šis apdraudējums, jāatrod veidi, kā to mazināt.

Šo rakstu gatavojot, iepazinos ar Latvijas veselības organizatoru, politiķu un ierēdņu atziņām, kas izteiktas lielākoties bez speciālas iedziļināšanās jomā. Izskatās, ka politiķi, veselības aprūpes organizatori un finansisti sagaida, ka ārsti, ieguvuši mākslīgā intelekta ieročus, pieņems vairāk pacientu vai nolasīs vairāk rentgenogrammu vienā darba dienā, vārdu sakot paveiks vairāk darba par mazāku samaksu. Patiesībā šīs politiķu un finansistu cerības ir maldīgas. Lai gan ir pamatoti sagaidīt, ka pēc mākslīgā intelekta ieviešanas nedaudz palielināsies medicīnas profesionāļu caurlaides spēja (vienlaikus palielināsies izmaksas – kaut vai par to pašu mākslīgo intelektu), nāksies saglabāt rezerves laika kapacitāti, lai nodrošinātu, ka ārstiem ir laiks un kognitīvais diapazons modrības īstenošanai. Ir pamatotas aizdomas, ka mākslīgais intelekts nevis samazinās, bet palielinās klīnicistu izdegšanu un mazinās empātiju.

Ir pilnīgi skaidrs, ka naudas taupīšanas nolūkos politiķi, ierēdņi un finansisti izdarīs spiedienu uz ārstiem, palielinot “konvejiera medicīnu”, bet publiskajā telpā paplašinās elektroniski rakstītu vadlīniju un priekšrakstu apjomu, patiesībā veicint “pavārgrāmatas medicīnu”, kad ārstēšana tiek uzskatīta par pierādījumos balstītu tablešu kombināciju gluži kā ēdiena recepti.

Ieejot pavārmākslas alegorijās, savulaik amerikāņu ārstu žurnālā JAMA atradu atziņu, ka ārstu dubultkontrole mākslīgā intelekta priekšlikumiem un slēdzieniem būs ķā Šveices siers ar caurumiem. Ir principiāli bīstami noticēt, ka ārstu modrība ir pietiekams aizsargs pret mākslīgā intelekta iespējamām kļūdām.

Atgriezīšos pie atziņas, ka neatkarīgi no mūsu vēlmēm vai argumentiem, mākslīgais intelekts gan pa durvīm ienāks, gan pa logi iekāps katra ārsta praksē. Paula Stradiņa slaveno izteikumu, ka medicīna reizē ir amats, zinātne un māksla, viņa mazmazdēli (šeit domāti ne tikai profesora tieši pēcteči, bet arī intelektuālie mazmazbērni) sapratīs: medicīnu kā digitālās prasmes, globālās zināšanas un precīzijas medicīnu. Nākamās paaudzes ārstam būs jābūt modram ne tikai pie slimnieka gultas, bet arī pie viedierīces ekrāna. Uzmanība būs mākslīgā intelekta uzraudzības uzdevums, kurā ārsts kļūs par sistēmas darbības novērotāju, nevis aktīvu darbplūsmas dalībnieku.

Kāpēc es lietoju jēdzienu “modrība”? Modrība prasa uzturēt uzmanību bez aktīvas iesaistīšanās, kas cilvēka smadzenēm pēc būtības ir grūts uzdevums.

Patiesībā modrība nav nekas jauns, ko dažādām metodēm cenšas ieviest dažādās cilvēka darbības nozarēs. Mēs taču labi zinām, ka ceļu satiksmes direkcija iesaka autovadītājiem saglabāt modrību, kad mašīna brauc autopilota režīmā, taču šie ieteikumi izrādījušies salīdzinoši neefektīvi. Turklāt nekad neizmantoto prasmju erozijai jebkurā jomā mēdz būt postošas sekas.

Šobrīd, šķiet, ārsti visā pasaulē attiecībā pret mākslīgo intelektu ir modri, jo mākslīgais intelekts ir jaunums un tiek ieviests selektīvi. Tomēr nav ne mazāko šaubu, ka itin drīz ārsti daudzās jomās kļūs mazāk prasmīgi, mazāk uzmanīgi un mazāk vērīgi, jo mākslīgais intelekts kļūs par klīniskā darba vispārizplatītu sastāvdaļu. Tas nenozīmē, ka ārsti kļūs mazāk gudri – nē: pasaules medicīnas zinātne mums piedāvā neiedomājami daudz citu zināšanu, atziņu, iespēju – ar ko piepildīt smadzeņu failus.

Viens no dižākajiem uzdevumiem tomēr būs meklējumi klīnicistu modrības palielināšanai, un tas būtu javeic tiem, kas šodien (strauji, īsā laikā) ievieš mākslīgā intelekta sistēmas. Tas nozīmē nopietnas prasības pašiem mākslīgā intelekta izstrādatājiem – jau sāktnēji iestrādāt mākslīgā intelekta sistēmā informāciju par savu zināšanu līmeni attiecībā uz konkrētu rezultātu. Tādā gadījumā mākslīgais intelekts ar zaļu, dzelenu vai sarkanu signālu (vai – kaut vai ar emodžiem) varētu informēt par savu nenoteiktības slieksni.
Līdzīgi mākslīgais intelekts varētu signalizēt par cita veida nenoteiktībām; tomēr visa veida brīdinājumu un drošības sistēmu internetā jau tā ir tik daudz, ka no tiem jebkurš lietotājs (arī ārsts un farmaceits) nogurst vēl vairāk nekā no mākslīgā interneta iespējamām kļūdām.

Agri vai vēlu māklīgajam intelektam parādīsies atgriezeniskā saite – mākslīgais intelekts sāks modri kontrolēt arī ārstu, piemēram, pētīs – vai klīnicists 100 % gadījumu pieņem mākslīgā intelekta ieteiktos medikamentus vai nekad nerediģē mākslīgā intelekta ģenerēto tekstu. Šāda modrības izsekošana reālā laikā veicinās ārstu izglītošanu, radīs atgriezenisko saiti, piedāvās instruktāžu un nopietnos gadījumos ļaus uz laiku izslēgt mākslīgā intelekta darbību.

Ļaušos prognozēt, ka ar laiku māklīgais intelekts veiks aktīvas darbības, lai ārstu modrību celtu, piemēram, radot mācības, līdzīgas katastrofu medicīnas mācībām. Mākslīgā intelekta rīki, iespējams, tiks ieprogrammēti tā, lai nejaušos intervālos ieviestu kļūdainus rezultātus. Protams, sistēma centīsies būt “muļķu droša” un pati nodrošinās, lai kļūdas un viltojumi nenonāktu pie pacientiem. Tomēr, cik esmu lasījis pētījumus par interneta lietošanas psiholoģiju, cilvēki (arī ārsts ir cilvēks) laika gaitā pārstāj ņemt vērā dezinformāciju, kas var neuzlabot modrību.

Pasaulē ir bezgala daudz dažādu specialitāšu darboņu, kas vēlas pasildīt rokas pie medicīnas un veselības aprūpes naudas. Programmētāji, datu bāzu glabātāji, cilvēki, kas slēpjas zem pacientu tiesību sargu nosaukuma, šķiet, meklēs iespējas savērpt jaunas psiholoģiskas problēmas ap un par mākslīgo intelektu medicīnā.

Kā nākotnes virzību mākslīgā intelekta ienākšanā medicīnā es nojaušu administratīvi uzspiestu samazinātu mākslīgā intelekta pielietojamību, kad mākslīgā intelekta modeļa rezultāti tiktu parādīti klīnicistiem tikai tad, ja tie ievērojami atšķirtos no sākotnējā klīnicista viedokļa. Pašreizējā paradigma, kad mākslīgā intelekta rīks proaktīvi iesaka norādītos medikamentus, varētu tikt nomainīta un ieprogrammēta tā, lai to izmantotu tikai tad, ja klīnicists izraksta kaut ko neparedzētu. Tomēr līdz šai metodei jāgaida visai ilgs laiks. Katrs apgrūtinājums mākslīgā intelekta ienākšanā klīnikā patiesībā sistēmu sarežģīs. Klīnicisti nepieļaus, ka mākslīgais intelekts iejaucas apgrūtinošā veidā.

Lai gan mākslīgais intelekts ievieš būtiskas pārmaiņas medicīnas praksē, vismaz šodien cilvēks joprojām atrodas medicīnas nozares pamatā un to nekad nevar aizstāt. Man patīk definēt, ka medicīnas centrā joprojām ir ārsta zināšanām piepildītās smadzenes.

Māklīgais intelekts vismaz šodien ir jāuzskata par papildinošu rīku, kas atvieglo veselības aprūpes speciālistu praksi, nevis aizvieto ārstu, farmaceitu vai citu medicīnas speciālistu. Svarīgu medicīnisku lēmumu pieņemšanai jābūt atkarīgai no cilvēka vērtējuma. Mākslīgais intelekts nevar aizstāt citus būtiskus aprūpes aspektus, piemēram, empātiju vai katra pacienta unikālo vajadzību izpratni.

Kopsavilkums: mākslīgais intelekts piedāvā vēl nebijušu iespēju veikt revolūciju medicīnas jomā. Mākslīgais intelekts var palīdzēt uzlabot aprūpes kvalitāti un efektivitāti, sākot ar ātrāku un precīzāku diagnostiku un beidzot ar personalizētu ārstēšanu. Tomēr ir svarīgi ievērot piesardzību, apsvērt ētiskās problēmas un nodrošināt, lai mākslīgā intelekta sniegtās priekšrocības tiktu izmantotas ētiski un līdzsvaroti.

Dabiskā medicīna (madicīna kā amats, zinātne un māksla) jau ir sevi pierādījusi un tai joprojām ir nozīmīgākā loma veselības aprūpē.

LA.LV aicina portāla lietotājus, rakstot komentārus, ievērot pieklājību, nekurināt naidu un iztikt bez rupjībām.