{"id":6722,"date":"2023-01-27T12:01:50","date_gmt":"2023-01-27T11:01:50","guid":{"rendered":"https:\/\/www.dr-mamczur.pl\/blog\/?p=6722"},"modified":"2023-02-08T09:36:50","modified_gmt":"2023-02-08T08:36:50","slug":"czy-ai-wyksztalci-bezkrytycznych-lekarzy-cyborgow","status":"publish","type":"post","link":"https:\/\/www.dr-mamczur.pl\/blog\/2023\/czy-ai-wyksztalci-bezkrytycznych-lekarzy-cyborgow\/","title":{"rendered":"Czy AI wykszta\u0142ci bezkrytycznych lekarzy – cyborg\u00f3w?"},"content":{"rendered":"

Jestem lekarzem z 40 letnim sta\u017cem pracy. Zaczyna\u0142em prac\u0119 jako w epoce\u00a0 “analogowej” – tj. przed komputerami, Internetem, smartfonem. Zdobywanie wiedzy opiera\u0142o si\u0119 na papierowych czasopismach, podr\u0119cznikach, a przede wszystkim uczeniu si\u0119 od do\u015bwiadczonych lekarzy. Uczono nas logicznego my\u015blenia, zbierania wywiadu oraz dok\u0142adnego badania przedmiotowego, rozpoznania r\u00f3\u017cnicowego oraz\u00a0 racjonalnie uzasadnionych sposob\u00f3w leczenia.<\/p>\n

Wej\u015bcie nowych technologii diagnostycznych zmniejszy\u0142o wag\u0119 jak\u0105 m\u0142odzi lekarze zacz\u0119li przywi\u0105zywa\u0107 do badania przedmiotowego. O wiele pro\u015bciej by\u0142o wykona\u0107 badanie USG, czy zleci\u0107 TK, MR. Z czasem zacz\u0119to cz\u0119\u015bciej bezkrytycznie podchodzi\u0107 do wynik\u00f3w tych bada\u0144, traktuj\u0105c je jako nieomylne. (a przecie\u017c wynik mo\u017ce omy\u0142kowo pochodzi\u0107 od innego pacjenta, wykonuj\u0105cy mo\u017ce pomin\u0105\u0107 lub \u017ale oceni\u0107 zmiany).<\/p>\n

Pojawienie si\u0119 informatyzacji i Internetu wprowadzi\u0142o nowe mo\u017cliwo\u015bci zdobywania wiedzy, nauki oraz wykorzystania system\u00f3w ekspertowych. Narz\u0119dzie te by\u0142y jeszcze pod kontrol\u0105 procesu my\u015blowego lekarza. Opiera\u0142y si\u0119 na jasnych algorytmach decyzyjnych (mo\u017cna by\u0142o je wydrukowa\u0107, prze\u015bledzi\u0107, gdzie powsta\u0142 b\u0142\u0105d)\u00a0 i umo\u017cliwia\u0142y m.in. diagnostyk\u0119 r\u00f3\u017cnicow\u0105, przegl\u0105danie wynik\u00f3w najnowszych bada\u0144 naukowych.<\/p>\n

Kolejnym krokiem w ewolucji nowoczesnej medycyny by\u0142o pojawienie si\u0119 w ostatnich kilku latach AI (sztucznej inteligencji)<\/strong>. Zrewolucjonizowa\u0142a ona rynek innowacji w medycynie (szczeg\u00f3lnie w badaniach obrazowych, programach ekspertowych i poszukiwaniu nowych lek\u00f3w). Obecnie w start-up’ach jest “trendy”, aby tworzy\u0107 oprogramowanie w tej technologii. Pojawi\u0142y si\u0119 big data, uczenie maszynowe, uczenie g\u0142\u0119bokiego (chocia\u017c dost\u0119p do treningowych danych medycznych jest bardzo trudny ze wzgl\u0119d\u00f3w prawnych) w oparciu o sztuczne sieci neuronowe, rozszerzonej i wirtualnej rzeczywisto\u015bci (AR, VR), neurolingwistyk\u0119. Z za\u0142o\u017cenia maj\u0105 one\u00a0 dostarczy\u0107 lekarzowi narz\u0119dzia diagnostyczno-terapeutyczne i u\u0142atwi\u0107 podejmowanie decyzji lekarskich.\u00a0 Czyli odci\u0105\u017cy\u0107 proces my\u015blenia lekarza. Niestety obawiam si\u0119, \u017ce podawanie decyzji “na tacy” (bez ich logicznego uzasadnienia) mo\u017ce spowodowa\u0107 utrat\u0119 nawyk\u00f3w krytycznego my\u015blenia lekarskiego. Jak cz\u0119sto si\u0119 powtarza “narz\u0105d nieu\u017cywany ulega zanikowi” :). Trzeba wznawia\u0107 nawyki my\u015blowe i manualne (tak jak si\u0119 to robi w szkoleniu pilot\u00f3w). Zdanie si\u0119 tylko na AI mo\u017ce to spowodowa\u0107, \u017ce lekarz pozbawiony swoich “analogowych” umiej\u0119tno\u015bci stanie si\u0119 bezkrytycznym cyborgiem, nie zawsze podejmuj\u0105ce decyzje zgodnie z zasad\u0105 ” przede wszystkim nie szkodzi\u0107”. Wojna\u00a0 w Ukrainie pokazuje nam tak\u017ce, \u017ce bark dost\u0119pu do urz\u0105dze\u0144 cyfrowych wymaga od lekarza dzia\u0142ania bez najnowszych zdobyczy technologicznych (bez internetu, pr\u0105du, laboratorium, pracowni diagnostycznych) – zostaje to m\u00f3wiono nam w WAM – “m\u00f3zg i mi\u0119\u015bnie”. Dlatego uwa\u017cam, \u017ce obecne programy edukacyjne i ekspertowe powinny mie\u0107 element szkolenia analogowego (uczy\u0107 my\u015blenia krytycznego i analityczno – r\u00f3\u017cnicowego). Powinno si\u0119 t\u0142umaczy\u0107, jak dosz\u0142o si\u0119 do danego wniosku (rozpoznania),\u00a0 dlaczego dana decyzja jest najlepsza. Na jakie b\u0142\u0119dy mo\u017cemy by\u0107 nara\u017cenie (wpis – b\u0142\u0105d medyczny a lekarski<\/a>). Nie wystarczy wynik, \u017ce AI daje np. 85% prawdopodobie\u0144stwo poprawnie postawionej diagnozy (bo AI tak uzasadnia swoje decyzja – tylko w PRAWDOPODOBIE\u0143STWIE!).<\/p>\n

Na rynku istnieje wiele rozwi\u0105za\u0144 AI wykorzystywanych w nauczaniu student\u00f3w medycyny. W Polsce mo\u017cemy si\u0119 pochwali\u0107 np.<\/p>\n

“Wirtualn\u0105 Klinik\u0105<\/a>” – firmy BD Polska Sp. z o.o.<\/p>\n

QUPI<\/a><\/p>\n

Saventic<\/a> – w diagnostyce chor\u00f3b rzadkich<\/p>\n

Na rynku medycznym s\u0105 to bardzo drogie przedsi\u0119wzi\u0119cia oparte na AI – dla przyk\u0142adu angielski program dla lekarzy GP firmy Babilon (GP at hend<\/a>) kosztowa\u0142 ju\u017c miliony funt\u00f3w – i ci\u0105gle si\u0119 “uczy” :).<\/p>\n

 <\/p>\n

G\u0142\u0119bokie uczenie<\/a> w wielowarstwowych sztucznych sieciach neuronowych<\/a>. jest dla informatyk\u00f3w podobno “czarn\u0105 skrzynk\u0105”. Znaj\u0105 dane wej\u015bciowe i wyj\u015bciowe. Niestety nie mog\u0105 opisa\u0107 jak sie\u0107 si\u0119 nauczy\u0142a i jak to dzia\u0142a wewn\u0105trz wielu warstw<\/a> oprogramowania.<\/p>\n

(co\u015b wychodzi, ale nie wiadomo dlaczego)<\/p>\n

\"\"<\/a><\/p>\n

Na razie nadal istnieje jednak du\u017ce ryzyko tej technologii. Mo\u017ce ona pope\u0142nia\u0107 b\u0142\u0119dy z r\u00f3\u017cnych powod\u00f3w. Nie mamy nad ni\u0105 kontroli i racjonalnego wyt\u0142umaczenia sposobu wnioskowania decyzyjnego.<\/p>\n

Paradoksalnie mo\u017ce dochodzi\u0107 do sytuacji jak na przedstawionym poni\u017cej zdj\u0119ciu.<\/p>\n

Np. AI poproszona o wykreowanie \u0142ososia p\u0142yn\u0105cego rzek\u0105 mo\u017ce stworzy\u0107 taki obraz. (udost\u0119pnione przez Carlos la Orden Tovar<\/a>)<\/p>\n

\"\"<\/a><\/p>\n

 <\/p>\n

Niestety takie b\u0142\u0119dy w programach edukacyjnych i ekspertowych mog\u0105 kosztowa\u0107 \u017cycie. Nadanie oprogramowaniu certyfikat\u00f3w “wyrobu medycznego” – powinno by\u0107 obwarowane wieloma opiniami lekarzy i testami. (takie rozwi\u0105zania s\u0105 planowane w Polsce<\/a>)+ konsultacje z NIL (URPLWMiPB<\/b><\/span><\/span><\/a>) . Stosuje si\u0119 je w Wielkiej Brytanii MHRA<\/a>)-<\/p>\n

 <\/p>\n","protected":false},"excerpt":{"rendered":"

Jestem lekarzem z 40 letnim sta\u017cem pracy. Zaczyna\u0142em prac\u0119 jako w epoce\u00a0 “analogowej” – tj. przed komputerami, Internetem, smartfonem. Zdobywanie wiedzy opiera\u0142o si\u0119 na papierowych czasopismach, podr\u0119cznikach, a przede wszystkim uczeniu si\u0119 od do\u015bwiadczonych lekarzy. Uczono nas logicznego my\u015blenia, zbierania … Czytaj dalej →<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/www.dr-mamczur.pl\/blog\/wp-json\/wp\/v2\/posts\/6722"}],"collection":[{"href":"https:\/\/www.dr-mamczur.pl\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.dr-mamczur.pl\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.dr-mamczur.pl\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.dr-mamczur.pl\/blog\/wp-json\/wp\/v2\/comments?post=6722"}],"version-history":[{"count":10,"href":"https:\/\/www.dr-mamczur.pl\/blog\/wp-json\/wp\/v2\/posts\/6722\/revisions"}],"predecessor-version":[{"id":6749,"href":"https:\/\/www.dr-mamczur.pl\/blog\/wp-json\/wp\/v2\/posts\/6722\/revisions\/6749"}],"wp:attachment":[{"href":"https:\/\/www.dr-mamczur.pl\/blog\/wp-json\/wp\/v2\/media?parent=6722"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.dr-mamczur.pl\/blog\/wp-json\/wp\/v2\/categories?post=6722"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.dr-mamczur.pl\/blog\/wp-json\/wp\/v2\/tags?post=6722"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}