Odborníci na umelú inteligenciu diskutujú o tom, ako integrovať robustnú umelú inteligenciu do zdravotnej starostlivosti, prečo je interdisciplinárna spolupráca kľúčová a aký je potenciál generatívnej umelej inteligencie vo výskume.
Feifei Li a Lloyd Minor predniesli úvodné prejavy na inauguračnom sympóziu RAISE Health na Lekárskej fakulte Stanfordskej univerzity 14. mája. Steve Fish
Väčšina ľudí, ktorých zaujala umelá inteligencia, zažila nejaký moment „aha“, keď otvorila svoju myseľ svetu možností. Na inauguračnom sympóziu RAISE Health 14. mája sa o svoj pohľad podelil Dr. Lloyd Minor, dekan Lekárskej fakulty Stanfordskej univerzity a viceprezident pre medicínske záležitosti na Stanfordskej univerzite.
Keď jedného zvedavého tínedžera požiadali, aby zhrnul svoje zistenia týkajúce sa vnútorného ucha, obrátil sa na generatívnu umelú inteligenciu. „Spýtal som sa: ‚Čo je syndróm dehiscencie horného ucha?‘ Minor povedal takmer 4 000 účastníkom sympózia. V priebehu niekoľkých sekúnd sa objavilo niekoľko odsekov.
„Sú dobré, naozaj dobré,“ povedal. „To, že tieto informácie boli zostavené do stručného, vo všeobecnosti presného a jasne priorizovaného popisu choroby. To je naozaj pozoruhodné.“
Mnohí zdieľali Minorovo nadšenie z poldenného podujatia, ktoré bolo výsledkom iniciatívy RAISE Health, projektu spusteného Lekárskou fakultou Stanfordskej univerzity a Stanfordským inštitútom pre umelú inteligenciu zameranú na človeka (HAI) s cieľom usmerniť zodpovedné využívanie umelej inteligencie v biomedicínskom výskume, vzdelávaní a starostlivosti o pacientov. Rečníci skúmali, čo znamená implementovať umelú inteligenciu v medicíne spôsobom, ktorý je nielen užitočný pre lekárov a vedcov, ale aj transparentný, spravodlivý a nestranný pre pacientov.
„Veríme, že ide o technológiu, ktorá zlepšuje ľudské schopnosti,“ povedala Fei-Fei Li, profesorka informatiky na Stanfordskej fakulte inžinierstva, riaditeľka projektu RAISE Health with Minor a spoluriaditeľka HAI. Generáciu za generáciou sa môžu objavovať nové technológie: od nových molekulárnych sekvencií antibiotík až po mapovanie biodiverzity a odhaľovanie skrytých častí základnej biológie, umelá inteligencia urýchľuje vedecké objavy. Nie všetko z toho však je prospešné. „Všetky tieto aplikácie môžu mať nezamýšľané dôsledky a potrebujeme informatikov, ktorí zodpovedne vyvíjajú a implementujú [umelú inteligenciu] a spolupracujú s rôznymi zainteresovanými stranami, od lekárov a etikov... až po bezpečnostných expertov a ďalších,“ hovorí. „Iniciatívy ako RAISE Health demonštrujú náš záväzok k tomuto.“
Zlúčenie troch oddelení Stanfordskej medicíny – Lekárskej fakulty, Stanfordskej zdravotnej starostlivosti a Detskej zdravotnej fakulty Stanfordskej univerzity – a jej prepojenie s ostatnými časťami Stanfordskej univerzity ju postavilo do pozície, v ktorej sa odborníci potýkajú s vývojom umelej inteligencie, problémami riadenia a integrácie v oblasti zdravotnej starostlivosti a medicíny. Medicína, spievala sa v piesni.
„Máme dobrú pozíciu na to, aby sme sa stali priekopníkmi vo vývoji a zodpovednej implementácii umelej inteligencie, od základných biologických objavov cez zlepšenie vývoja liekov a zefektívnenie procesov klinických skúšok až po samotné poskytovanie zdravotníckych služieb. zdravotnej starostlivosti. Spôsob, akým je nastavený systém zdravotnej starostlivosti,“ povedal.
Niekoľko rečníkov zdôraznilo jednoduchý koncept: zamerať sa na používateľa (v tomto prípade pacienta alebo lekára) a všetko ostatné bude nasledovať. „Pacient je vďaka tomu stredobodom všetkého, čo robíme,“ povedala Dr. Lisa Lehmannová, riaditeľka bioetiky v nemocnici Brigham and Women's Hospital. „Musíme zvážiť ich potreby a priority.“
Zľava doprava: Moderátorka STAT News Mohana Ravindranath; Jessica Peter Lee z Microsoft Research; Sylvia Plevritis, profesorka biomedicínskej dátovej vedy, diskutuje o úlohe umelej inteligencie v lekárskom výskume. Steve Fish
Rečníci na panelovej diskusii, medzi ktorými boli aj Lehmann, lekárska bioetička zo Stanfordskej univerzity Mildred Cho a hlavný klinický riaditeľ spoločnosti Google Michael Howell, poukázali na komplexnosť nemocničných systémov a zdôraznili potrebu pochopiť ich účel pred akýmkoľvek zásahom. Implementovať ich a zabezpečiť, aby všetky vyvinuté systémy boli inkluzívne a načúvali ľuďom, ktorým majú pomáhať.
Jedným z kľúčov je transparentnosť: jasne ukazuje, odkiaľ pochádzajú údaje použité na trénovanie algoritmu, aký je pôvodný účel algoritmu a či budú budúce údaje o pacientoch naďalej pomáhať algoritmu učiť sa, okrem iných faktorov.
„Snaha predpovedať etické problémy skôr, ako sa stanú vážnymi [znamená] nájsť perfektné miesto, kde o technológii viete dosť na to, aby ste jej dôverovali, ale nie skôr, ako sa [problém] ďalej rozšíri a vyrieši ho skôr,“ povedal Denton Char, kandidát lekárskych vied, docent na Katedre detskej anestéziológie, perioperačnej medicíny a medicíny bolesti. Jedným z kľúčových krokov je podľa neho identifikácia všetkých zainteresovaných strán, ktorých by mohla technológia ovplyvniť, a určenie, ako by oni sami chceli na tieto otázky odpovedať.
Jesse Ehrenfeld, MD, prezident Americkej lekárskej asociácie, rozoberá štyri faktory, ktoré poháňajú prijatie akéhokoľvek nástroja digitálneho zdravotníctva vrátane tých, ktoré sú poháňané umelou inteligenciou. Je to efektívne? Bude to fungovať v mojej inštitúcii? Kto platí? Kto je zodpovedný?
Michael Pfeffer, MD, riaditeľ pre informačné technológie v spoločnosti Stanford Health Care, uviedol nedávny príklad, v ktorom sa mnohé z týchto problémov testovali medzi zdravotnými sestrami v nemocniciach v Stanforde. Lekári sú podporovaní rozsiahlymi jazykovými modelmi, ktoré poskytujú počiatočné anotácie pre prichádzajúce správy pacientov. Hoci projekt nie je dokonalý, lekári, ktorí pomohli vyvinúť túto technológiu, uvádzajú, že model im uľahčuje pracovnú záťaž.
„Vždy sa zameriavame na tri dôležité veci: bezpečnosť, efektivitu a inklúziu. Sme lekári. Skladáme prísahu, že „neublížime“, povedala Dr. Nina Vasanová, klinická asistentka profesora psychiatrie a behaviorálnych vied, ktorá sa pridala k skupine Char a Pfeffer. „Toto by mal byť prvý spôsob, ako tieto nástroje vyhodnotiť.“
Nigam Shah, MBBS, Ph.D., profesor medicíny a biomedicínskej dátovej vedy, začal diskusiu šokujúcou štatistikou napriek spravodlivému varovaniu publika. „Hovorím vo všeobecných pojmoch a číslach a niekedy bývajú veľmi priame,“ povedal.
Podľa Shaha úspech umelej inteligencie závisí od našej schopnosti ju škálovať. „Vykonávanie riadneho vedeckého výskumu modelu trvá približne 10 rokov a ak by každý zo 123 štipendijných a rezidenčných programov chcel model otestovať a nasadiť na takej úrovni presnosti, bolo by veľmi ťažké robiť správnu vedu tak, ako v súčasnosti organizujeme naše úsilie a [testujeme]]. Zabezpečenie správneho fungovania každého z našich pracovísk by stálo 138 miliárd dolárov,“ povedal Shah. „Nemôžeme si to dovoliť. Preto musíme nájsť spôsob, ako sa rozšíriť, a musíme sa rozšíriť a robiť dobrú vedu. Zručnosti v oblasti presnosti sú na jednom mieste a zručnosti v oblasti škálovania sú na inom, takže budeme potrebovať takýto typ partnerstva.“
Prodekanka Yuan Ashley a Mildred Cho (recepcia) sa zúčastnili workshopu RAISE Health. Steve Fish
Niektorí rečníci na sympóziu uviedli, že by sa to dalo dosiahnuť prostredníctvom verejno-súkromných partnerstiev, ako napríklad nedávny výkonný príkaz Bieleho domu o bezpečnom, zabezpečenom a dôveryhodnom vývoji a využívaní umelej inteligencie a Konzorcium pre umelú inteligenciu v zdravotníctve (CHAI).
„Verejno-súkromné partnerstvo s najväčším potenciálom má partnerstvo medzi akademickou obcou, súkromným sektorom a verejným sektorom,“ povedala Laura Adamsová, hlavná poradkyňa Národnej akadémie medicíny. Poznamenala, že vláda môže zabezpečiť dôveru verejnosti a akademické zdravotnícke centrá môžu poskytnúť legitimitu a súkromný sektor môže poskytnúť technické znalosti a počítačový čas. „Všetci sme lepší ako ktokoľvek z nás a uvedomujeme si, že... nemôžeme sa modliť za realizáciu potenciálu [umelej inteligencie], pokiaľ nepochopíme, ako navzájom interagovať.“
Niekoľko rečníkov uviedlo, že umelá inteligencia má vplyv aj na výskum, či už ju vedci používajú na skúmanie biologických dogiem, predpovedanie nových sekvencií a štruktúr syntetických molekúl na podporu nových liečebných postupov, alebo dokonca na pomoc pri zhrňovaní alebo písaní vedeckých prác.
„Toto je príležitosť vidieť neznáme,“ povedala Jessica Mega, MD, kardiologička na Lekárskej fakulte Stanfordskej univerzity a spoluzakladateľka Verily od spoločnosti Alphabet. Mega spomenula hyperspektrálne zobrazovanie, ktoré zachytáva obrazové prvky neviditeľné pre ľudské oko. Cieľom je použiť umelú inteligenciu na detekciu vzorcov v patologických snímkach, ktoré ľudia nevidia a ktoré naznačujú ochorenie. „Povzbudzujem ľudí, aby prijali neznáme. Myslím si, že každý tu pozná niekoho s nejakým zdravotným problémom, kto potrebuje niečo viac, ako mu dnes vieme poskytnúť,“ povedala Mejia.
Účastníci panelu sa tiež zhodli na tom, že systémy umelej inteligencie poskytnú nové spôsoby identifikácie a boja proti skreslenému rozhodovaniu, či už zo strany ľudí alebo umelej inteligencie, so schopnosťou identifikovať zdroj skreslenia.
„Zdravie je viac než len lekárska starostlivosť,“ zhodlo sa niekoľko účastníkov panelovej diskusie. Rečníci zdôraznili, že výskumníci pri zbere inkluzívnych údajov a nábore účastníkov do štúdií často prehliadajú sociálne determinanty zdravia, ako je socioekonomický status, PSČ, úroveň vzdelania, rasa a etnická príslušnosť. „Umelá inteligencia je len taká účinná, ako sú údaje, na ktorých je model trénovaný,“ povedala Michelle Williamsová, profesorka epidemiológie na Harvardskej univerzite a docentka epidemiológie a zdravia populácie na Lekárskej fakulte Stanfordskej univerzity. „Ak robíme to, o čo sa snažíme. Zlepšujeme zdravotné výsledky a odstraňujeme nerovnosti, musíme zabezpečiť, aby sme zhromažďovali vysokokvalitné údaje o ľudskom správaní a sociálnom a prírodnom prostredí.“
Natalie Pagelerová, MD, klinická profesorka pediatrie a medicíny, uviedla, že agregované údaje o rakovine často vylučujú údaje o tehotných ženách, čo vytvára nevyhnutné skreslenia v modeloch a zhoršuje existujúce rozdiely v zdravotnej starostlivosti.
Dr. David Magnus, profesor pediatrie a medicíny, povedal, že rovnako ako každá nová technológia, aj umelá inteligencia môže veci v mnohých ohľadoch buď zlepšiť, alebo zhoršiť. Riziko podľa Magnusa spočíva v tom, že systémy umelej inteligencie sa dozvedia o nerovnomerných zdravotných výsledkoch riadených sociálnymi determinantami zdravia a tieto výsledky posilnia prostredníctvom svojich výstupov. „Umelá inteligencia je zrkadlom, ktoré odráža spoločnosť, v ktorej žijeme,“ povedal. „Dúfam, že vždy, keď budeme mať príležitosť poukázať na nejaký problém – nastaviť si zrkadlo – bude to slúžiť ako motivácia na zlepšenie situácie.“
Ak ste sa nemohli zúčastniť workshopu RAISE Health, záznam stretnutia nájdete tu.
Lekárska fakulta Stanfordskej univerzity je integrovaný akademický systém zdravotnej starostlivosti, ktorý pozostáva z Lekárskej fakulty Stanfordskej univerzity a systémov poskytovania zdravotnej starostlivosti pre dospelých a deti. Spoločne realizujú plný potenciál biomedicíny prostredníctvom spoločného výskumu, vzdelávania a klinickej starostlivosti o pacientov. Viac informácií nájdete na stránke med.stanford.edu.
Nový model umelej inteligencie pomáha lekárom a zdravotným sestrám v nemocnici Stanford spolupracovať na zlepšení starostlivosti o pacientov.
Čas uverejnenia: 19. júla 2024