Umělá inteligence začíná předepisovat lidem psychofarmaka bez lékaře

V americkém Utahu se rozbíhá experiment, který může výrazně proměnit fungování psychiatrické péče. Některým pacientům tam nově úřady umožňují využívání umělé inteligence a chatbotu k prodlužování receptů na léky. V určitých případech tak odpadá nutnost, aby každé obnovení schvaloval lékař. Za projektem stojí sanfranciský startup Legion Health, který pro svou aplikaci získal souhlas místních úřadů. Nejde však o „digitálního psychiatra“ v plném slova smyslu. Ti skuteční jsou navíc skeptičtí. Informuje například magazín The Verge či Futurism.

Systém se totiž týká pouze pacientů, jejichž stav je stabilizovaný a kteří dlouhodobě užívají stejné léky. Umělá inteligence může obnovit recept jen u vybraných přípravků, typicky běžných antidepresiv či léků proti úzkosti, jako jsou Prozac nebo Zoloft. Diagnóz jako jsou bipolární porucha či schizofrenie a léků na ně se systém netýká. Zásadní podmínkou je, že léky musí být pacientovi původně předepsány lidským psychiatrem a pacient nesmí být v posledním roce hospitalizován kvůli psychickému onemocnění. I u zařazených pacientů platí, že po určité době musí opět projít kontrolou u lékaře.

Samotný proces připomíná strukturovaný rozhovor. Chatbot se ptá na aktuální stav, případné vedlejší účinky i varovné signály, například myšlenky na sebepoškození. Pokud se objeví jakákoli pochybnost, případ automaticky přebírá lékař. Systém tak slouží spíše jako filtr pro jednoduché žádosti než jako náhrada odborníka.

Právě to je jeden z důvodů, proč část odborné veřejnosti zůstává zdrženlivá. Podle kritiků se totiž nástroj zaměřuje na pacienty, kteří už jsou stabilní a v péči – tedy na skupinu, která obvykle nepředstavuje největší problém z hlediska dostupnosti. Hlavní bariéry v přístupu k léčbě tím podle nich zůstávají nedotčeny.

Další obavy se týkají samotného principu fungování. Systém je odkázán na odpovědi pacientů, které nemusí být vždy přesné. Někteří lidé si nemusí uvědomit změny ve svém stavu, jiní mohou odpovídat tak, aby získali požadovaný výsledek. Psychiatři přitom upozorňují, že právě schopnost zachytit jemné odchylky v chování či projevu je v jejich oboru klíčová.

Psychiatr Brent Kious z University of Utah upozorňuje, že automatizace by mohla vést k nadměrnému předepisování léků. Podle něj hrozí, že bez dostatečné kontroly bude léčba méně individuální. Podobně se vyjádřil i John Torous z Harvard Medical School, podle něhož psychiatrická medikace vyžaduje průběžné vyhodnocování a citlivé úpravy, které algoritmus nemusí zvládnout. „Vyžadují aktivní kontrolu, změny a pečlivé zvážení. To je obtížnější, pokud kontrolu doplnění zásob svěřujete chatbotu,“ uvedl Torous.

Společnost Legion Health však zdůrazňuje, že projekt podléhá přísnému dohledu. Zavázala se k pravidelnému reportování výsledků úřadům a zapojení lékárníků do procesu. Podle spoluzakladatele Arthura MacWaterse má jít o krok k lepší dostupnosti péče v regionech, kde chybí specialisté. Firma počítá s tím, že podobný systém nabídne v následujících měsících i v dalších státech USA.

Utah už přitom s využitím umělé inteligence ve zdravotnictví v minulosti neúspěšně experimentoval. Dřívější pilot s chatbotem Doctronic narazil na kritiku poté, co odborníci upozornili na jeho problematické výstupy – například šíření dezinformací o vakcínách, doporučení pervitinu jako léčiva či ztrojnásobení doporučené dávky některých léků.