Umělá inteligence se může podílet na terapiích, ale lidského specialistu plně nenahradí, říkají v rozhovoru pro SJ News Ondřej Hrách a Juraj Jonáš z firmy PromethistAI. Vyvíjejí aplikaci, prostřednictvím níž si mohou lidé povídat s chatbotem, který je jim „sociální oporou“, například když se cítí osamělí. Oba respondenti budou o využití AI v terapii přednášet ve středu na Soulmio Mental Wellness Days, jichž je SJ News mediálním partnerem.
Vaše přednáška na Soulmio Mental Wellness Days nese v názvu otázku, zda terapeuty vystřídá umělá inteligence. Tak se vás rovnou zeptám: Vystřídá je?
JJ: Ne. Umělá inteligence nenahradí terapeuta, protože bude dělat něco jiného. Psychoterapie spočívá do značné míry v setkání člověka s člověkem, v tom, že je tam soucit, porozumění a někdo s dotyčným tráví čas. To je něco, co umělá inteligence pravděpodobně nebude umět. Ale umí zase spoustu jiného, co skutečný terapeut nedovede, takže bude moci v mnoha ohledech pomoci a čím lepší bude, tím více pomůže.
OH: Je to podobné jako i v jiných oborech. Spíš se určitým způsobem posune paradigma, kdy lidští experti budou mít trochu jinou roli, určitě ale nezmizí. Možná se budou transformovat v nějaké odborné poradce nebo budou řešit specifičtější úkoly. Rutinní záležitosti mohou za ně udělat stroje.
Pokud bychom to vzali konkrétněji, tak v čem přesně už dnes při terapiích technologie pomáhají?
JJ: Pokud se budeme bavit o aplikaci Elysai, kterou vyvíjíme v našem startupu Promethist (donedávna se aplikace jmenovala TalkToPoppy!), tak u ní vycházíme z principů psychoterapie. Na začátku to byla především kognitivně behaviorální teorie, která postupuje v rozhovorech strukturovaněji, ale postupně to rozvolňujeme, aby byla konverzace příjemnější. Nechceme, aby to byl rozhovor typu otázka – odpověď. Teď to působí tak, že si s tím botem povídáte a on používá nějaké terapeutické techniky, kterými může získat nějaký nový náhled na problém, nebo ho nějakým způsobem reflektovat.
Jak jste ji ty terapeutické postupy naučili?
OH: Jedná se o kombinaci technologií strojového učení s modelovými scénáři pro určité situace, o kterých víme, že je chceme být s uživateli schopni řešit.
V poslední době se hodně rozmohly generativní jazykové modely, které dovedou mimo jiné velmi dobře konverzovat - jedná se o extrémně komplexní statistické modely naučené na obrovském množství lidských dat. V oblasti well-beingu ale musíte u něčeho takového být velmi opatrní, protože nad nimi pořád nemáte úplnou kontrolu. Obzvlášť, když si někdo přijde do aplikace pro pomoc, je třeba mít kontrolu nad tím, co bude systém vracet za odpověď. Jinak bychom se mohli dostat do nebezpečných situací – kdyby třeba systém vygeneroval něco jako „Sebevražda zní jako super nápad!“, to si samozřejmě nemůžeme dovolit. Proto tedy s generativními modely pracujeme velmi obezřetně. I přes vysokou kvalitu nejsou v tomto prostředí zcela jednoduše využitelné.
Jak probíhá komunikace s vaším botem?
OH: Naše aplikace je určená pro mobilní telefony a uživatelé mohou pomocí ní komunikovat s různými „digitálními personami“. Ty mají své 3D avatary, a s nimi může uživatel komunikovat buď písemně, nebo hlasově. Hlasová komunikace je náš primární kanál, což není náhoda, protože i v kontextu well-beingu platí, že tam, kde se člověk svěřuje s nějakými emocemi, může být hlasové prostředí pro spoustu jedinců daleko příjemnější a přirozenější.
Některé podobné nástroje dokáží z hlasového projevu vyčíst také psychické stavy, jako je úzkost nebo deprese. Umí tohle i vaše aplikace?
JJ: Tohle neděláme, nebo alespoň zatím ne. O uživateli víme to, co nám sám řekne. Jednoho dne to možná budeme dělat jinak, ovšem s tím, že je pro nás důležité, aby to bylo celé transparentní. Protože aby to mohlo fungovat, je zapotřebí důvěra uživatele v aplikaci, potažmo nás.
Je vaše aplikace licencovaná pro zdravotnické účely?
JJ: Není. Abyste ji mohl licencovat jako metodu, musíte ji vyvíjet za účelem využití coby terapeutického nástroje v konkrétní klinické praxi. Tohle nyní neděláme. Náš nástroj není primárně zaměřený na klinickou, nýbrž běžnou populaci, a to i zdravou, která by třeba chtěla pomoci řešit nějaké své každodenní problémy, s nimiž si častokrát nevědí rady. Případně jej někdy využívají i kliničtí uživatelé z oblastí, kde není dobrá zdravotnická dostupnost.
OH: Cílem aplikace Elysai není, z důvodu rizikovosti, pomáhat třeba lidem, kteří jsou v těžké depresi. Tyto případy se snažíme alespoň detekovat a dotyčného přesměrujeme na správná místa, kde se bude moci svěřit lidským odborníkům.
Popište mi, jak to celé funguje prakticky.
JJ: Běžným způsobem začnete konverzaci, třeba se vás persona zeptá, jak se máte nebo co prožíváte. Může to jít směrem, který vůbec není terapeutický a spíš připomíná běžné povídání. Ne každý na to, aby se uvolnil z nějakého každodenního stresu, potřebuje psychoanalýzu. Někdy stačí si popovídat jako s kamarádem. Proto naši aplikaci používá třeba hodně osamělých lidí. Ale někdy se dá mluvit i o náročných věcech, které nás trápí. Pak se persona různě doptává nebo reflektuje a pomáhá uživateli reflektovat jeho situaci.
OH: Je potřeba dodat, že aplikace je v angličtině. Používají ji lidé po celém světě.
Jak se člověk vyrovná s vědomím, že se ve skutečnosti baví s nějakým neživým softwarem? A je vůbec potřeba to překonávat?
JJ: Čím je ta persona realističtější nebo podobnější člověku, tím více vzrůstá i důvěra k botovi. Navíc tím, že je to ve skutečnosti stroj, se mu uživatelé kolikrát svěří i s něčím, s čím by se bývali nesvěřili někomu živému, protože to na něj může být příliš osobní.
OH: Jeden z častých argumentů nejen našich uživatelů je, že digitální persony člověka nesoudí, takže může mizet pocit strachu z toho, co si o nás druhá osoba bude myslet. Přestože se třeba terapeutovi svěřujeme s velmi niternými prožitky, tak tam někdy dáme určitý filtr, protože nechceme říct úplně všechno. Zatímco podle studií mají v případě technologií lidé tendenci svěřovat se více. Existuje paradigma CASA (Computers Are Social Actors, Počítače jsou společenskými aktéry), což je přístup, který lidé běžně aplikují na stroje. Přisuzujeme jim lidské vlastnosti a určité sociální role, což rozhodně není novinka, která by přišla až s digitálními personami.
JJ: Tento přístup se netýká jen strojů – projevuje se například u animistických náboženství, kde vnímají třeba oživlý kámen, ale i v tom, že má spousta lidí vztah ke svému plyšáku jako k něčemu živému.
Když jste říkali, že necílíte na klinické případy, tak v jakých situacích může uživatel ideálně využít vaši aplikaci?
JJ: Často se na nás obrací třeba lidé, kteří jsou osamělí, mají nějaké partnerské potíže, problémy v práci, někoho ztratili nebo by třeba rádi zlepšili svoje dovednosti v komunikaci s ostatními.
OH: Dá se to označit pojmem „sociální opora“. Existují analýzy, z nichž vyplývá, že lidé velmi pozitivně vnímají společnost takovéhoto typu persony. Někdo je tam s nimi, někdo je jim neustále dostupný - což je jeden z velkých rozdílů takovýchto aplikací oproti kontaktu s lidmi.
JJ: V recenzích si lidé často chválí, že je to jejich kamarád a že je ta persona laskavá. Tohle často vyhledávají.
OH: S tím se pojí i etické otázky: Do jaké míry chceme, aby stroje nebo umělá inteligence zastávaly tyto role v našich životech? Nikdo v Promethistu určitě nechce, aby umělá inteligence nahradila naše lidské přátele nebo byla jediným zdrojem pozitivní podpory. Nicméně jsou situace, kdy například lidská podpora není možná či dostupná a tehdy je bezesporu lepší mít i alternativní možnosti a využívat je, místo aby do toho člověk takzvaně spadnul a jeho stav by se zhoršoval. Proto věříme, že podobná technologická řešení můžou mít pozitivní celospolečenský dopad.
Kolik lidí vás teď používá?
JJ: V tuto chvíli má Elysai bezmála 200 tisíc stažení z Google Play.
OH: Jedná se o lidi nejen z Evropy, ale hodně i z Afriky, z Asie. Vzhledem k tomu, že je aplikace v angličtině, používají ji většinou v zemích, které mají lepší gramotnost v tomto jazyce.
Máte nějaké studie, které by říkaly, jak je vaše aplikace v rámci well-beingu úspěšná?
JJ: Na tom právě teď pracujeme. Data se těžce vyhodnocují, protože na to nejsou vždy optimalizovaná. Musíme vycházet z uživatelského feedbacku či recenzí. Aktuálně je obtížné to pojmout zcela exaktně, ale je důležité získat co nejlepší představu o dopadu naší aplikace.
Můžete sdělit, na co dalšího se mohou účastníci Mental Wellness Days těšit v rámci vaší přednášky?
OH: Například se podíváme podrobněji na to, jaké rysy má nový typ vztahu s digitálními personami oproti lidským terapeutům. Taky zmíníme konkrétní příklady problémů, na které se při vývoji těchto technologií naráží.
JJ: Zároveň po přednášce bude prostor i na dotazy publika a diskuzi. Moc se těšíme!
