Umělá inteligence, která ví, co neví + test

• Když tréninková data přestanou stačit
• Filozofie ve službách algoritmů
• V čem je problém
• Zkouška na silnici
• Nejen auta
• Plazma pod kontrolou
• Lék na příliš sebejisté chatboty
• Stručně
• Pět otázek: víš, kdy nevíš? (test)

⇑Když tréninková data přestanou stačit

Umělá inteligence dnes sahá téměř všude. Pohání ekonomiku a mění naše domovy, školy i pracoviště. Má však slabé místo, o kterém se mluví méně než o jejích úspěších. Model se učí z konkrétní sady dat a pak musí fungovat ve světě, který nemusí vždy připomínat to, co viděl při trénování. Právě tehdy začínají potíže.

Tímto problémem se zabýval projekt E-pi financovaný z prostředků EU, který koordinovala Oxford Brookes University ve Spojeném království. Jeho tým pět let pracoval na takzvané epistemické umělé inteligenci, tedy na umělé inteligenci, která lépe zvládá nejistotu a dokáže předpovídat i v situacích, jež se liší od trénovacích dat.

⇑Filozofie ve službách algoritmů

Slovo epistemický pochází z epistemologie, tedy z oboru filozofie, který zkoumá poznání. Odtud pochází schopnost, která je pro člověka naprosto přirozená: všimnout si, že to, co víme, v dané situaci nestačí. Je to jeden ze základních prvků lidské inteligence.

Stroj to sám neumí. U umělé inteligence se rozpoznání vlastní nevědomosti musí opírat o teoretické a matematické základy. Jinými slovy, pocit, že si už nejsme jistí, je třeba doslova zapsat do návrhu algoritmu.

⇑V čem je problém

Koordinátor projektu Fabio Cuzzolin upozorňuje, že klasické algoritmy strojového učení se soustředí na vysvětlení poměrně malé trénovací sady, a ne všech dat, která se mohou objevit ve skutečnosti. Důsledek je snadné předvídat. „Tradiční modely umělé inteligence mají potíže s robustními predikcemi, pokud se rozdělení pravděpodobnosti generující data liší od těch při trénování,“ vysvětluje výzkumník.

Zjednodušeně řečeno: model, který dobře zná jen výsek světa, se může ztratit, když narazí na něco mimo tento výsek. Konsorcium E-pi dospělo k závěru, že teorie nejistoty druhého řádu je nejslibnějším základem řešení. Prezentace projektu se na odborných konferencích setkaly s nadšením a Cuzzolin byl přizván k účasti na několika souvisejících návrzích programu Horizont Evropa. Práce týmu má pomoci vybudovat mezinárodní ekosystém epistemické umělé inteligence.

⇑Zkouška na silnici

Kde nejlépe otestovat umělou inteligenci, která má zvládat nepředvídatelné? Výzkumníci zvolili autonomní vozidla. Na silnici se situace může náhle vymknout jakémukoli vzorci, ať už chováním chodců, extrémním počasím nebo neobvyklým uspořádáním silnice. Chyby současných systémů mohou být drahé a v nejhorším případě mohou skončit smrtelným zraněním.

Tým použil datovou sadu ROAD, věnovanou rozpoznávání silničních událostí autonomními vozidly. Posloužila k trénování modelu i k testování nových epistemických detektorů objektů. ROAD se neustále rozšiřuje a obsahuje videa z Evropy, Severní Ameriky, Dubaje a Abú Zabí, díky čemuž se stala skutečně globálním zdrojem.

⇑Nejen auta

Bezpečnější auta bez řidiče jsou jen jedním z cílů. Stejná logika může prospět i dalším oblastem:

• průmyslovým robotům, které musí zvládat nepředvídatelné chování lidí,
• chirurgickým robotům, před stejnou výzvou,
• výzkumu jaderné fúze, kde je třeba předpovídat chování plazmatu,
• generativní umělé inteligenci, včetně velkých jazykových modelů.

⇑Plazma pod kontrolou

Jaderná fúze je obzvlášť náročným příkladem. „Pracujeme na vývoji neuronových operátorů, které si uvědomují nejistotu, aby předpověděly, jak bude fúzní plazma proudit uvnitř tokamaku a které oblasti reaktorů to zasáhne nejvíce,“ říká Cuzzolin. Takové modely mají předpovídat proudění plazmatu uvnitř tokamaku, tedy reaktoru, a ukázat, které jeho oblasti budou nejvíce vystaveny. I tady jde o totéž: model by neměl jen podat výsledek, ale také poctivě říct, jak si je jím jistý.

⇑Lék na příliš sebejisté chatboty

Další směr se týká generativní umělé inteligence. „Současné nejmodernější velké jazykové modely (LLM) jsou známé tím, že vytvářejí nepravdivá tvrzení,“ připouští Cuzzolin. Podle něj může východiskem být modely postavené na novém paradigmatu: „Epistemické LLM mohou výrazně zmírnit přílišnou sebejistotu těchto modelů.“

Plány zahrnují také řešení související s teorií mysli a systémy, které se vyvíjejí díky kontinuálnímu učení. Společný jmenovatel zůstává stejný: umělá inteligence by neměla jen odpovídat, ale také vědět, kdy její odpověď stojí na vratkých základech.

⇑Stručně

Projekt E-pi, jehož celkové náklady činily přibližně 3 miliony eur, přispěl k vývoji bezpečnějších autonomních vozidel a robotů i generativní umělé inteligence, která nehalucinuje. Vybudoval také dynamickou síť odborníků na strojové učení. Jeho autoři tvrdí, že epistemická umělá inteligence má potenciál změnit svět i náš každodenní život. A všechno začíná velmi lidskou dovedností: přiznat, že něco nevíš.

⇑Pět otázek: víš, kdy nevíš? (test)