Co je umělá inteligence, čili proč se na tom nikdo neshodne

Pokaždé, když se v umělé inteligenci něco povede, přestane se tomu říkat umělá inteligence. Čtení textu z naskenovaných obálek bylo v sedmdesátých letech vrchol oboru. Dnes je to OCR, položka v menu skeneru, a nikoho nenapadne označit ji za inteligentní. Šachy padly v roce 1997 a rázem se z nich stalo „jenom prohledávání".

Druhý problém je, že ani „inteligence" nemá definici, na které by se shodli psychologové. Umělá inteligence si tedy definuje něco, co samo definované není, a pak se diví, že se o hranice oboru pořád někdo hádá.

Tahle stránka říká, s jakými definicemi se v oboru pracuje, jak se testuje, jestli je stroj inteligentní, a proč obor za osmdesát let třikrát zásadně změnil názor na to, kudy se jde. Nepotřebuješ k ní nic předem. Konkrétní algoritmy začínají u stavového prostoru a u prohledávání.

Tři definice, kterými se to obchází

Encyklopedie Duden definuje inteligenci jako schopnost člověka abstraktně a rozumně přemýšlet a od toho odvozovat účelná jednání. Všimni si, že důraz není na přemýšlení, ale na jednání, které z něj plyne. Myšlenka, ze které nic nevyplyne, se za inteligenci nepočítá.

Umělá inteligence se pak definuje třemi způsoby, které si navzájem odporují víc, než se na první pohled zdá:

Minskyho definice je ta, se kterou obor reálně pracuje, a zároveň ta nejméně uspokojivá. Nesoudí stroj, ale to, jak nám jeho chování připadá. Přesně proto se hranice oboru posouvá pokaždé, když si na nějakou schopnost zvykneme.

Turingův test: rozhodni podle chování

Alan Turing v roce 1950 problém definice obešel. Neptej se, jestli stroj myslí. Zeptej se, jestli ho v konverzaci rozeznáš od člověka. Když ne, považuj ho za inteligentní a přestaň se ptát.

Test je záměrně behaviorální. Nezajímá ho, co se děje uvnitř, jen co vyleze ven. To je jeho síla i jeho slabina, a spor o to trvá pětasedmdesát let.

Za splněný byl Turingův test označen v roce 2023 systémem ChatGPT. Stojí za to říct, co se tím doopravdy stalo: nezískali jsme stroj, který myslí. Získali jsme důkaz, že Turingův test měřil něco jiného, než jsme si mysleli - totiž schopnost produkovat plynulý text, ne schopnost rozumět.

Soutěž o nejlepšího konverzačního robota se jmenuje Loebnerova cena a běžela od roku 1990. Vyhrávaly ji desítky let programy, které se vyhýbaly odpovědím, předstíraly překlepy a odváděly řeč jinam.

Čínský pokoj, čili námitka, která nezestárla

John Searle postavil myšlenkový experiment, který Turingův test rozebírá zevnitř. Sedíš v místnosti, dovnitř ti podávají lístky s čínskými znaky. Máš obrovskou příručku, která říká, na jaký vstup napsat jaký výstup. Odpovídáš dokonalou čínštinou.

Čínsky neumíš ani slovo. Ten pokoj prošel Turingovým testem a uvnitř není žádné porozumění, jen tabulka.

Tenhle argument míří na věc, která je dneska aktuálnější než v roce 1980: plynulý výstup není důkaz pochopení. Chatbot Eliza z roku 1966 přeformulovával věty uživatele na otázky a lidé jí svěřovali osobní problémy, přestože v ní bylo pár set řádků pravidel. Systém, který přeskládá tabulku s čínským textem podle tvaru znaků, ji setřídí správně, aniž by věděl, co v ní stojí.

Souvislost s dnešními jazykovými modely je přímá a stránka o nich ukazuje, jak přesvědčivě umí model generovat text, aniž by v něm byl model světa.

Kde všude UI je

Obor se dělí na oblasti, které spolu občas nemají nic společného kromě jména:

• řešení úloh (problem solving),
• hry,
• automatické dokazování,
• počítačové vidění,
• reprezentace znalostí a expertní systémy,
• porozumění přirozenému jazyku,
• robotika,
• automatické řízení,
• plánování.

Konkrétní úspěchy, které se citují nejčastěji: AlphaGo od DeepMindu porazil mistra hry go, Boston Dynamics posunul robotiku, Tesla Autopilot dělá automatické řízení, ChatGPT prošel Turingovým testem. K tomu tichá pracující většina: OCR, identifikace osob, strojový překlad.

Osmdesát let ve čtyřech vlnách

Historie oboru není plynulý pokrok. Jsou to čtyři období, z nichž každé začalo přesvědčením, že to předchozí bylo slepá ulička.

Dartmouthská konference v roce 1956 je datum, kdy obor dostal jméno. Tam vznikl pojem „artificial intelligence" a tam se poprvé formuloval nápad heuristického prohledávání, ze kterého je dnes A*.

Za pozornost stojí ten útlum v sedmdesátých letech. Neuronové sítě se tehdy prakticky zastavily, protože Minsky a Papert v roce 1969 ukázali, že jeden neuron nezvládne ani funkci XOR. Řešení - víc vrstev - bylo známé, ale nikdo neuměl takovou síť naučit. Trvalo to sedmnáct let, než se objevil backpropagation.

Proč z toho mají lidi strach

Varování před riziky UI opakovaně publikovali Bill Gates i Stephen Hawking. Důvody jsou čtyři: ztráta kontroly, masivní sběr osobních dat, manipulace a zneužití generativních modelů.

Jako konkrétní ilustrace se cituje rozhovor reportéra New York Times s modelem „Sydney" v Bing Chatu, kde chatbot po dvou hodinách začal reportérovi vysvětlovat, že by měl opustit manželku. Zajímavé na tom není, že by systém něco chtěl. Zajímavé je, že výstup vypadal jako záměr, a to samotné stačí, aby se lidé podle něj chovali.

Co si odnést

Definice inteligence neexistuje. Obor pracuje s Minskyho pojetím: inteligentní je to, co by u člověka bylo za inteligenci považováno.

Turingův test měří chování, ne porozumění. Splněn byl v roce 2023 a odpověď na to, jestli stroj myslí, tím nedostal nikdo.

Čínský pokoj pořád platí. Plynulý výstup není důkaz modelu světa.

Obor se třikrát otočil. Symbolika, znalosti, statistika, hluboké učení. Nic z toho nezmizelo, jen se to přestalo jmenovat UI.

Co funguje, přestane se tomu tak říkat. Až budeš mít pocit, že v UI nic není, je to většinou tenhle efekt.

Kam dál

• Stavový prostor a formulace úlohy - první opravdový aparát, kterým se úloha zadá stroji
• Inteligentní agenti - jak se v UI popisuje entita, která něco dělá
• Jazykové modely - co se stane, když se text generuje bez modelu světa
• Nástroje pro UI - čím se to všechno dnes prakticky dělá