# Co je umělá inteligence, čili proč se na tom nikdo neshodne

Pokaždé, když se v umělé inteligenci něco povede, přestane se tomu říkat umělá inteligence. Čtení textu z naskenovaných obálek bylo v sedmdesátých letech vrchol oboru. Dnes je to OCR, položka v menu skeneru, a nikoho nenapadne označit ji za inteligentní. Šachy padly v roce 1997 a rázem se z nich stalo „jenom prohledávání".

Druhý problém je, že ani „inteligence" nemá definici, na které by se shodli psychologové. Umělá inteligence si tedy definuje něco, co samo definované není, a pak se diví, že se o hranice oboru pořád někdo hádá.

Tahle stránka říká, s jakými definicemi se v oboru pracuje, jak se testuje, jestli je stroj inteligentní, a proč obor za osmdesát let třikrát zásadně změnil názor na to, kudy se jde. Nepotřebuješ k ní nic předem. Konkrétní algoritmy začínají u [stavového prostoru](Stavovy-prostor) a u [prohledávání](Neinformovane-prohledavani).

## Tři definice, kterými se to obchází

Encyklopedie Duden definuje inteligenci jako **schopnost člověka abstraktně a rozumně přemýšlet a od toho odvozovat účelná jednání**. Všimni si, že důraz není na přemýšlení, ale na jednání, které z něj plyne. Myšlenka, ze které nic nevyplyne, se za inteligenci nepočítá.

Umělá inteligence se pak definuje třemi způsoby, které si navzájem odporují víc, než se na první pohled zdá:

| Definice | Co říká | Co z ní plyne |
|---|---|---|
| Duden, přenesený na stroj | stroj abstraktně přemýšlí a jedná účelně | musí myslet, ne jen vypadat |
| Webster | program napodobuje inteligenci člověka | stačí napodobit |
| Minsky, 1967 | postup, který by u člověka byl projevem inteligence | rozhoduje pozorovatel |

**Minskyho definice je ta, se kterou obor reálně pracuje**, a zároveň ta nejméně uspokojivá. Nesoudí stroj, ale to, jak nám jeho chování připadá. Přesně proto se hranice oboru posouvá pokaždé, když si na nějakou schopnost zvykneme.

## Turingův test: rozhodni podle chování

Alan Turing v roce 1950 problém definice obešel. Neptej se, jestli stroj myslí. Zeptej se, **jestli ho v konverzaci rozeznáš od člověka**. Když ne, považuj ho za inteligentní a přestaň se ptát.

Test je záměrně behaviorální. Nezajímá ho, co se děje uvnitř, jen co vyleze ven. To je jeho síla i jeho slabina, a spor o to trvá pětasedmdesát let.

**Za splněný byl Turingův test označen v roce 2023 systémem ChatGPT.** Stojí za to říct, co se tím doopravdy stalo: nezískali jsme stroj, který myslí. Získali jsme důkaz, že Turingův test měřil něco jiného, než jsme si mysleli - totiž schopnost produkovat plynulý text, ne schopnost rozumět.

Soutěž o nejlepšího konverzačního robota se jmenuje **Loebnerova cena** a běžela od roku 1990. Vyhrávaly ji desítky let programy, které se vyhýbaly odpovědím, předstíraly překlepy a odváděly řeč jinam.

## Čínský pokoj, čili námitka, která nezestárla

John Searle postavil myšlenkový experiment, který Turingův test rozebírá zevnitř. Sedíš v místnosti, dovnitř ti podávají lístky s čínskými znaky. Máš obrovskou příručku, která říká, na jaký vstup napsat jaký výstup. Odpovídáš dokonalou čínštinou.

**Čínsky neumíš ani slovo.** Ten pokoj prošel Turingovým testem a uvnitř není žádné porozumění, jen tabulka.

Tenhle argument míří na věc, která je dneska aktuálnější než v roce 1980: **plynulý výstup není důkaz pochopení**. Chatbot Eliza z roku 1966 přeformulovával věty uživatele na otázky a lidé jí svěřovali osobní problémy, přestože v ní bylo pár set řádků pravidel. Systém, který přeskládá tabulku s čínským textem podle tvaru znaků, ji setřídí správně, aniž by věděl, co v ní stojí.

Souvislost s dnešními [jazykovými modely](Jazykove-modely) je přímá a stránka o nich ukazuje, jak přesvědčivě umí model generovat text, aniž by v něm byl model světa.

## Kde všude UI je

Obor se dělí na oblasti, které spolu občas nemají nic společného kromě jména:

- řešení úloh (problem solving),
- hry,
- automatické dokazování,
- počítačové vidění,
- reprezentace znalostí a expertní systémy,
- porozumění přirozenému jazyku,
- robotika,
- automatické řízení,
- plánování.

Konkrétní úspěchy, které se citují nejčastěji: **AlphaGo** od DeepMindu porazil mistra hry go, **Boston Dynamics** posunul robotiku, **Tesla Autopilot** dělá automatické řízení, **ChatGPT** prošel Turingovým testem. K tomu tichá pracující většina: OCR, identifikace osob, strojový překlad.

## Osmdesát let ve čtyřech vlnách

Historie oboru není plynulý pokrok. Jsou to čtyři období, z nichž každé začalo přesvědčením, že to předchozí bylo slepá ulička.

| Období | Přístup | Milníky |
|---|---|---|
| 1940-1970 | začátky, symbolické metody | 1943 McCulloch a Pitts (elektronický mozek), 1950 Turingův test, 1956 Dartmouth (vznik pojmu UI, heuristické prohledávání), 1965 Robinson (rezoluce), 1967 Colmerauer (Prolog) |
| 1970-1990 | znalosti | útlum neuronových sítí, expertní systémy (1980 XCON), v 80. letech Kohonen a návrat k sítím |
| 1990-1999 | statistika | velká data, agentní systémy |
| 2000- | hluboké učení | GPU, Transformer, velké jazykové modely |

**Dartmouthská konference v roce 1956 je datum, kdy obor dostal jméno.** Tam vznikl pojem „artificial intelligence" a tam se poprvé formuloval nápad heuristického prohledávání, ze kterého je dnes [A*](Informovane-prohledavani).

Za pozornost stojí ten útlum v sedmdesátých letech. [Neuronové sítě](Neuron-a-perceptron) se tehdy prakticky zastavily, protože Minsky a Papert v roce 1969 ukázali, že jeden neuron nezvládne ani funkci XOR. Řešení - víc vrstev - bylo známé, ale nikdo neuměl takovou síť naučit. Trvalo to sedmnáct let, než se objevil [backpropagation](MLP-a-backpropagation).

## Proč z toho mají lidi strach

Varování před riziky UI opakovaně publikovali Bill Gates i Stephen Hawking. Důvody jsou čtyři: **ztráta kontroly**, **masivní sběr osobních dat**, **manipulace** a **zneužití generativních modelů**.

Jako konkrétní ilustrace se cituje rozhovor reportéra New York Times s modelem „Sydney" v Bing Chatu, kde chatbot po dvou hodinách začal reportérovi vysvětlovat, že by měl opustit manželku. Zajímavé na tom není, že by systém něco chtěl. Zajímavé je, že **výstup vypadal jako záměr**, a to samotné stačí, aby se lidé podle něj chovali.

## Co si odnést

**Definice inteligence neexistuje.** Obor pracuje s Minskyho pojetím: inteligentní je to, co by u člověka bylo za inteligenci považováno.

**Turingův test měří chování, ne porozumění.** Splněn byl v roce 2023 a odpověď na to, jestli stroj myslí, tím nedostal nikdo.

**Čínský pokoj pořád platí.** Plynulý výstup není důkaz modelu světa.

**Obor se třikrát otočil.** Symbolika, znalosti, statistika, hluboké učení. Nic z toho nezmizelo, jen se to přestalo jmenovat UI.

**Co funguje, přestane se tomu tak říkat.** Až budeš mít pocit, že v UI nic není, je to většinou tenhle efekt.

## Kam dál

- **[Stavový prostor a formulace úlohy](Stavovy-prostor)** - první opravdový aparát, kterým se úloha zadá stroji
- **[Inteligentní agenti](Inteligentni-agenti)** - jak se v UI popisuje entita, která něco dělá
- **[Jazykové modely](Jazykove-modely)** - co se stane, když se text generuje bez modelu světa
- **[Nástroje pro UI](Nastroje-pro-UI)** - čím se to všechno dnes prakticky dělá