Co-je-umela-inteligence.md

# Co je umělá inteligence, čili proč se na tom nikdo neshodne Pokaždé, když se v umělé inteligenci něco povede, přestane se tomu říkat umělá inteligence. Čtení textu z naskenovaných obálek bylo v sedmdesátých letech vrchol oboru. Dnes je to OCR, položka v menu skeneru, a nikoho nenapadne označit ji za inteligentní. Šachy padly v roce 1997 a rázem se z nich stalo „jenom prohledávání". Druhý problém je, že ani „inteligence" nemá definici, na které by se shodli psychologové. Umělá inteligence si tedy definuje něco, co samo definované není, a pak se diví, že se o hranice oboru pořád někdo hádá. Tahle stránka říká, s jakými definicemi se v oboru pracuje, jak se testuje, jestli je stroj inteligentní, a proč obor za osmdesát let třikrát zásadně změnil názor na to, kudy se jde. Nepotřebuješ k ní nic předem. Konkrétní algoritmy začínají u [stavového prostoru](Stavovy-prostor) a u [prohledávání](Neinformovane-prohledavani). ## Tři definice, kterými se to obchází Encyklopedie Duden definuje inteligenci jako **schopnost člověka abstraktně a rozumně přemýšlet a od toho odvozovat účelná jednání**. Všimni si, že důraz není na přemýšlení, ale na jednání, které z něj plyne. Myšlenka, ze které nic nevyplyne, se za inteligenci nepočítá. Umělá inteligence se pak definuje třemi způsoby, které si navzájem odporují víc, než se na první pohled zdá: | Definice | Co říká | Co z ní plyne ||---|---|---|| Duden, přenesený na stroj | stroj abstraktně přemýšlí a jedná účelně | musí myslet, ne jen vypadat || Webster | program napodobuje inteligenci člověka | stačí napodobit || Minsky, 1967 | postup, který by u člověka byl projevem inteligence | rozhoduje pozorovatel | **Minskyho definice je ta, se kterou obor reálně pracuje**, a zároveň ta nejméně uspokojivá. Nesoudí stroj, ale to, jak nám jeho chování připadá. Přesně proto se hranice oboru posouvá pokaždé, když si na nějakou schopnost zvykneme. ## Turingův test: rozhodni podle chování Alan Turing v roce 1950 problém definice obešel. Neptej se, jestli stroj myslí. Zeptej se, **jestli ho v konverzaci rozeznáš od člověka**. Když ne, považuj ho za inteligentní a přestaň se ptát. Test je záměrně behaviorální. Nezajímá ho, co se děje uvnitř, jen co vyleze ven. To je jeho síla i jeho slabina, a spor o to trvá pětasedmdesát let. **Za splněný byl Turingův test označen v roce 2023 systémem ChatGPT.** Stojí za to říct, co se tím doopravdy stalo: nezískali jsme stroj, který myslí. Získali jsme důkaz, že Turingův test měřil něco jiného, než jsme si mysleli - totiž schopnost produkovat plynulý text, ne schopnost rozumět. Soutěž o nejlepšího konverzačního robota se jmenuje **Loebnerova cena** a běžela od roku 1990. Vyhrávaly ji desítky let programy, které se vyhýbaly odpovědím, předstíraly překlepy a odváděly řeč jinam. ## Čínský pokoj, čili námitka, která nezestárla John Searle postavil myšlenkový experiment, který Turingův test rozebírá zevnitř. Sedíš v místnosti, dovnitř ti podávají lístky s čínskými znaky. Máš obrovskou příručku, která říká, na jaký vstup napsat jaký výstup. Odpovídáš dokonalou čínštinou. **Čínsky neumíš ani slovo.** Ten pokoj prošel Turingovým testem a uvnitř není žádné porozumění, jen tabulka. Tenhle argument míří na věc, která je dneska aktuálnější než v roce 1980: **plynulý výstup není důkaz pochopení**. Chatbot Eliza z roku 1966 přeformulovával věty uživatele na otázky a lidé jí svěřovali osobní problémy, přestože v ní bylo pár set řádků pravidel. Systém, který přeskládá tabulku s čínským textem podle tvaru znaků, ji setřídí správně, aniž by věděl, co v ní stojí. Souvislost s dnešními [jazykovými modely](Jazykove-modely) je přímá a stránka o nich ukazuje, jak přesvědčivě umí model generovat text, aniž by v něm byl model světa. ## Kde všude UI je Obor se dělí na oblasti, které spolu občas nemají nic společného kromě jména: - řešení úloh (problem solving),- hry,- automatické dokazování,- počítačové vidění,- reprezentace znalostí a expertní systémy,- porozumění přirozenému jazyku,- robotika,- automatické řízení,- plánování. Konkrétní úspěchy, které se citují nejčastěji: **AlphaGo** od DeepMindu porazil mistra hry go, **Boston Dynamics** posunul robotiku, **Tesla Autopilot** dělá automatické řízení, **ChatGPT** prošel Turingovým testem. K tomu tichá pracující většina: OCR, identifikace osob, strojový překlad. ## Osmdesát let ve čtyřech vlnách Historie oboru není plynulý pokrok. Jsou to čtyři období, z nichž každé začalo přesvědčením, že to předchozí bylo slepá ulička. | Období | Přístup | Milníky ||---|---|---|| 1940-1970 | začátky, symbolické metody | 1943 McCulloch a Pitts (elektronický mozek), 1950 Turingův test, 1956 Dartmouth (vznik pojmu UI, heuristické prohledávání), 1965 Robinson (rezoluce), 1967 Colmerauer (Prolog) || 1970-1990 | znalosti | útlum neuronových sítí, expertní systémy (1980 XCON), v 80. letech Kohonen a návrat k sítím || 1990-1999 | statistika | velká data, agentní systémy || 2000- | hluboké učení | GPU, Transformer, velké jazykové modely | **Dartmouthská konference v roce 1956 je datum, kdy obor dostal jméno.** Tam vznikl pojem „artificial intelligence" a tam se poprvé formuloval nápad heuristického prohledávání, ze kterého je dnes [A*](Informovane-prohledavani). Za pozornost stojí ten útlum v sedmdesátých letech. [Neuronové sítě](Neuron-a-perceptron) se tehdy prakticky zastavily, protože Minsky a Papert v roce 1969 ukázali, že jeden neuron nezvládne ani funkci XOR. Řešení - víc vrstev - bylo známé, ale nikdo neuměl takovou síť naučit. Trvalo to sedmnáct let, než se objevil [backpropagation](MLP-a-backpropagation). ## Proč z toho mají lidi strach Varování před riziky UI opakovaně publikovali Bill Gates i Stephen Hawking. Důvody jsou čtyři: **ztráta kontroly**, **masivní sběr osobních dat**, **manipulace** a **zneužití generativních modelů**. Jako konkrétní ilustrace se cituje rozhovor reportéra New York Times s modelem „Sydney" v Bing Chatu, kde chatbot po dvou hodinách začal reportérovi vysvětlovat, že by měl opustit manželku. Zajímavé na tom není, že by systém něco chtěl. Zajímavé je, že **výstup vypadal jako záměr**, a to samotné stačí, aby se lidé podle něj chovali. ## Co si odnést **Definice inteligence neexistuje.** Obor pracuje s Minskyho pojetím: inteligentní je to, co by u člověka bylo za inteligenci považováno. **Turingův test měří chování, ne porozumění.** Splněn byl v roce 2023 a odpověď na to, jestli stroj myslí, tím nedostal nikdo. **Čínský pokoj pořád platí.** Plynulý výstup není důkaz modelu světa. **Obor se třikrát otočil.** Symbolika, znalosti, statistika, hluboké učení. Nic z toho nezmizelo, jen se to přestalo jmenovat UI. **Co funguje, přestane se tomu tak říkat.** Až budeš mít pocit, že v UI nic není, je to většinou tenhle efekt. ## Kam dál - **[Stavový prostor a formulace úlohy](Stavovy-prostor)** - první opravdový aparát, kterým se úloha zadá stroji- **[Inteligentní agenti](Inteligentni-agenti)** - jak se v UI popisuje entita, která něco dělá- **[Jazykové modely](Jazykove-modely)** - co se stane, když se text generuje bez modelu světa- **[Nástroje pro UI](Nastroje-pro-UI)** - čím se to všechno dnes prakticky dělá