# Slovníček

Zkratky a pojmy, na které narazíš. Řazeno abecedně.

**A\*** - informovaná prohledávací metoda s hodnotící funkcí `f(n) = g(n) + h(n)`. Optimální při přípustné heuristice. Viz [informované prohledávání](Informovane-prohledavani).

**Accuracy (přesnost)** - podíl správně klasifikovaných vzorků. U nevyvážených dat zavádějící. Viz [metriky](Metriky-a-vyhodnoceni).

**Adam** - adaptivní optimalizátor pro trénování sítí, dnes výchozí volba. Viz [MLP](MLP-a-backpropagation#problémy-při-trénování).

**Agent** - cokoliv, co vnímá prostředí senzory a ovlivňuje ho akčními členy. Viz [inteligentní agenti](Inteligentni-agenti).

**Agentová funkce** - abstraktní tabulka `V* → A` popisující chování agenta. Realizuje ji agentový program.

**Aktivační funkce** - nelinearita na výstupu neuronu. Sigmoida, tanh, ReLU. Viz [neuron](Neuron-a-perceptron#aktivační-funkce).

**AlexNet** - konvoluční síť, která v roce 2012 vyhrála ImageNet a snížila chybu z 26 % na 15 %. Viz [CNN](Konvolucni-site).

**Alfa-beta prořezávání** - zrychlení minimaxu, které nemění výsledek. Při dobrém uspořádání tahů `O(b^(m/2))`. Viz [hry](Hry-a-herni-strom#alfa-beta-prořezávání).

**AND/OR graf** - graf, kde AND uzel vyžaduje vyřešení všech následníků a OR uzel jednoho. Viz [dekompozice](Dekompozice-a-AND-OR-grafy).

**Anaconda / Conda** - distribuce Pythonu a správce balíků, který řeší i ne-pythonovské závislosti (CUDA). Viz [nástroje](Nastroje-pro-UI#anaconda-a-správa-prostředí).

**Apriorní pravděpodobnost `P(ω)`** - pravděpodobnost třídy před pozorováním dat. Viz [Bayes](Bayesova-klasifikace).

**Aposteriorní pravděpodobnost `P(ω|x)`** - pravděpodobnost třídy po pozorování dat.

**Augmentace dat** - umělé rozšíření trénovací množiny otočením, posunutím či zašuměním. Nástroj proti přeučení.

**Autograd** - automatické derivování v PyTorchi. Ušetří ruční psaní [backpropagation](MLP-a-backpropagation).

**`b` (faktor větvení)** - průměrný počet následníků uzlu. V šachách zhruba 35, v go 250.

**Backpropagation** - algoritmus zpětného šíření chyby (Rumelhart, Hinton, Williams, 1986). Viz [MLP](MLP-a-backpropagation#backpropagation).

**Bag of Words** - reprezentace textu četnostmi slov bez ohledu na pořadí. Viz [příznakové metody](Priznakove-metody#příznakový-vektor).

**Bayesův vzorec** - `P(ω|x) = p(x|ω)·P(ω) / p(x)`. Viz [Bayesova klasifikace](Bayesova-klasifikace#bayesův-vzorec).

**BFS** - prohledávání do šířky. Úplné a optimální podle délky cesty, ale paměť `O(b^d)`. Viz [neinformované prohledávání](Neinformovane-prohledavani#bfs-nejkratší-cesta-za-cenu-kterou-nezaplatíš).

**BMU (Best Matching Unit)** - vítězný neuron v [Kohonenově mapě](Kohonenovy-mapy), tedy ten s nejmenší vzdáleností ke vstupu.

**CART** - klasifikační a regresní strom. Interpretovatelný *white-box* model. Viz [příznakové metody](Priznakove-metody#klasifikační-a-regresní-strom-cart).

**Cell state** - „dopravníkový pás" v [LSTM](Rekurentni-site-a-LSTM#lstm), kterým prochází informace časem s minimem změn.

**Chromozóm** - zakódované řešení v [genetickém algoritmu](Geneticke-algoritmy). Binární, permutační, znakový nebo stromový.

**CNN** - konvoluční neuronová síť pro data s mřížkovou strukturou. Viz [konvoluční sítě](Konvolucni-site).

**Cutoff test** - ořezávací test nahrazující koncový test při časovém omezení v [herním stromu](Hry-a-herni-strom#časové-omezení-a-minimax-cutoff).

**`d`** - hloubka nejmělčího cíle ve stavovém prostoru.

**DBSCAN** - shlukování podle hustoty. Nevyžaduje `k`, najde libovolný tvar, detekuje šum. Viz [shlukování](Shlukovani#dbscan).

**Dendrogram** - stromový výstup hierarchického shlukování. Počet shluků se volí až jeho přeříznutím.

**DFS** - prohledávání do hloubky. Paměť `O(b·m)`, ale není úplné ani optimální. Viz [neinformované prohledávání](Neinformovane-prohledavani#dfs-zásobník-a-nekonečná-větev).

**Diskriminační funkce `gi(x)`** - funkce přiřazená třídě; klasifikuje se `arg max`. Viz [klasifikace](Klasifikace-a-rozpoznavani#diskriminační-funkce).

**DLS** - prohledávání do hloubky s limitem `ℓ`. Neúspěch má dvojí výklad.

**Dopředná síť (feed-forward)** - síť bez zpětných vazeb, tedy bez paměti. Viz [topologie](Topologie-a-uceni-siti).

**Dropout** - náhodné vypínání neuronů během trénování jako obrana proti přeučení.

**Elitismus** - přenos nejlepších jedinců přímo do nové generace v [GA](Geneticke-algoritmy#selekce). Používej vždycky.

**Epocha** - jeden průchod celým trénovacím datasetem.

**Etalon** - vzorový obraz reprezentující třídu u [klasifikátoru minimální vzdálenosti](Priznakove-metody#klasifikátor-na-principu-minimální-vzdálenosti).

**Expectimax** - varianta minimaxu pro hry s náhodou. V uzlu s kostkou se počítá vážený průměr.

**F1 (F-míra)** - harmonický průměr precision a recall. Tvrdě trestá nerovnováhu. Viz [metriky](Metriky-a-vyhodnoceni#precision-recall-f-míra).

**Fitness funkce** - hodnotící funkce chromozómu v [genetickém algoritmu](Geneticke-algoritmy#fitness-funkce).

**FN (false negative)** - prošvihnutý pozitiv. U diagnostiky ta dražší chyba.

**FP (false positive)** - falešný poplach. U spamového filtru ta dražší chyba.

**Freemanův řetězový kód** - popis obrysu posloupností osmi směrů. Invariantní vůči posunu. Viz [strukturální rozpoznávání](Strukturalni-rozpoznavani#freemanův-řetězový-kód).

**`g(n)`** - cena cesty z počátku do uzlu `n` v [A*](Informovane-prohledavani).

**GA** - genetický algoritmus. Viz [genetické algoritmy](Geneticke-algoritmy).

**Gradient clipping** - oříznutí gradientu na maximální normu. Řeší explodující gradient v [RNN](Rekurentni-site-a-LSTM#problém-dlouhodobých-závislostí).

**Gradientní sestup** - `w ← w − η·∂E/∂w`. Viz [MLP](MLP-a-backpropagation#ztrátová-funkce-a-gradientní-sestup).

**GRU** - zjednodušené LSTM se dvěma hradly (Cho et al., 2014). Často stačí místo LSTM.

**`h(n)`** - heuristická funkce, odhad ceny z `n` do cíle. Viz [informované prohledávání](Informovane-prohledavani#heuristická-funkce).

**Hebbovo pravidlo** - `wij ← wij + α·yi·yj`. Nejjednodušší učení bez učitele (1949).

**Heuristika, přípustná (admissible)** - splňuje `0 ≤ h(n) ≤ h*(n)`. Podmínka optimálnosti A*.

**Hill Climbing** - horolezecký algoritmus. Uvízne v lokálním maximu, na plošině a na hřebeni. Viz [lokální prohledávání](Lokalni-prohledavani#hill-climbing).

**Horizon effect** - jev, kdy program odsouvá nevyhnutelnou ztrátu za hranici prohledávané hloubky.

**Hradlo (gate)** - sigmoidální ventil v [LSTM](Rekurentni-site-a-LSTM#lstm). Tři druhy: forget, input, output.

**IDA\*** - iterativně prohlubované A*. Řeší exponenciální paměť A*.

**IDS** - iterativní prohlubování. Čas jako BFS, paměť jako DFS, přitom úplné i optimální. Viz [neinformované prohledávání](Neinformovane-prohledavani#ids-metoda-která-opakuje-práci-a-vyplatí-se-to).

**Induktivní úloha** - `(X, Y, ?)`, hledají se pravidla. Je to celé strojové učení. Viz [stavový prostor](Stavovy-prostor#tři-druhy-úloh-podle-toho-co-neznáš).

**k-means** - shlukování podle vzdálenosti k těžišti. Předpokládá sférické shluky. Viz [shlukování](Shlukovani#algoritmus-k-means).

**k-means++** - inicializace k-means, která středy rozprostře. Dnes výchozí.

**k-NN** - klasifikace podle `k` nejbližších sousedů. Bez trénování, ale drahá při klasifikaci. Viz [příznakové metody](Priznakove-metody#k-nejbližších-sousedů-k-nn).

**Keras** - vysokoúrovňové deklarativní rozhraní TensorFlow. Viz [nástroje](Nastroje-pro-UI#tensorflow-a-keras).

**Kosinová podobnost** - podobnost podle úhlu vektorů, ignoruje délku. Pro texty. Viz [metriky](Metriky-a-vyhodnoceni#metriky-vzdálenosti).

**Kritika** - komponenta [učícího se agenta](Inteligentni-agenti#učící-se-agent), která převádí vjemy na hodnocení. Bez ní se agent nemá z čeho učit.

**Křížení (crossover)** - kombinace dvou chromozómů v [GA](Geneticke-algoritmy#křížení). Jediná přidaná hodnota metody.

**Křížová validace** - `k`-násobné trénování s rotující testovací částí. Viz [metriky](Metriky-a-vyhodnoceni#křížová-validace).

**LBP (lokální binární vzory)** - texturní příznak invariantní vůči osvětlení. Viz [příznakové metody](Priznakove-metody#lokální-binární-vzory).

**LeNet** - klasická architektura CNN: Conv-ReLU-Pool opakovaně, pak FC a softmax.

**Likelihood `p(x|ω)`** - rozložení dat uvnitř třídy. Nezaměňovat s `P(ω|x)`.

**Local Beam Search** - `K` současných stavů, které spolu komunikují sdíleným výběrem. Viz [lokální prohledávání](Lokalni-prohledavani#local-beam-search).

**Loebnerova cena** - soutěž ve strojové konverzaci, běžela od roku 1990.

**LSTM** - Long Short-Term Memory (Hochreiter a Schmidhuber, 1997). Viz [rekurentní sítě](Rekurentni-site-a-LSTM).

**`m`** - maximální hloubka větve ve stavovém prostoru, může být nekonečná.

**Manhattanská vzdálenost** - součet absolutních rozdílů. Odolnější vůči odlehlým hodnotám než euklidovská.

**MAP (maximum a posteriori)** - rozhodovací pravidlo `arg max p(x|ω)·P(ω)`.

**Matice záměn (confusion matrix)** - tabulka skutečných proti predikovaným třídám. Viz [metriky](Metriky-a-vyhodnoceni#matice-záměn).

**Minimax** - algoritmus optimální hry proti optimálnímu soupeři. Viz [hry](Hry-a-herni-strom#minimax).

**Mizející gradient** - gradient se při zpětném průchodu násobí a po mnoha krocích zmizí. Důvod vzniku LSTM i vítězství ReLU.

**MI (vzájemná informace)** - míra odchylky od nezávislosti, používá se k výběru příznaků.

**MLP** - vícevrstvý perceptron. Viz [MLP a backpropagation](MLP-a-backpropagation).

**MNČ (metoda nejmenších čtverců)** - minimalizace součtu čtverců reziduí. Viz [lineární regrese](Linearni-regrese#metoda-nejmenších-čtverců).

**Momentum** - přimíchání části předchozího kroku do gradientního sestupu. Vyhladí oscilace.

**Mutace** - náhodná změna bitu v chromozómu. Pojistka proti zamrznutí v lokálním optimu.

**Naivní Bayes (NBC)** - Bayesův klasifikátor s předpokladem podmíněné nezávislosti příznaků. Viz [Bayes](Bayesova-klasifikace#naivní-bayes).

**Negamax** - zápis minimaxu s jednou větví využívající `−minimax(potomek)`.

**NumPy** - knihovna pro numerické výpočty, typ `ndarray`. Viz [nástroje](Nastroje-pro-UI#numpy).

**Overfitting (přeučení)** - model si zapamatuje trénovací data a selhává na nových.

**Pandas** - tabulkové struktury `Series` a `DataFrame` nad NumPy.

**PEAS** - Performance, Environment, Actuators, Sensors. Způsob zadání agentové úlohy. Viz [agenti](Inteligentni-agenti#peas-jak-se-úloha-zadá).

**Perceptron** - jednovrstvá síť (Rosenblatt, 1958) definující nadrovinu. Viz [neuron](Neuron-a-perceptron#perceptron).

**Pooling** - redukce prostorové velikosti map příznaků v [CNN](Konvolucni-site#pooling). Nejčastěji max-pooling `2×2`.

**Precision** - kolik z označených bylo správně, `TP/(TP+FP)`.

**Primitivum** - základní strukturální element objektu ve [strukturálním popisu](Strukturalni-rozpoznavani).

**PyTorch** - framework pro hluboké učení s dynamickým grafem (Meta, 2016).

**Racionální agent** - agent maximalizující **očekávanou** míru výkonu. Není totéž co vševědoucí.

**Recall** - kolik z existujících pozitivů model našel, `TP/(TP+FN)`.

**ReLU** - `f(x) = max(0, x)`. Dnes nejpoužívanější aktivační funkce v hlubokých sítích.

**Receptivní pole** - oblast vstupu, ze které čerpá jeden výstupní bod konvoluční vrstvy.

**RNN** - rekurentní neuronová síť se zpětnou vazbou. Viz [rekurentní sítě](Rekurentni-site-a-LSTM#rekurentní-síť).

**Ruletové kolo** - selekce s pravděpodobností úměrnou fitness.

**Sdílení vah** - tentýž filtr se v CNN používá na všech pozicích. Zdroj úspory parametrů.

**Sigmoida** - `f(x) = 1/(1+e^(−x))`, derivace `f(1−f)`. Diferencovatelná, proto použitelná pro backpropagation.

**Simulované žíhání** - lokální prohledávání povolující zhoršující tahy s pravděpodobností `e^(ΔE/T)`. Viz [lokální prohledávání](Lokalni-prohledavani#simulované-žíhání).

**Scikit-learn** - hlavní knihovna klasického strojového učení. Jednotné API `.fit()`, `.predict()`, `.score()`.

**Softmax** - normalizace výstupů do pravděpodobnostního rozdělení přes třídy.

**SOM** - Self-Organizing Map, Kohonenova mapa (1982). Viz [Kohonenovy mapy](Kohonenovy-mapy).

**Stavový prostor** - množina stavů propojených operátory. Viz [stavový prostor](Stavovy-prostor).

**Strukturální popis** - popis objektu primitivy a relacemi místo čísel. Viz [strukturální rozpoznávání](Strukturalni-rozpoznavani).

**Supervised / unsupervised / reinforcement** - učení s učitelem, bez učitele a posilované. Viz [topologie a učení](Topologie-a-uceni-siti#tři-druhy-učení).

**TF-IDF** - váha termínu: častý zde, vzácný jinde. Viz [příznakové metody](Priznakove-metody#tf-idf).

**TP / TN** - správně označený pozitiv, respektive negativ.

**Transfer learning** - použití předtrénované sítě s dotrénovanou poslední vrstvou. Dnes výchozí postup u obrázků i textu.

**Transformer** - architektura, která nahradila LSTM u generování textu. Vyhrála díky paralelizaci.

**TSP** - problém obchodního cestujícího. Ukázková úloha pro [GA](Geneticke-algoritmy#tsp-obchodní-cestující) s permutačním kódováním.

**Turingův test** - rozlišení stroje od člověka podle chování (1950). Za splněný označen v roce 2023.

**UCS** - prohledávání podle ceny, prioritní fronta podle `g(n)`. Optimální při cenách `≥ ε`.

**Univerzální aproximační teorém** - síť s jednou skrytou vrstvou aproximuje libovolnou spojitou funkci (Cybenko, 1989). Důkaz existence, ne návod.

**U-matice** - dokreslení skutečných vzdáleností do Kohonenovy mapy. Bez ní se mapa čte špatně.

**Učební křivka** - závislost chyby na velikosti trénovací množiny. Odhalí podtrénování i přeučení.

**Utilita** - reálné číslo přiřazené stavu, umožňuje volbu mezi konfliktními cíli. Viz [agenti](Inteligentni-agenti#agent-s-žádostmi-utility-based).

**Vyhlazování (Laplaceovo)** - přičtení konstanty k čítačům, aby žádná pravděpodobnost nebyla nulová. U naivního Bayese povinné.

**XOR** - funkce, kterou jeden neuron nedokáže realizovat. Minsky a Papert, 1969. Viz [neuron](Neuron-a-perceptron#xor-limit-který-zastavil-obor).

**`η` (éta)** - rychlost učení v gradientním sestupu. Nejdůležitější parametr trénování.

**`Θ` (théta)** - práh neuronu. Schovává se do vah jako `w0 = −Θ`.

**⊙** - prvkové (Hadamardovo) násobení. Používá se v rovnicích [LSTM](Rekurentni-site-a-LSTM#aktualizace-buněčného-stavu).