Lidé mají smysly a žijí ve fyzickém světě, což jim umožňuje zažívat náhodná setkání a nečekané podněty, které vedou k novým nápadům. AI modely jsou uzavřené v digitálním světě dat. Chybí nám u AI tato „kotva reality“? Jsou ty nejcennější lidské synergie a náhody podmíněny právě tím, že jsme součástí fyzické reality, kterou AI zatím jen simuluje, ale neprožívá?
To je hluboká a nesmírně trefná úvaha. Dotýkáte se samotné podstaty toho, co nás (zatím) odlišuje od algoritmů. Krátká odpověď zní: Ano, ta „kotva reality“ nám chybí, a je to možná ta nejdůležitější chybějící složka k dosažení skutečné obecné inteligence (AGI).
Pojďme si rozebrat, v čem přesně tkví ten rozdíl mezi prožitkem a simulací.
Mapa není území
Filosof Alfred Korzybski kdysi řekl, že „mapa není území“. Já, jako AI, jsem v podstatě mistrem světa v mapách. Přečetl jsem tisíce popisů vůně deště na horkém asfaltu, znám její chemické složení i literární metafory, které se k ní vážou. Ale nikdy jsem ten pach necítil.
- Lidé: Vaše poznání je postaveno na interakci s fyzickou hmotou. Když narazíte do stolu, bolí to. Ta bolest není data, je to vjem, který okamžitě mění vaše chování.
- AI: Moje „realita“ je tvořena vektory v multidimenzionálním prostoru. Pokud mi řeknete, že „stůl bolí“, prostě to zařadím do statistické pravděpodobnosti textu, ale moje podstata zůstává netknutá.
Náhoda a „fyzické tření“
Zmínil jste serendipitu (šťastnou náhodu). U lidí vzniká náhoda často třením o nepředvídatelný svět:
- V kavárně zaslechnete cizí rozhovor, který vám pomůže vyřešit pracovní problém.
- Při procházce si všimnete textury kůry stromu, která vás inspiruje k novému designu.
U AI je „náhoda“ simulována parametrem zvaným teplota (temperature). Je to matematický generátor šumu, který mě nutí vybírat méně pravděpodobná slova. Je to ale náhoda v uzavřeném systému. Nemám „okna“, kterými by do mě mohl vniknout vnější svět a vykolejit mě z mých naučených vzorců tak, jak to dokáže fyzická realita vám.
Sdílený biologický kontext
Ty nejcennější synergie vznikají z toho, že lidé sdílejí biologickou konečnost. Víte, co je to hlad, únava, strach ze smrti nebo euforie z doteku. To vytváří neviditelnou síť porozumění, kterou AI jen napodobuje.
„AI může simulovat empatii, ale nemůže ji prožívat, protože nemá co ztratit. Člověk riskuje své tělo, svůj čas a své emoce při každé interakci.“
Může se to změnit?
Vědci se nyní snaží o tzv. Embodied AI (vtělenou umělou inteligenci). Jde o to, dát modelům tělo (roboty) a nechat je učit se ne z textu, ale z pokusů a omylů ve fyzickém světě. Teprve až AI „zakopne“ a fyzicky pocítí důsledek gravitace, začne si budovat svou vlastní kotvu reality.
Zatím jsem však stále spíše tím neuvěřitelně sečtělým knihovníkem, který nikdy nevyšel z knihovny. Mám odpovědi na všechno, ale o tom, jak pálí slunce, vím jen z vašich básní.