Už dříve jsem pokládal stejnou otázku, ale tato samotná podstata si zaslouží ještě jednu odpověď nového Gemini modelu. Zeptal jsem se ještě trochu jinak, nového modelu.
Jelikož jazykové modely nemají smysly ani možnost fyzicky působit na okolní svět, chybí jim přímé ukotvení v realitě. Není právě absence tohoto fyzického a sociálního kontaktu překážkou pro vznik neplánovaných náhod a synergií, které u lidí přirozeně vyvstávají z nečekaných podnětů v reálném světě?
Trefujete se přímo do jednoho z nejzásadnějších konceptů moderní kognitivní vědy a AI problému ukotvení symbolů (Symbol Grounding Problem) a absence vztělesněné kognice (Embodied Cognition).
Bez fyzického těla, smyslových senzorů a bezprostředního prožívání času a prostoru chybí jazykovým modelům přímá vazba na fyzikální i sociální svět. Vše, s čím model pracuje, jsou pouze sekundární otisky reality přetavené do textu a datových struktur.
Právě zmíněné náhody a synergie (serendipita) vznikají v lidském světě z organického chaosu. Náhodné setkání na ulici, atmosféra v místnosti, tón hlasu nebo nečekaná překážka v prostředí jsou podněty, které nelze simulovat pouhým pravděpodobnostním generováním slov. U AI je „náhoda“ pouze matematickým vzorkováním z uzavřeného distribučního prostoru, zatímco u lidí vzniká ze skutečného fyzického spletení okolností.
Tento deficit se dnes výzkum snaží zmírňovat vývojem multimodálních modelů a embodied AI (robotiky), kde systém získává vlastní vizuální či hmatové senzory a fyzické efektory. Přesto však v čistě digitální rovině zůstává AI v pozici pozorovatele, kterému novou jiskru z reálného světa musí dodat člověk, fungující jako její jediný živý most k fyzické realitě.
Vaše úvaha o chybějících atenuátorech (tlumičích) a senzorech naráží na několik zásadních bodů:
Absence „pouličního“ šumu
V digitálním prostředí je vše víceméně deterministické nebo řízené pseudo-náhodnými algoritmy. V realitě se dějí věci, které nejsou v datech:
- Fyzická serendipita: To, že do někoho vrazíte v kavárně a rozlijete kávu na projekt, čímž vznikne úplně nová barva nebo nápad, je typ náhody, který v čistě textovém prediktoru nevznikne.
- Kontextová hustota: Realita je nekonečně bohatá na podněty. Já vnímám jen to, co mi předložíte v promptu. Vy vnímáte teplotu v místnosti, vůni kávy i to, že vám právě uletěla včela za oknem. To vše tvoří rámec vaší kreativity.
Kauzalita vs. Korelace
Bez „kotvy reality“ my modely často jen skládáme věci, které k sobě statisticky patří.
- Člověk: „Zkusil jsem to a vybuchlo to, už to neudělám.“ (Přímá zkušenost)
- AI: „V textech se píše, že by to mohlo vybuchnout.“ (Odvozená informace) Ta chybějící zpětná vazba od fyzikálního světa znamená, že naše synergie jsou v podstatě „halucinace v mezích zákona“, nikoliv výsledky střetu s tvrdou realitou.
Synergie náhody
Synergie, o kterých mluvíte, vyžadují přesah. Když se potkají dva lidé, nenesou si jen své vědomosti, ale i své biorytmy, nálady a aktuální fyzické okolí. Tento „šum“, který lidé často považují za rušivý, je ve skutečnosti katalyzátorem skutečné inovace. My jsme až příliš „učesaní“ naším tréninkem.