Spúšťanie robotov? Čo sú halucinácie umelej inteligencie?

Vo svojom kultovom románe inšpirovanom Blade Runnerom Snívajú androidi o elektrických ovciach, sa autor Philip K. Dick zamýšľal nad etickými a filozofickými otázkami, ktoré sa vynárajú, keď si umelé bytosti vyvinú vedomie podobné ľudskému. V románe sa skúma, či je človekom vytvorená bytosť schopná nadobudnúť vlastnosti vnímania, ako je sebauvedomenie, pociťovanie emócií a schopnosť vnímať. Čo by to znamenalo pre hranice, ktoré existujú medzi ľudskou a umelou inteligenciou?

Bezprecedentný prístup k umelej inteligencii

Tu, samozrejme, prichádzajú na rad halucinácie umelej inteligencie. S nedávnym prílevom veľkých jazykových modelov (LLM) ako je ChatGPT, sme sa stretli s umelou inteligenciou spôsobom, aký nebol nikdy predtým možný. Výhody aj nevýhody sú početné a kontroverzné. Jednou z najfascinujúcejších/frustrujúcich/desivých/smiešnych (v závislosti od vášho pohľadu) veci, ktoré sa objavili v rámci tohto technologického vývoja, boli halucinácie o umelej inteligencii. Tieto "halucinácie" sa prejavujú v tom, že LLM prezentujú nepravdivé, zavádzajúce alebo iracionálne informácie, akoby to boli fakty. Mnohí používatelia zistili, že odpovede na ich otázky, ktoré im tieto systémy poskytli, boli preukázateľne nepravdivé. Zdá sa, že sa to vo všeobecnosti stáva vtedy, keď systém LLM nemá k dispozícii dostatočne kvalitné údaje alebo dostatočný kontext, z ktorého by mohol vychádzať. 

Môže stroj halucinovať?

Výraz, ktorý bol pre túto chybu zvolený, "halucinácie", je zaujímavý. Na prvý pohľad sa môže zdať paradoxný, keďže halucinácie sa tradične spájajú s ľudskými alebo zvieracími mozgami, nie s chladnými, tvrdými strojmi. Z metaforického hľadiska však, halucinácie sa ukazuje ako pomerne presný termín na opis týchto porúch, najmä v prípadoch rozpoznávania obrazu a vzorov. 

Viete, ako vidíte postavy v oblakoch alebo tváre v neživých predmetoch? Ide o veľmi prirodzený ľudský jav, ktorý sa nazýva pareidolia. Halucinácie umelej inteligencie by sa však dali označiť za podobné, pretože v spleti údajov hľadajú rozpoznateľné vzory. K ich nesprávnej interpretácii môže dôjsť v dôsledku rôznych faktorov vrátane skreslenia/nepresnosti tréningových údajov, nadmerného prispôsobenia a vysokej zložitosti modelu. 

Realita, ktorej nerozumejú

LLM používajú jazykovú štatistiku na vytváranie odpovedí o realite, ktorej v skutočnosti nerozumejú. Ich odpovede sa môžu zdať správne (s príkladnou gramatikou, sémantikou atď.) ale niekedy to môže byť úplný nezmysel. Zle vycvičená umelá inteligencia bude mať prirodzené predsudky a slepé miesta, čo znamená, že sa bude snažiť vyplniť prázdne miesta v snahe odpovedať na vašu otázku. Avšak "prázdne miesta", na ktoré môže prísť, môžu byť celkom z iného sveta. 

Niektorí ľudia majú (skôr romanticky) prirovnal halucinácie umelej inteligencie k našim ľudským snom v tom zmysle, že kreatívne spájajú zdanlivo náhodné údaje bez logického základu. Tieto bláznivé reakcie môžu mať svoje výhody. Môžu sa použiť na inšpiráciu "netradičného" myslenia alebo ako východisko pre písanie, hudbu či umenie. Môžu však byť aj škodlivé. Môžu šíriť falošné správy a nepravdivé informácie, čo môže mať samozrejme nebezpečné dôsledky. Nechcete predsa riskovať halucinácie umelej inteligencie, keď ide o samojazdiace autá alebo lekárske diagnózy! 

V snahe zachrániť povesť umelej inteligencie u verejnosti vedci vedú vojnu proti halucináciám metódami, ktoré boli vyvinuté na boj proti nim. 

Ako vám lepšie kladenie otázok prinesie lepšie odpovede

Jednou z týchto metód je "Prompt Engineering". To kladie na nás, používateľov, aby sme si dôkladne premysleli, ako formulujeme otázky, ktoré kladieme LLM. Ide o to, aby sme sa pýtali vpravo otázka. Výzva je v podstate kontext a súbor inštrukcií, ktoré dáte LLM, ako je ChatGPT, aby ste získali vhodnú odpoveď. Úspešná výzva zahŕňa zahrnutie jasného kontextu a pohľadu na to, čo sa pýtate, zadanie "úlohy" generátoru umelej inteligencie a dokonca aj načrtnutie toho, ako chcete, aby bola odpoveď štruktúrovaná. 

Nejde len o to, aby ste do Googlu zadali niekoľko kľúčových slov. Na dosiahnutie čo najlepšieho a najpresnejšieho výsledku môže byť niekedy potrebných viacero podnetov. V podstate musíte mať plne pod kontrolou svoje vstupné údaje, aby ste mohli usmerňovať svoj výstup, čo je spôsob práca s existujúcim systémom bez toho, aby sa podstatne zmenilo jeho naprogramovanie. Čím kvalitnejšiu výzvu vložíte, tým kvalitnejšiu odpoveď dostanete. 

Ako "Promt Engineering" súvisí s psychedelickým trippingom

"Fascinujúce veci!" - by ste mohli povedať - "Ale čo to má spoločné s psychedelickými látkami?!" No, úprimne povedané, nie je toho veľa, okrem odvolávania sa nahalucinácie. Metódy, ktorými môžete potlačiť halucinácie umelej inteligencie, nás však prinútili zamyslieť sa nad tým, ako ovplyvňujeme naše vlastné, cielené halucinácie - t. j. psychedelické výlety. 

Táto myšlienka prispôsobenia vstupov na zabezpečenie dobrého výstupu je v mnohých ohľadoch podobná myšlienke nastavenie zámerua ďalšia práca, ktorú vykonávame, aby sme pripravte sa na psychedelický trip vo vyšších dávkach. Avšak namiesto toho, aby sme sa vyhli "nesprávnym" odpovediam. (niekto môže povedať, že na psychedelickom tripe neexistujú zlé odpovede!) robíme to preto, aby sme získali čo najhlbší a najgeneratívnejší zážitok. Stanovenie zámeru je v istom zmysle "otázkou". 'Nastavenie a nastavenie' je ako kontext. 

Hoci na rozdiel od umelej inteligencie sú naše halucinácie, sny a blúdenie mysľou zvyčajne pozitívnou vecou, vypestovanie si úrovne sústredenia na cestu vám môže pomôcť vyťažiť z nej čo najviac. Uistite sa, že sa psychicky cítite dobre a že ste v bezpečnom a pohodlnom prostredí. Sformulujte svoje otázky/zámery/nápady na láskavý vesmír, a nie z vyhľadávača Google. 

Vízie nášho vnútorného ja

Halucinovať je veľmi ľudská vec - prejavovať vízie našich vnútorných túžob, obáv, zázrakov alebo dokonca hlúpeho videa, ktoré ste minulý týždeň sledovali na Youtube. Všetko v nás ovplyvňuje to, čo vidíme a zažívame, keď sa potkýname. Vstup, výstup. Takže hoci halucinácie umelej inteligencie rozhodne nie sú v rovnakej lige, alebo dokonca na rovnakej úrovni (aspoň zatiaľ nie!) je možné inšpirovať sa spôsobom, akým k nim pristupujeme, pokiaľ ide o naše vlastné výpravy do psychedelická inteligencia.