Spouštění robotů? Co jsou halucinace umělé inteligence?

Ve svém kultovním, Blade Runnerem inspirovaném románu Sní androidi o elektrických ovcích, se autor Philip K. Dick zamýšlel nad etickými a filozofickými otázkami, které vyvstanou, když si umělé bytosti vyvinou vědomí podobné lidskému. Román se zabývá otázkou, zda je umělá bytost schopna nabýt vlastností vnímání, jako je sebeuvědomění, cítění emocí a schopnost vnímat. Co by to znamenalo pro hranice, které existují mezi lidskou a umělou inteligencí?

Bezprecedentní přístup k umělé inteligenci

Zde samozřejmě přicházejí na řadu halucinace umělé inteligence. S nedávným přílivem velkých jazykových modelů (LLM) jako je ChatGPT, jsme se setkali s umělou inteligencí způsobem, který nikdy předtím nebyl možný. Výhody i nevýhody jsou četné a kontroverzní. Jednou z nejzajímavějších/frustrujících/děsivých/směšných je však (v závislosti na vašem pohledu) z tohoto zavádění technologií vyplynuly halucinace o umělé inteligenci. Tyto "halucinace" se projevují tím, že LLM prezentují nepravdivé, zavádějící nebo iracionální informace, jako by to byla fakta. Mnoho uživatelů zjistilo, že odpovědi na jejich otázky, které jim tyto systémy poskytly, jsou prokazatelně nepravdivé. Obecně se zdá, že k tomu dochází tehdy, když systém LLM nemá k dispozici dostatečně kvalitní údaje nebo dostatečný kontext, z něhož by mohl vycházet. 

Může stroj halucinovat?

Termín, který byl pro tuto chybu zvolen, "halucinace", je zajímavý. Na první pohled se může zdát paradoxní, protože halucinace jsou tradičně spojovány s lidskými nebo zvířecími mozky, nikoliv s chladnými a tvrdými stroji. Z metaforického hlediska však, halucinace se ukazuje jako poměrně přesný termín pro popis těchto poruch, zejména v případech rozpoznávání obrazu a vzorů. 

Víte, jak vidíte postavy v mracích nebo tváře v neživých předmětech? Jedná se o zcela přirozený lidský jev, tzv. pareidolie. Ale halucinace umělé inteligence by se daly popsat podobně, jako hledání rozpoznatelných vzorců ve změti dat. K jejich chybné interpretaci může dojít v důsledku různých faktorů, včetně zkreslení/nepřesnosti tréninkových dat, nadměrného přizpůsobení a vysoké složitosti modelu. 

Realita, kterou nechápou

Studenti LLM používají lingvistickou statistiku k vytváření odpovědí o realitě, které ve skutečnosti nerozumějí. Jejich odpovědi se mohou zdát správné (s příkladnou gramatikou, sémantikou atd.) ale někdy to může být úplný nesmysl. Špatně vycvičená umělá inteligence bude mít vrozené předsudky a slepá místa - to znamená, že se bude snažit vyplnit prázdná místa ve snaze odpovědět na vaši otázku. Nicméně "prázdná místa", na která může přijít, mohou být docela z jiného světa. 

Někteří lidé mají (spíše romanticky) přirovnal halucinace umělé inteligence k našim lidským snům v tom smyslu, že se v nich kreativně slévají zdánlivě náhodná data bez logického základu. Tyto bláznivé reakce mohou mít své výhody. Lze je využít jako inspiraci pro "nestandardní" myšlení nebo jako výchozí bod pro psaní, hudbu či umění. Mohou však být i škodlivé. Mohou šířit falešné zprávy a nepravdivé informace, což může mít samozřejmě nebezpečné důsledky. Nechcete přece riskovat halucinace umělé inteligence, pokud jde o samořídící auta nebo lékařské diagnózy! 

Ve snaze zachránit reputaci umělé inteligence u veřejnosti vedou vědci válku proti halucinacím pomocí metod, které byly vyvinuty k jejich potírání. 

Jak se lépe ptát, abyste získali lepší odpovědi

Jednou z těchto metod je "Prompt Engineering". Ta klade na nás, uživatele, důkladně promyslet, jak formulujeme otázky, které klademe uživatelům LLM. Jde o to, abychom se ptali vpravo otázka. Výzva je v podstatě kontext a soubor instrukcí, které dáte nástroji LLM, jako je ChatGPT, abyste získali vhodnou odpověď. Úspěšná výzva zahrnuje zahrnutí jasného kontextu a pohledu na to, na co se ptáte, zadání "role" generátoru umělé inteligence a dokonce i nastínění toho, jak má být odpověď strukturovaná. 

Nejde jen o to, že do Googlu zadáte několik klíčových slov. Pro dosažení co nejlepšího a nejpřesnějšího výsledku může být někdy zapotřebí více výzev. V podstatě musíte mít plně pod kontrolou vstupní údaje, abyste mohli řídit svůj výstup, což je způsob, jakým práce se stávajícím systémem aniž by se podstatně změnilo jeho naprogramování. Čím kvalitnější podnět vložíte, tím kvalitnější odpověď dostanete. 

Jak "Promt Engineering" souvisí s psychedelickým trippingem

"Fascinující!" - by se dalo říct - "Ale co to má společného s psychedeliky?!" No, upřímně řečeno, kromě vzýváníhalucinace. Metody, kterými lze halucinace umělé inteligence potlačit, nás však přiměly zamyslet se nad tím, jak ovlivňujeme své vlastní, účelové halucinace - tedy psychedelické tripy. 

V mnoha ohledech se tato myšlenka přizpůsobení vstupů pro zajištění dobrého výstupu podobá myšlence nastavení záměrua další práce, kterou děláme, aby připravte se na psychedelický trip ve vyšších dávkách.. Spíše než abychom se vyhnuli "špatným" odpovědím. (někdo by mohl říct, že na psychedelickém tripu neexistují špatné odpovědi!) děláme to proto, abychom získali co nejhlubší a nejgenerativnější zážitek. Stanovení záměru je v jistém smyslu "otázkou". 'Set a nastavení' je jako kontext. 

Ačkoli na rozdíl od umělé inteligence jsou naše halucinace, sny a bloudění myslí obvykle pozitivní záležitostí, vypěstování určité úrovně soustředění na cestu vám může pomoci vytěžit z ní maximum. Ujistěte se, že se cítíte psychicky dobře a že jste v bezpečném a příjemném prostředí. Vytvořte si rámec pro své otázky/záměry/myšlenky na cestu. laskavý vesmír, a nikoli z vyhledávače Google. 

Vize našeho vnitřního já

Halucinace jsou velmi lidskou záležitostí - projevují se v nich vize našich vnitřních tužeb, obav, zázraků nebo třeba hloupého videa, které jste minulý týden sledovali na Youtube. Vše v nás ovlivňuje to, co vidíme a prožíváme, když se potácíme. Vstup, výstup. Takže i když halucinace umělé inteligence rozhodně nejsou ve stejné lize, nebo dokonce na stejné rovině. (alespoň zatím ne!) je možné se inspirovat způsobem, jakým k nim přistupujeme, pokud jde o naše vlastní výpravy do světa. psychedelická inteligence.