{"id":210079,"date":"2024-09-16T16:52:32","date_gmt":"2024-09-16T14:52:32","guid":{"rendered":"https:\/\/www.wholecelium.com\/?p=210079"},"modified":"2024-09-16T16:59:26","modified_gmt":"2024-09-16T14:59:26","slug":"trippande-robotar-vad-ar-ai-hallucinationer","status":"publish","type":"post","link":"https:\/\/www.wholecelium.com\/sv\/blog\/tripping-robots-what-are-ai-hallucinations\/","title":{"rendered":"Trippande robotar? Vad \u00e4r AI-hallucinationer?"},"content":{"rendered":"

I sin ikoniska, Blade Runner-inspirerande roman \"Dr\u00f6mmer androider om elektriska f\u00e5r?<\/em> funderade f\u00f6rfattaren Philip K. Dick \u00f6ver de etiska och filosofiska fr\u00e5gor som uppst\u00e5r n\u00e4r artificiella varelser utvecklar ett m\u00e4nniskoliknande medvetande. Romanen utforskar om en m\u00e4nniskoskapad enhet kan anta de egenskaper som k\u00e4nnetecknar medvetande; s\u00e5som sj\u00e4lvmedvetenhet, k\u00e4nslor och f\u00f6rm\u00e5gan att uppfatta. Vad skulle detta inneb\u00e4ra f\u00f6r de gr\u00e4nser som finns mellan m\u00e4nsklig och artificiell intelligens? <\/strong><\/p>\n\n\n\n

\n

Medan vi \u00e4r (f\u00f6rhoppningsvis!) <\/em>fortfarande l\u00e5ngt ifr\u00e5n att tekniken v\u00e4nder sig mot oss, \u00e4r de fr\u00e5gor som Dick tar upp i den h\u00e4r boken idag mer relevanta \u00e4n n\u00e5gonsin. <\/strong><\/p>\n<\/div>\n\n\n\n

\"\"<\/figure>\n\n\n\n

O\u00f6vertr\u00e4ffad tillg\u00e5ng till artificiell intelligens <\/h2>\n\n\n\n

Det \u00e4r naturligtvis h\u00e4r AI-hallucinationerna kommer in i bilden. Med den senaste tidens tillstr\u00f6mning av stora spr\u00e5kmodeller (LLM) <\/em>som ChatGPT, har vi kommit ansikte mot ansikte med artificiell intelligens p\u00e5 ett s\u00e4tt som aldrig tidigare varit m\u00f6jligt. F\u00f6rdelarna och nackdelarna \u00e4r b\u00e5de m\u00e5nga och kontroversiella. Men en av de mer fascinerande\/frustrerande\/skr\u00e4ckinjagande\/roliga (beroende p\u00e5 hur du ser p\u00e5 saken) <\/em>Det v\u00e4rsta som har h\u00e4nt efter den h\u00e4r tekniska lanseringen \u00e4r AI-hallucinationer. Dessa \"hallucinationer\" \u00e4r n\u00e4r LLM:er presenterar falsk, vilseledande eller irrationell information som om den vore fakta. M\u00e5nga anv\u00e4ndare har funnit att svaren p\u00e5 deras fr\u00e5gor som tillhandah\u00e5lls av dessa system \u00e4r bevisligen falska. Detta verkar i allm\u00e4nhet h\u00e4nda n\u00e4r en LLM inte f\u00e5r tillr\u00e4ckligt h\u00f6gkvalitativa data eller tillr\u00e4ckligt med sammanhang att arbeta utifr\u00e5n.\u00a0<\/p>\n\n\n\n

Kan en maskin hallucinera?<\/h4>\n\n\n\n

Den term som har valts f\u00f6r den h\u00e4r buggen, \"hallucinationer\", \u00e4r intressant. Till en b\u00f6rjan kan det verka paradoxalt, eftersom hallucinationer traditionellt f\u00f6rknippas med m\u00e4nniskors eller djurs hj\u00e4rnor, inte med kalla, h\u00e5rda maskiner. Men ur en metaforisk synvinkel.., hallucination<\/strong> visar sig vara en ganska tr\u00e4ffande term f\u00f6r att beskriva dessa funktionsst\u00f6rningar, framf\u00f6r allt n\u00e4r det g\u00e4ller bild- och m\u00f6nsterigenk\u00e4nning. <\/p>\n\n\n\n

Du vet hur du ser figurer i molnen eller ansikten i livl\u00f6sa f\u00f6rem\u00e5l? Detta \u00e4r ett mycket naturligt m\u00e4nskligt fenomen som kallas pareidolia<\/a>. <\/em>Men AI-hallucinationer kan beskrivas som liknande, d\u00e4r man letar efter igenk\u00e4nnbara m\u00f6nster i en r\u00f6ra av data. Deras feltolkningar kan bero p\u00e5 olika faktorer, bland annat felaktigheten i tr\u00e4ningsdata, \u00f6veranpassning och h\u00f6g modellkomplexitet. <\/p>\n\n\n\n

En verklighet som de inte f\u00f6rst\u00e5r<\/h5>\n\n\n\n

LLM:er anv\u00e4nder spr\u00e5klig statistik f\u00f6r att producera svar om en verklighet som de egentligen inte f\u00f6rst\u00e5r. Deras svar kan verka korrekta (med exempel p\u00e5 grammatik, semantik etc.) <\/em>men ibland kan de vara rena nonsens. D\u00e5ligt tr\u00e4nad AI har inbyggda f\u00f6rdomar och blinda fl\u00e4ckar - vilket inneb\u00e4r att den kommer att f\u00f6rs\u00f6ka fylla i luckorna i f\u00f6rs\u00f6ket att besvara din fr\u00e5ga. Men de \"luckor\" som den kan komma med kan vara ganska v\u00e4rldsfr\u00e5nv\u00e4nda. <\/p>\n\n\n\n

\"\"
Foto av Possessed Photography p\u00e5 Unsplash<\/mark><\/em><\/figcaption><\/figure>\n\n\n\n

Vissa m\u00e4nniskor har (ganska romantiskt)<\/em> j\u00e4mf\u00f6rde AI-hallucinationer med v\u00e5ra m\u00e4nskliga dr\u00f6mmar, eftersom de p\u00e5 ett kreativt s\u00e4tt sammanf\u00f6r till synes slumpm\u00e4ssiga data utan logisk grund. Dessa knasiga svar kan ha sina f\u00f6rdelar. De kan anv\u00e4ndas f\u00f6r att inspirera till \"out of the box\"-t\u00e4nkande eller som utg\u00e5ngspunkt f\u00f6r skrivande, musik eller konst. Men de kan ocks\u00e5 vara skadliga. De kan ge upphov till falska nyheter och sprida falsk information, vilket naturligtvis kan f\u00e5 farliga konsekvenser. Du vill inte riskera AI-hallucinationer n\u00e4r det g\u00e4ller sj\u00e4lvk\u00f6rande bilar eller medicinska diagnoser! <\/p>\n\n\n\n

I ett f\u00f6rs\u00f6k att r\u00e4dda AI:s rykte hos allm\u00e4nheten f\u00f6r forskarna ett krig mot hallucinationer med metoder som tagits fram f\u00f6r att bek\u00e4mpa dem. <\/p>\n\n\n\n

Hur du f\u00e5r b\u00e4ttre svar genom att st\u00e4lla b\u00e4ttre fr\u00e5gor<\/h3>\n\n\n\n

En av dessa metoder \u00e4r \"Prompt Engineering\". Det inneb\u00e4r att vi, anv\u00e4ndarna, m\u00e5ste t\u00e4nka noga igenom hur vi formulerar de fr\u00e5gor vi st\u00e4ller till LLM:erna. Det handlar om att fr\u00e5ga r\u00e4tt <\/strong>fr\u00e5ga. En prompt \u00e4r i princip det sammanhang och den upps\u00e4ttning instruktioner som du ger en LLM, som ChatGPT, f\u00f6r att f\u00e5 ett l\u00e4mpligt svar. En lyckad prompt inneb\u00e4r att du ger ett tydligt sammanhang och perspektiv p\u00e5 vad du fr\u00e5gar, ger AI-generatorn en \"roll\" och till och med beskriver hur du vill att svaret ska struktureras. <\/p>\n\n\n\n

Det handlar inte bara om att mata in n\u00e5gra s\u00f6kord i Google. F\u00f6r att f\u00e5 det b\u00e4sta och mest exakta resultatet kan det ibland beh\u00f6vas flera uppmaningar. I grund och botten m\u00e5ste du ha full kontroll \u00f6ver din input f\u00f6r att styra din output, vilket \u00e4r ett s\u00e4tt att arbeta med det befintliga systemet <\/strong>utan att i grunden \u00e4ndra sin programmering. Ju h\u00f6gre kvalitet p\u00e5 den uppmaning du skickar in, desto h\u00f6gre kvalitet p\u00e5 det svar du f\u00e5r ut. <\/p>\n\n\n\n

\"\"
Foto av Igor Omilaev p\u00e5 Unsplash<\/mark><\/em><\/figcaption><\/figure>\n\n\n\n

Hur \"Promt Engineering\" relaterar till psykedelisk trippning<\/h4>\n\n\n\n

\"Fascinerande grejer!\" <\/em>- man kan s\u00e4ga - \"Men vad har det h\u00e4r med psykedelika att g\u00f6ra?!\" <\/em>Tja, inte mycket om jag ska vara \u00e4rlig, bortsett fr\u00e5n \u00e5beropandet avhallucinationer<\/a>. Men de metoder med vilka man kan h\u00e4mma AI-hallucinationer har f\u00e5tt oss att fundera p\u00e5 hur vi p\u00e5verkar v\u00e5ra egna, avsiktliga hallucinationer - dvs. psykedeliska resor. <\/p>\n\n\n\n

P\u00e5 m\u00e5nga s\u00e4tt \u00e4r denna id\u00e9 om att skr\u00e4ddarsy input f\u00f6r att s\u00e4kerst\u00e4lla en bra output parallell med Avsiktsf\u00f6rklaring<\/strong>och det \u00f6vriga arbete vi utf\u00f6r f\u00f6r att f\u00f6rbered dig f\u00f6r en psykedelisk resa med h\u00f6gre doser<\/a>. Men snarare \u00e4n att g\u00f6ra det f\u00f6r att undvika \"fel\" svar (vissa kanske s\u00e4ger att det inte finns n\u00e5gra felaktiga svar i en psykedelisk resa!) <\/em>vi g\u00f6r det f\u00f6r att f\u00e5 den mest djupg\u00e5ende och generativa upplevelse vi kan. Att fastst\u00e4lla din avsikt \u00e4r p\u00e5 s\u00e4tt och vis \"fr\u00e5gan\". 'Inst\u00e4llning och inst\u00e4llning<\/a>' \u00e4r som sammanhanget. <\/p>\n\n\n\n

\"\"
Skapat via deepdreamgenerator<\/mark><\/em><\/figcaption><\/figure>\n\n\n\n

Till skillnad fr\u00e5n AI \u00e4r v\u00e5ra hallucinationer, dr\u00f6mmar och sinnesr\u00f6relser oftast n\u00e5got positivt, men om du \u00e4r fokuserad inf\u00f6r en resa kan det hj\u00e4lpa dig att f\u00e5 ut mesta m\u00f6jliga av den. Se till att du m\u00e5r bra mentalt och att du befinner dig i en s\u00e4ker och bekv\u00e4m milj\u00f6. Formulera dina fr\u00e5gor\/avsikter\/id\u00e9er f\u00f6r en sn\u00e4llt universum<\/strong>snarare \u00e4n en Google-skrapning. <\/p>\n\n\n\n

Visioner av v\u00e5rt inre jag<\/h3>\n\n\n\n
\"\"<\/figure>\n\n\n\n

Att hallucinera \u00e4r en mycket m\u00e4nsklig sak - att manifestera visioner av v\u00e5ra inre \u00f6nskningar, r\u00e4dslor, underverk eller till och med den dumma video du tittade p\u00e5 Youtube f\u00f6rra veckan. Allt inom oss p\u00e5verkar vad vi ser och upplever n\u00e4r vi reser. Ing\u00e5ng<\/strong>, utmatning<\/strong>. S\u00e5 medan AI-hallucinationer definitivt inte \u00e4r i samma liga, eller ens p\u00e5 samma sl\u00e4tt (i alla fall inte \u00e4n!) <\/em>\u00e4r det m\u00f6jligt att h\u00e4mta inspiration fr\u00e5n v\u00e5rt s\u00e4tt att n\u00e4rma oss dem, n\u00e4r det g\u00e4ller v\u00e5ra egna f\u00f6rs\u00f6k att psykedelisk intelligens<\/strong>. <\/p>\n\n\n\n

<\/p>","protected":false},"excerpt":{"rendered":"

Vi lever verkligen i framtiden, gott folk. Precis som populariteten f\u00f6r psykedelika n\u00e5r den h\u00f6gsta toppen i \u00e5rtionden, g\u00e5r robotarna och \u00f6vertr\u00e4ffar oss. Japp, maskinerna hallucinerar. Men finns det n\u00e5got *profound* att hitta n\u00e4r AI hallucinerar?<\/p>","protected":false},"author":4,"featured_media":210099,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[133,87],"tags":[],"topics":[],"class_list":["post-210079","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-philosophy-and-spirituality","category-pop-culture"],"_links":{"self":[{"href":"https:\/\/www.wholecelium.com\/sv\/wp-json\/wp\/v2\/posts\/210079","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.wholecelium.com\/sv\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.wholecelium.com\/sv\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.wholecelium.com\/sv\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/www.wholecelium.com\/sv\/wp-json\/wp\/v2\/comments?post=210079"}],"version-history":[{"count":13,"href":"https:\/\/www.wholecelium.com\/sv\/wp-json\/wp\/v2\/posts\/210079\/revisions"}],"predecessor-version":[{"id":210111,"href":"https:\/\/www.wholecelium.com\/sv\/wp-json\/wp\/v2\/posts\/210079\/revisions\/210111"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.wholecelium.com\/sv\/wp-json\/wp\/v2\/media\/210099"}],"wp:attachment":[{"href":"https:\/\/www.wholecelium.com\/sv\/wp-json\/wp\/v2\/media?parent=210079"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.wholecelium.com\/sv\/wp-json\/wp\/v2\/categories?post=210079"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.wholecelium.com\/sv\/wp-json\/wp\/v2\/tags?post=210079"},{"taxonomy":"topics","embeddable":true,"href":"https:\/\/www.wholecelium.com\/sv\/wp-json\/wp\/v2\/topics?post=210079"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}