{"id":210079,"date":"2024-09-16T16:52:32","date_gmt":"2024-09-16T14:52:32","guid":{"rendered":"https:\/\/www.wholecelium.com\/?p=210079"},"modified":"2024-09-16T16:59:26","modified_gmt":"2024-09-16T14:59:26","slug":"botladozo-robotok-mik-az-ai-hallucinaciok","status":"publish","type":"post","link":"https:\/\/www.wholecelium.com\/hu\/blog\/tripping-robots-what-are-ai-hallucinations\/","title":{"rendered":"Robotok botladoz\u00e1sa? Mik a mesters\u00e9ges intelligencia hallucin\u00e1ci\u00f3k?"},"content":{"rendered":"

Az ikonikus, Blade Runner-ihlette reg\u00e9ny\u00e9ben Do Androids Dream of Electric Sheep,<\/em> Philip K. Dick \u00edr\u00f3 azon az etikai \u00e9s filoz\u00f3fiai k\u00e9rd\u00e9seken t\u00f6prengett, amelyek akkor mer\u00fclnek fel, amikor a mesters\u00e9ges l\u00e9nyek emberhez hasonl\u00f3 tudatot fejlesztenek ki. A reg\u00e9ny azt vizsg\u00e1lja, hogy egy ember alkotta l\u00e9ny k\u00e9pes-e felvenni az \u00e9rz\u0151k\u00e9pess\u00e9g jellemz\u0151it; mint p\u00e9ld\u00e1ul az \u00f6ntudat, az \u00e9rzelmek \u00e1t\u00e9l\u00e9se \u00e9s az \u00e9rz\u00e9kel\u00e9s k\u00e9pess\u00e9ge. Mit jelentene ez az emberi \u00e9s a mesters\u00e9ges intelligencia k\u00f6z\u00f6tti hat\u00e1rokat illet\u0151en? <\/strong><\/p>\n\n\n\n

\n

M\u00edg mi (rem\u00e9lhet\u0151leg!) <\/em>m\u00e9g mindig messze vagyunk att\u00f3l, hogy a technol\u00f3gia ellen\u00fcnk forduljon, a Dick \u00e1ltal ebben a k\u00f6nyvben felvetett k\u00e9rd\u00e9sek ma aktu\u00e1lisabbak, mint valaha. <\/strong><\/p>\n<\/div>\n\n\n\n

\"\"<\/figure>\n\n\n\n

P\u00e9ld\u00e1tlan hozz\u00e1f\u00e9r\u00e9s a mesters\u00e9ges intelligenci\u00e1hoz <\/h2>\n\n\n\n

Itt j\u00f6nnek a k\u00e9pzeletbeli hallucin\u00e1ci\u00f3k. A nagy nyelvi modellek k\u00f6zelm\u00faltbeli be\u00e1raml\u00e1s\u00e1val (LLM) <\/em>mint p\u00e9ld\u00e1ul a ChatGPT, olyan m\u00f3don ker\u00fclt\u00fcnk szemt\u0151l-szembe a mesters\u00e9ges intelligenci\u00e1val, ahogyan az kor\u00e1bban soha nem volt lehets\u00e9ges. Az el\u0151ny\u00f6k \u00e9s a h\u00e1tr\u00e1nyok egyar\u00e1nt sz\u00e1mosak \u00e9s ellentmond\u00e1sosak. De az egyik legleny\u0171g\u00f6z\u0151bb\/frusztr\u00e1l\u00f3bb\/ijeszt\u0151bb\/viccesebb (az \u00d6n szeml\u00e9let\u00e9t\u0151l f\u00fcgg\u0151en) <\/em>ami ebb\u0151l a technol\u00f3giai bevezet\u00e9sb\u0151l sz\u00e1rmazik, az a mesters\u00e9ges intelligencia hallucin\u00e1ci\u00f3 volt. Ezek a \"hallucin\u00e1ci\u00f3k\" azok, amikor az LLM-ek hamis, f\u00e9lrevezet\u0151 vagy irracion\u00e1lis inform\u00e1ci\u00f3kat mutatnak be, mintha azok t\u00e9nyek lenn\u00e9nek. Sok felhaszn\u00e1l\u00f3 \u00fagy tal\u00e1lta, hogy az e rendszerek \u00e1ltal a k\u00e9rd\u00e9seire adott v\u00e1laszok bizony\u00edthat\u00f3an hamisak. Ez \u00e1ltal\u00e1ban akkor fordul el\u0151, ha az LLM nem kap el\u00e9g j\u00f3 min\u0151s\u00e9g\u0171 adatot vagy el\u00e9g kontextust, amelyb\u0151l kiindulva dolgozhat.\u00a0<\/p>\n\n\n\n

Hallucin\u00e1lhat-e egy g\u00e9p?<\/h4>\n\n\n\n

A hib\u00e1ra v\u00e1lasztott kifejez\u00e9s, a \"hallucin\u00e1ci\u00f3k\" \u00e9rdekes kifejez\u00e9s. Els\u0151re paradoxnak t\u0171nhet, mivel a hallucin\u00e1ci\u00f3kat hagyom\u00e1nyosan az emberi vagy \u00e1llati agyakkal hozz\u00e1k \u00f6sszef\u00fcgg\u00e9sbe, nem pedig a hideg, kem\u00e9ny g\u00e9pekkel. Egy metaforikus szemsz\u00f6gb\u0151l n\u00e9zve azonban, hallucin\u00e1ci\u00f3<\/strong> meglehet\u0151sen pontos kifejez\u00e9snek bizonyul, amellyel ezeket a hib\u00e1s m\u0171k\u00f6d\u00e9seket lehet le\u00edrni, k\u00fcl\u00f6n\u00f6sen a k\u00e9p- \u00e9s mintafelismer\u00e9s eset\u00e9ben. <\/p>\n\n\n\n

Tudod, hogy l\u00e1tod az alakokat a felh\u0151kben, vagy az arcokat az \u00e9lettelen t\u00e1rgyakban? Ez egy nagyon term\u00e9szetes emberi jelens\u00e9g, amit \u00fagy h\u00edvnak. pareidolia<\/a>. <\/em>De a mesters\u00e9ges intelligencia hallucin\u00e1ci\u00f3it is hasonl\u00f3nak lehetne nevezni, felismerhet\u0151 mint\u00e1kat keresve az adatok kusza halmaz\u00e1ban. F\u00e9lre\u00e9rtelmez\u00e9seik k\u00fcl\u00f6nb\u00f6z\u0151 t\u00e9nyez\u0151k miatt t\u00f6rt\u00e9nhetnek, bele\u00e9rtve a k\u00e9pz\u00e9si adatok torz\u00edt\u00e1s\u00e1t\/pontatlans\u00e1g\u00e1t, a t\u00falilleszt\u00e9st \u00e9s a modell nagyfok\u00fa \u00f6sszetetts\u00e9g\u00e9t. <\/p>\n\n\n\n

A val\u00f3s\u00e1g, amit nem \u00e9rtenek<\/h5>\n\n\n\n

Az LLM-ek nyelvi statisztik\u00e1kat haszn\u00e1lnak arra, hogy v\u00e1laszokat adjanak egy olyan val\u00f3s\u00e1gr\u00f3l, amelyet val\u00f3j\u00e1ban nem is \u00e9rtenek. V\u00e1laszaik helyesnek t\u0171nhetnek (p\u00e9lda\u00e9rt\u00e9k\u0171 nyelvtannal, szemantik\u00e1val stb.) <\/em>de n\u00e9ha teljes k\u00e9ptelens\u00e9gek is lehetnek. A rosszul k\u00e9pzett mesters\u00e9ges intelligenci\u00e1nak eredend\u0151en elfogults\u00e1gai \u00e9s vakfoltjai vannak - ami azt jelenti, hogy megpr\u00f3b\u00e1lja kit\u00f6lteni az \u00fcres helyeket, hogy v\u00e1laszoljon a k\u00e9rd\u00e9s\u00e9re. A \"\u00fcres r\u00e9szek\" azonban el\u00e9gg\u00e9 elrugaszkodhatnak a vil\u00e1gt\u00f3l. <\/p>\n\n\n\n

\"\"
Fot\u00f3: Possessed Photography on Unsplash<\/mark><\/em><\/figcaption><\/figure>\n\n\n\n

N\u00e9h\u00e1ny embernek (ink\u00e1bb romantikusan)<\/em> a mesters\u00e9ges intelligencia hallucin\u00e1ci\u00f3it az emberi \u00e1lmokhoz hasonl\u00edtotta, mivel kreat\u00edvan, l\u00e1tsz\u00f3lag v\u00e9letlenszer\u0171en, logikai alap n\u00e9lk\u00fcl keverik \u00f6ssze a l\u00e1tsz\u00f3lag v\u00e9letlenszer\u0171 adatokat. Ezeknek az \u0151r\u00fclt reakci\u00f3knak megvan a maguk haszna. Haszn\u00e1lhat\u00f3k a \"dobozon k\u00edv\u00fcli\" gondolkod\u00e1s inspir\u00e1l\u00e1s\u00e1ra, vagy kiindul\u00f3pontk\u00e9nt \u00edr\u00e1shoz, zen\u00e9hez vagy m\u0171v\u00e9szethez. Ugyanakkor k\u00e1rosak is lehetnek. Elterjeszthetik az \u00e1lh\u00edreket \u00e9s hamis inform\u00e1ci\u00f3kat terjeszthetnek, aminek nyilv\u00e1nval\u00f3an vesz\u00e9lyes k\u00f6vetkezm\u00e9nyei lehetnek. Ne kock\u00e1ztassuk a mesters\u00e9ges intelligencia hallucin\u00e1ci\u00f3it, ha \u00f6nvezet\u0151 aut\u00f3kr\u00f3l vagy orvosi diagn\u00f3zisokr\u00f3l van sz\u00f3! <\/p>\n\n\n\n

A tud\u00f3sok, hogy megments\u00e9k a mesters\u00e9ges intelligencia h\u00edrnev\u00e9t a k\u00f6zv\u00e9lem\u00e9ny el\u0151tt, a hallucin\u00e1ci\u00f3k ellen h\u00e1bor\u00fat ind\u00edtanak a hallucin\u00e1ci\u00f3k lek\u00fczd\u00e9s\u00e9re kidolgozott m\u00f3dszerekkel. <\/p>\n\n\n\n

Hogyan ad jobb v\u00e1laszokat a jobb k\u00e9rd\u00e9sfeltev\u00e9s<\/h3>\n\n\n\n

Az egyik ilyen m\u00f3dszer a \"Prompt Engineering\". Ez r\u00e1nk, a felhaszn\u00e1l\u00f3kra h\u00e1r\u00edtja a felel\u0151ss\u00e9get, hogy alaposan \u00e1tgondoljuk, hogyan fogalmazzuk meg a k\u00e9rd\u00e9seket, amelyeket az LLM-eknek tesz\u00fcnk fel. Arr\u00f3l van sz\u00f3, hogy megk\u00e9rdezz\u00fck a jobbra <\/strong>k\u00e9rd\u00e9s. A prompt alapvet\u0151en az a kontextus \u00e9s utas\u00edt\u00e1sk\u00e9szlet, amelyet egy LLM-nek, p\u00e9ld\u00e1ul a ChatGPT-nek ad, hogy megfelel\u0151 v\u00e1laszt kapjon. A sikeres k\u00e9r\u00e9s mag\u00e1ban foglalja a k\u00e9rdez\u00e9s egy\u00e9rtelm\u0171 kontextus\u00e1t \u00e9s perspekt\u00edv\u00e1j\u00e1t, a mesters\u00e9ges intelligencia gener\u00e1tornak adott \"szerepet\", \u00e9s m\u00e9g azt is felv\u00e1zolja, hogyan szeretn\u00e9, hogy a v\u00e1lasz fel\u00e9p\u00edt\u00e9sre ker\u00fclj\u00f6n. <\/p>\n\n\n\n

Ez nem csak n\u00e9h\u00e1ny kulcssz\u00f3 be\u00fct\u00e9se a Google-ba. A legjobb, legpontosabb eredm\u00e9ny el\u00e9r\u00e9s\u00e9hez n\u00e9ha t\u00f6bb megkeres\u00e9sre is sz\u00fcks\u00e9g lehet. Alapvet\u0151en teljes m\u00e9rt\u00e9kben kontroll alatt kell tartania a bemenet\u00e9t, hogy ir\u00e1ny\u00edtsa a kimenet\u00e9t, ami a k\u00f6vetkez\u0151k szerint t\u00f6rt\u00e9nik a megl\u00e9v\u0151 rendszerrel val\u00f3 egy\u00fcttm\u0171k\u00f6d\u00e9s <\/strong>an\u00e9lk\u00fcl, hogy a programoz\u00e1s\u00e1t l\u00e9nyeg\u00e9ben megv\u00e1ltoztatn\u00e1. Min\u00e9l jobb min\u0151s\u00e9g\u0171 a bejuttatott k\u00e9r\u00e9s, ann\u00e1l jobb min\u0151s\u00e9g\u0171 v\u00e1laszt fog kapni. <\/p>\n\n\n\n

\"\"
Fot\u00f3: Igor Omilaev on Unsplash<\/mark><\/em><\/figcaption><\/figure>\n\n\n\n

Hogyan kapcsol\u00f3dik a 'Promt Engineering' a pszichedelikus trippel\u00e9shez?<\/h4>\n\n\n\n

\"Leny\u0171g\u00f6z\u0151 dolog!\" <\/em>- mondhatn\u00e1d - \"De mi k\u00f6ze ennek a pszichedelikus szerekhez?!\" <\/em>Nos, nem sok, hogy \u0151szinte legyek, eltekintve ahallucin\u00e1ci\u00f3k'<\/a>. De azok a m\u00f3dszerek, amelyekkel megg\u00e1tolhatjuk az AI hallucin\u00e1ci\u00f3kat, elgondolkodtattak benn\u00fcnket arr\u00f3l, hogyan befoly\u00e1soljuk saj\u00e1t, c\u00e9lzott hallucin\u00e1ci\u00f3inkat - azaz a pszichedelikus utaz\u00e1sokat. <\/p>\n\n\n\n

Sok szempontb\u00f3l ez az \u00f6tlet, hogy a bemenetet a j\u00f3 kimenet biztos\u00edt\u00e1sa \u00e9rdek\u00e9ben testre kell szabni, p\u00e1rhuzamba \u00e1ll\u00edthat\u00f3 a sz\u00e1nd\u00e9kmeghat\u00e1roz\u00e1s<\/strong>, \u00e9s a t\u00f6bbi munk\u00e1nkat, amit az\u00e9rt v\u00e9gz\u00fcnk, hogy k\u00e9sz\u00fclj fel egy nagyobb d\u00f3zis\u00fa pszichedelikus utaz\u00e1sra.<\/a>. Azonban ahelyett, hogy a \"rossz\" v\u00e1laszok elker\u00fcl\u00e9se \u00e9rdek\u00e9ben tenn\u00e9nk ezt. (Egyesek szerint egy pszichedelikus utaz\u00e1s sor\u00e1n nincsenek rossz v\u00e1laszok!) <\/em>az\u00e9rt tessz\u00fck, hogy a lehet\u0151 legm\u00e9lyebb \u00e9s leggenerat\u00edvabb \u00e9lm\u00e9nyt kapjuk. A sz\u00e1nd\u00e9kod meghat\u00e1roz\u00e1sa bizonyos \u00e9rtelemben a \"k\u00e9rd\u00e9s\". 'Be\u00e1ll\u00edt\u00e1s \u00e9s be\u00e1ll\u00edt\u00e1s<\/a>' olyan, mint a kontextus. <\/p>\n\n\n\n

\"\"
Created via deepdreamgenerator<\/mark><\/em><\/figcaption><\/figure>\n\n\n\n

B\u00e1r a mesters\u00e9ges intelligenci\u00e1val ellent\u00e9tben a hallucin\u00e1ci\u00f3ink, \u00e1lmaink \u00e9s elm\u00e9nk v\u00e1ndorl\u00e1sa \u00e1ltal\u00e1ban pozit\u00edv dolog, az utaz\u00e1sra val\u00f3 \u00f6sszpontos\u00edt\u00e1s seg\u00edthet abban, hogy a legt\u00f6bbet hozzuk ki bel\u0151le. Gy\u0151z\u0151dj\u00f6n meg r\u00f3la, hogy ment\u00e1lisan j\u00f3l \u00e9rzi mag\u00e1t, \u00e9s hogy biztons\u00e1gos \u00e9s k\u00e9nyelmes k\u00f6rnyezetben van. Fogalmazza meg a k\u00e9rd\u00e9seit\/sz\u00e1nd\u00e9kait\/\u00f6tleteit egy kedves univerzum<\/strong>, nem pedig a Google \u00e1ltal v\u00e9gzett keres\u00e9s. <\/p>\n\n\n\n

Bels\u0151 \u00e9n\u00fcnk v\u00edzi\u00f3i<\/h3>\n\n\n\n
\"\"<\/figure>\n\n\n\n

Hallucin\u00e1lni nagyon is emberi dolog - a bels\u0151 v\u00e1gyaink, f\u00e9lelmeink, csod\u00e1ink, vagy ak\u00e1r a m\u00falt h\u00e9ten a Youtube-on megn\u00e9zett buta vide\u00f3 l\u00e1tom\u00e1sai. Minden, ami benn\u00fcnk van, befoly\u00e1solja azt, amit l\u00e1tunk \u00e9s tapasztalunk, amikor elkalandozunk. Bemenet<\/strong>, kimenet<\/strong>. Teh\u00e1t, m\u00edg az AI hallucin\u00e1ci\u00f3k hat\u00e1rozottan nem egy s\u00falycsoportban, vagy ak\u00e1r ugyanazon a s\u00edkon vannak. (legal\u00e1bbis m\u00e9g nem!) <\/em>inspir\u00e1ci\u00f3t mer\u00edthet\u00fcnk abb\u00f3l, ahogyan mi k\u00f6zel\u00edt\u00fcnk hozz\u00e1juk, a saj\u00e1t kir\u00e1ndul\u00e1sainkkal kapcsolatban. pszichedelikus intelligencia<\/strong>. <\/p>\n\n\n\n

<\/p>","protected":false},"excerpt":{"rendered":"

Val\u00f3ban a j\u00f6v\u0151ben \u00e9l\u00fcnk, emberek. \u00c9ppen amikor a pszichedelikus szerek n\u00e9pszer\u0171s\u00e9ge az elm\u00falt \u00e9vtizedek legmagasabb cs\u00facs\u00e1ra \u00e9r, a robotok elindulnak, hogy fel\u00fclm\u00faljanak minket. Igen, a g\u00e9pek hallucin\u00e1lnak. De vajon van valami *megalapozott*, amit megtal\u00e1lhatunk, amikor a mesters\u00e9ges intelligencia hallucin\u00e1l?<\/p>","protected":false},"author":4,"featured_media":210099,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[133,87],"tags":[],"topics":[],"class_list":["post-210079","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-philosophy-and-spirituality","category-pop-culture"],"_links":{"self":[{"href":"https:\/\/www.wholecelium.com\/hu\/wp-json\/wp\/v2\/posts\/210079","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.wholecelium.com\/hu\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.wholecelium.com\/hu\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.wholecelium.com\/hu\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/www.wholecelium.com\/hu\/wp-json\/wp\/v2\/comments?post=210079"}],"version-history":[{"count":13,"href":"https:\/\/www.wholecelium.com\/hu\/wp-json\/wp\/v2\/posts\/210079\/revisions"}],"predecessor-version":[{"id":210111,"href":"https:\/\/www.wholecelium.com\/hu\/wp-json\/wp\/v2\/posts\/210079\/revisions\/210111"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.wholecelium.com\/hu\/wp-json\/wp\/v2\/media\/210099"}],"wp:attachment":[{"href":"https:\/\/www.wholecelium.com\/hu\/wp-json\/wp\/v2\/media?parent=210079"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.wholecelium.com\/hu\/wp-json\/wp\/v2\/categories?post=210079"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.wholecelium.com\/hu\/wp-json\/wp\/v2\/tags?post=210079"},{"taxonomy":"topics","embeddable":true,"href":"https:\/\/www.wholecelium.com\/hu\/wp-json\/wp\/v2\/topics?post=210079"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}