{"id":210079,"date":"2024-09-16T16:52:32","date_gmt":"2024-09-16T14:52:32","guid":{"rendered":"https:\/\/www.wholecelium.com\/?p=210079"},"modified":"2024-09-16T16:59:26","modified_gmt":"2024-09-16T14:59:26","slug":"tripingo-robotai-kas-yra-ai-haliucinacijos","status":"publish","type":"post","link":"https:\/\/www.wholecelium.com\/lt\/blog\/tripping-robots-what-are-ai-hallucinations\/","title":{"rendered":"Triuk\u0173 robotai? Kas yra dirbtinio intelekto haliucinacijos?"},"content":{"rendered":"

Savo kultiniame, \"Blade Runner\" \u012fkvepian\u010diame romane Ar androidai svajoja apie elektrines avis,<\/em> ra\u0161ytojas Philipas K. Dickas svarst\u0117 etinius ir filosofinius klausimus, kurie kyla, kai dirbtin\u0117s b\u016btyb\u0117s i\u0161vysto \u012f \u017emog\u0173 pana\u0161i\u0105 s\u0105mon\u0119. Romane nagrin\u0117jama, ar \u017emogaus sukurta b\u016btyb\u0117 gali \u012fgyti jausm\u0173 bruo\u017e\u0173, toki\u0173 kaip savimon\u0117, emocijos ir geb\u0117jimas suvokti. K\u0105 tai reik\u0161t\u0173 riboms, egzistuojan\u010dioms tarp \u017emogaus ir dirbtinio intelekto? <\/strong><\/p>\n\n\n\n

\n

Nors mes esame (tik\u0117kim\u0117s!) <\/em>Nors technologijos dar toli gra\u017eu neatsigr\u0119\u017e\u0117 prie\u0161 mus, \u0161ioje knygoje Dicko keliami klausimai \u0161iandien yra kaip niekada aktual\u016bs. <\/strong><\/p>\n<\/div>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Beprecedent\u0117 prieiga prie dirbtinio intelekto <\/h2>\n\n\n\n

\u010cia, \u017einoma, pasirei\u0161kia dirbtinio intelekto haliucinacijos. Pastaruoju metu pl\u016bstel\u0117jus did\u017ei\u0173j\u0173 kalbos modeli\u0173 (LLM) <\/em>pavyzd\u017eiui, \"ChatGPT\", susid\u016br\u0117me su dirbtiniu intelektu taip, kaip niekada anks\u010diau nebuvo \u012fmanoma. Naudos ir tr\u016bkum\u0173 yra ir daug, ir prie\u0161taring\u0173. Ta\u010diau vienas i\u0161 labiausiai \u017eavin\u010di\u0173, kelian\u010di\u0173 nerim\u0105, g\u0105sdinan\u010di\u0173 ir juoking\u0173 (priklausomai nuo j\u016bs\u0173 po\u017ei\u016brio) <\/em>\u0161ios technologijos diegimo rezultatas - dirbtinio intelekto haliucinacijos. \u0160ios \"haliucinacijos\" pasirei\u0161kia tuo, kad intelektinio intelekto valdytojai pateikia klaiding\u0105, klaidinan\u010di\u0105 ar iracionali\u0105 informacij\u0105, tarsi ji b\u016bt\u0173 faktas. Daugelis naudotoj\u0173 pasteb\u0117jo, kad \u0161i\u0173 sistem\u0173 pateikti atsakymai \u012f j\u0173 klausimus yra akivaizd\u017eiai melagingi. Paprastai taip atsitinka, kai LLM nepateikiama pakankamai kokybi\u0161k\u0173 duomen\u0173 arba nepakankamai konteksto, kuriuo b\u016bt\u0173 galima remtis.\u00a0<\/p>\n\n\n\n

Ar ma\u0161ina gali tur\u0117ti haliucinacij\u0173?<\/h4>\n\n\n\n

\u0160iai klaidai apib\u016bdinti pasirinktas \u012fdomus terminas \"haliucinacijos\". I\u0161 prad\u017ei\u0173 jis gali pasirodyti paradoksalus, nes haliucinacijos tradici\u0161kai siejamos su \u017emogaus ar gyv\u016bno smegenimis, o ne su \u0161alta, kieta technika. Ta\u010diau \u017evelgiant metafori\u0161kai, haliucinacijos<\/strong> pasirodo, kad tai gana tikslus terminas, kuriuo galima apib\u016bdinti \u0161iuos sutrikimus, ypa\u010d vaizd\u0173 ir modeli\u0173 atpa\u017einimo atvejais. <\/p>\n\n\n\n

\u017dinote, kaip matote fig\u016bras debesyse arba veidus negyvuose daiktuose? Tai labai nat\u016bralus \u017emogaus rei\u0161kinys, vadinamas pareidolija<\/a>. <\/em>Ta\u010diau dirbtinio intelekto haliucinacijas galima apib\u016bdinti kaip pana\u0161ias, kai duomen\u0173 painiavoje ie\u0161koma atpa\u017e\u012fstam\u0173 modeli\u0173. J\u0173 klaidingos interpretacijos gali atsirasti d\u0117l \u012fvairi\u0173 veiksni\u0173, \u012fskaitant mokymo duomen\u0173 \u0161ali\u0161kum\u0105 \/ netikslum\u0105, perteklin\u012f pritaikym\u0105 ir didel\u012f modelio sud\u0117tingum\u0105. <\/p>\n\n\n\n

Realyb\u0117, kurios jie nesupranta<\/h5>\n\n\n\n

LLM naudoja lingvistin\u0119 statistik\u0105, kad parengt\u0173 atsakymus apie tikrov\u0119, kurios i\u0161 tikr\u0173j\u0173 nesupranta. J\u0173 atsakymai gali atrodyti teisingi (su pavyzdine gramatika, semantika ir kt.) <\/em>bet kartais jie gali b\u016bti visi\u0161ka nes\u0105mon\u0117. Blogai apmokytam dirbtiniam intelektui b\u016bdingi \u0161ali\u0161kumas ir aklosios zonos, t. y. jis bandys u\u017epildyti tu\u0161\u010dias vietas, kad atsakyt\u0173 \u012f j\u016bs\u0173 klausim\u0105. Ta\u010diau \"tu\u0161\u010dios vietos\", kurias jis gali rasti, gali b\u016bti visai ne i\u0161 \u0161io pasaulio. <\/p>\n\n\n\n

\"\"
Possessed Photography nuotrauka Unsplash<\/mark><\/em><\/figcaption><\/figure>\n\n\n\n

Kai kurie \u017emon\u0117s turi (gana romanti\u0161kai)<\/em> palygino dirbtinio intelekto haliucinacijas su m\u016bs\u0173 \u017emogi\u0161kaisiais sapnais, nes juose k\u016brybi\u0161kai susilieja i\u0161 pa\u017ei\u016bros atsitiktiniai duomenys, neturintys loginio pagrindo. Tokie beproti\u0161ki atsakymai gali b\u016bti naudingi. Jie gali b\u016bti naudojami \u012fkv\u0117pti \"nestandartiniam\" m\u0105stymui arba kaip ra\u0161ymo, muzikos ar meno prad\u017eia. Ta\u010diau jie gali b\u016bti ir \u017ealingi. Jie gali platinti netikras naujienas ir skleisti melaging\u0105 informacij\u0105, o tai, \u017einoma, gali tur\u0117ti pavojing\u0173 pasekmi\u0173. Nenorite rizikuoti, kad dirbtinio intelekto haliucinacijos bus susijusios su savaeigiais automobiliais ar medicinin\u0117mis diagnoz\u0117mis! <\/p>\n\n\n\n

Siekdami i\u0161saugoti dirbtinio intelekto reputacij\u0105 visuomen\u0117je, mokslininkai kovoja su haliucinacijomis, taikydami jiems \u012fveikti sukurtus metodus. <\/p>\n\n\n\n

Kaip u\u017eduodant geresnius klausimus galima gauti geresnius atsakymus<\/h3>\n\n\n\n

Vienas i\u0161 \u0161i\u0173 metod\u0173 yra \"skubi in\u017einerija\". Tai rei\u0161kia, kad mes, naudotojai, turime gerai apgalvoti, kaip formuluojame klausimus, kuriuos u\u017eduodame LLM. Tai rei\u0161kia, kad reikia klausti de\u0161in\u0117je <\/strong>klausimas. U\u017eklausa i\u0161 esm\u0117s yra kontekstas ir instrukcij\u0173 rinkinys, kur\u012f pateikiate LLM, pvz., ChatGPT, kad gautum\u0117te tinkam\u0105 atsakym\u0105. S\u0117kmingai paraginimas apima ai\u0161k\u0173 kontekst\u0105 ir po\u017ei\u016br\u012f \u012f tai, ko klausiate, dirbtinio intelekto generatoriui suteikiamas \"vaidmuo\" ir netgi nurodoma, kaip norite, kad b\u016bt\u0173 strukt\u016bruotas atsakymas. <\/p>\n\n\n\n

Tai n\u0117ra tik keli\u0173 rakta\u017eod\u017ei\u0173 \u012fvedimas \u012f \"Google\". Norint gauti geriausi\u0105 ir tiksliausi\u0105 rezultat\u0105, kartais gali prireikti keli\u0173 u\u017eklaus\u0173. I\u0161 esm\u0117s turite visi\u0161kai kontroliuoti savo \u012fvest\u012f, kad gal\u0117tum\u0117te vadovautis savo rezultatais, o tai yra b\u016bdas darbas su esama sistema <\/strong>i\u0161 esm\u0117s nekei\u010diant jo programavimo. Kuo kokybi\u0161kesn\u0119 u\u017eklaus\u0105 \u012fvesite, tuo kokybi\u0161kesn\u012f atsakym\u0105 gausite. <\/p>\n\n\n\n

\"\"
Igorio Omilajevo nuotrauka Unsplash<\/mark><\/em><\/figcaption><\/figure>\n\n\n\n

Kaip \"Promt in\u017einerija\" susijusi su psichodeliniu keliavimu<\/h4>\n\n\n\n

\"\u012esp\u016bdingi dalykai!\" <\/em>- galima sakyti - \"Bet kaip tai susij\u0119 su psichodeliniais preparatais?!\" <\/em>Na, ties\u0105 sakant, ne krovini\u0173, i\u0161skyrus kreipim\u0105si \u012fhaliucinacijos<\/a>. Ta\u010diau metodai, kuriais galima slopinti dirbtinio intelekto haliucinacijas, privert\u0117 mus susim\u0105styti, kaip galime daryti \u012ftak\u0105 savo pa\u010di\u0173 tikslingoms haliucinacijoms, t. y. psichodelin\u0117ms kelion\u0117ms. <\/p>\n\n\n\n

Daugeliu at\u017evilgi\u0173 \u0161i \u012fvesties pritaikymo id\u0117ja, kad b\u016bt\u0173 u\u017etikrintas geras rezultatas, yra pana\u0161i \u012f ketinim\u0173 nustatymas<\/strong>ir kitas m\u016bs\u0173 darbas, kur\u012f atliekame, kad pasiruo\u0161kite didesn\u0117s doz\u0117s psichodelio kelionei.<\/a>. Ta\u010diau, u\u017euot tai dar\u0119, kad i\u0161vengtum\u0117te \"neteising\u0173\" atsakym\u0173. (kai kurie gali sakyti, kad psichodelin\u0117s kelion\u0117s metu n\u0117ra neteising\u0173 atsakym\u0173!) <\/em>mes tai darome, kad \u012fgytume kuo gilesn\u0119 ir vaisingesn\u0119 patirt\u012f. Tam tikra prasme savo ketinimo nustatymas yra \"klausimas\". 'Nustatymas ir nustatymas<\/a>' yra kaip kontekstas. <\/p>\n\n\n\n

\"\"
Sukurta per deepdreamgenerator<\/mark><\/em><\/figcaption><\/figure>\n\n\n\n

Nors, prie\u0161ingai nei dirbtinis intelektas, m\u016bs\u0173 haliucinacijos, sapnai ir min\u010di\u0173 klaid\u017eiojimas paprastai yra teigiamas dalykas, susitelkimo kelion\u0117s metu ugdymas gali pad\u0117ti i\u0161 jos gauti kuo daugiau naudos. \u012esitikinkite, kad psichologi\u0161kai jau\u010diat\u0117s gerai ir esate saugioje bei patogioje aplinkoje. suformuluokite savo klausimus, ketinimus ir id\u0117jas geroji visata<\/strong>, o ne \"Google\" paie\u0161ka. <\/p>\n\n\n\n

M\u016bs\u0173 vidin\u0117s savasties vizijos<\/h3>\n\n\n\n
\"\"<\/figure>\n\n\n\n

Haliucinacijos yra labai \u017emogi\u0161kas dalykas - tai m\u016bs\u0173 vidini\u0173 tro\u0161kim\u0173, baimi\u0173, stebukl\u0173 ar net kvailo vaizdo \u012fra\u0161o, kur\u012f pra\u0117jusi\u0105 savait\u0119 \u017ei\u016br\u0117jote \"Youtube\", vizijos. Viskas, kas yra mumyse, daro \u012ftak\u0105 tam, k\u0105 matome ir patiriame, kai keliaujame. \u012evestis<\/strong>, i\u0161vestis<\/strong>. Taigi, nors dirbtinio intelekto haliucinacijos neabejotinai n\u0117ra toje pa\u010dioje lygoje ar net toje pa\u010dioje lygumoje (bent jau dar ne!) <\/em>galima pasisemti \u012fkv\u0117pimo i\u0161 to, kaip mes \u012f juos \u017ei\u016brime, kalbant apie m\u016bs\u0173 pa\u010di\u0173 \u017eygius \u012f psichodelinis intelektas<\/strong>. <\/p>\n\n\n\n

<\/p>","protected":false},"excerpt":{"rendered":"

Mes tikrai gyvename ateityje, \u017emon\u0117s. Kaip tik tuo metu, kai psichodelikos populiarumas pasiekia auk\u0161\u010diausi\u0105 vir\u0161\u016bn\u0119 per pastaruosius de\u0161imtme\u010dius, robotai mus pranoksta. Taip, ma\u0161inos turi haliucinacij\u0173. Bet ar dirbtinis intelektas gali rasti k\u0105 nors *i\u0161radingo*, kai jis haliucinuoja?<\/p>","protected":false},"author":4,"featured_media":210099,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[133,87],"tags":[],"topics":[],"class_list":["post-210079","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-philosophy-and-spirituality","category-pop-culture"],"_links":{"self":[{"href":"https:\/\/www.wholecelium.com\/lt\/wp-json\/wp\/v2\/posts\/210079","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.wholecelium.com\/lt\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.wholecelium.com\/lt\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.wholecelium.com\/lt\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/www.wholecelium.com\/lt\/wp-json\/wp\/v2\/comments?post=210079"}],"version-history":[{"count":13,"href":"https:\/\/www.wholecelium.com\/lt\/wp-json\/wp\/v2\/posts\/210079\/revisions"}],"predecessor-version":[{"id":210111,"href":"https:\/\/www.wholecelium.com\/lt\/wp-json\/wp\/v2\/posts\/210079\/revisions\/210111"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.wholecelium.com\/lt\/wp-json\/wp\/v2\/media\/210099"}],"wp:attachment":[{"href":"https:\/\/www.wholecelium.com\/lt\/wp-json\/wp\/v2\/media?parent=210079"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.wholecelium.com\/lt\/wp-json\/wp\/v2\/categories?post=210079"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.wholecelium.com\/lt\/wp-json\/wp\/v2\/tags?post=210079"},{"taxonomy":"topics","embeddable":true,"href":"https:\/\/www.wholecelium.com\/lt\/wp-json\/wp\/v2\/topics?post=210079"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}