{"id":210079,"date":"2024-09-16T16:52:32","date_gmt":"2024-09-16T14:52:32","guid":{"rendered":"https:\/\/www.wholecelium.com\/?p=210079"},"modified":"2024-09-16T16:59:26","modified_gmt":"2024-09-16T14:59:26","slug":"trippivad-robotid-mis-on-ai-hallutsinatsioonid","status":"publish","type":"post","link":"https:\/\/www.wholecelium.com\/et\/blog\/tripping-robots-what-are-ai-hallucinations\/","title":{"rendered":"Trippivad robotid? Mis on AI hallutsinatsioonid?"},"content":{"rendered":"

Tema ikoonilises, Blade Runner'i inspireerivas romaanis Kas androidid unistavad elektrilistest lammastest,<\/em> autor Philip K. Dick m\u00f5tiskles eetiliste ja filosoofiliste k\u00fcsimuste \u00fcle, mis tekivad, kui tehisolendid arendavad inimesele sarnast teadvust. Romaanis uuritakse, kas inimese loodud olend on v\u00f5imeline omandama tundlikkuse tunnuseid, n\u00e4iteks eneseteadvust, tunnetusi ja tajumisv\u00f5imet. Mida see t\u00e4hendaks inimese ja tehisintellekti vaheliste piiride jaoks? <\/strong><\/p>\n\n\n\n

\n

Kuigi me oleme (loodetavasti!) <\/em>veel kaugel sellest, et tehnoloogia meie vastu p\u00f6\u00f6rduks, on Dicki poolt selles raamatus t\u00f5statatud k\u00fcsimused t\u00e4nap\u00e4eval aktuaalsemad kui kunagi varem. <\/strong><\/p>\n<\/div>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Enneolematu juurdep\u00e4\u00e4s tehisintellektile <\/h2>\n\n\n\n

See on muidugi koht, kus AI hallutsinatsioonid tulevad m\u00e4ngu. Suurte keelemudelite hiljutise sissevooluga (LLM) <\/em>nagu ChatGPT, oleme j\u00f5udnud tehisintellektiga kokku puutuda viisil, mis pole kunagi varem olnud v\u00f5imalik. Kasud ja puudused on nii arvukad kui ka vastuolulised. Kuid \u00fcks p\u00f5nevamatest\/t\u00e4iesti hirmutavamatest\/hirmutavamatest\/naljakamatest (s\u00f5ltuvalt teie v\u00e4ljavaadetest) <\/em>asjad, mis selle tehnoloogia kasutuselev\u00f5tu k\u00e4igus v\u00e4lja on tulnud, on AI hallutsinatsioonid. Need \"hallutsinatsioonid\" on siis, kui elukestva \u00f5ppej\u00f5ud esitavad vale, eksitavat v\u00f5i irratsionaalset teavet, nagu oleks see fakt. Paljud kasutajad on leidnud, et nende s\u00fcsteemide esitatud vastused nende k\u00fcsimustele on ilmselgelt valed. See n\u00e4ib \u00fcldiselt juhtuvat siis, kui elukestva \u00f5ppe s\u00fcsteemile ei anta piisavalt kvaliteetseid andmeid v\u00f5i piisavalt konteksti, millest l\u00e4htuda.\u00a0<\/p>\n\n\n\n

Kas masin v\u00f5ib hallutsineerida?<\/h4>\n\n\n\n

Selle vea jaoks valitud termin \"hallutsinatsioonid\" on huvitav. Esmalt v\u00f5ib see tunduda paradoksaalne, sest hallutsinatsioonid on traditsiooniliselt seotud inimeste v\u00f5i loomade ajudega, mitte k\u00fclmade, k\u00f5vade masinatega. Kuid metafoorilisest vaatenurgast vaadatuna, hallutsinatsioon<\/strong> osutub \u00fcsna t\u00e4pseks terminiks, millega neid t\u00f5rkeid kirjeldada, eelk\u00f5ige pildi- ja mustrituvastuse puhul. <\/p>\n\n\n\n

Te teate, kuidas te n\u00e4ete tegelasi pilvedes v\u00f5i n\u00e4gusid elututes esemetes? See on v\u00e4ga loomulik inimn\u00e4htus, mida nimetatakse pareidoolia<\/a>. <\/em>Kuid tehisintellekti hallutsinatsioone v\u00f5iks kirjeldada sarnaselt, otsides \u00e4ratuntavaid mustreid andmete segaduses. Nende valesti t\u00f5lgendamine v\u00f5ib toimuda erinevate tegurite t\u00f5ttu, sealhulgas treeninguandmete kallutatuse\/ebat\u00e4psuse, liigse sobitamise ja mudeli suure keerukuse t\u00f5ttu. <\/p>\n\n\n\n

Reaalsus, mida nad ei m\u00f5ista<\/h5>\n\n\n\n

LLMid kasutavad keelelist statistikat, et toota vastuseid reaalsuse kohta, mida nad tegelikult ei m\u00f5ista. Nende vastused v\u00f5ivad tunduda \u00f5iged (koos eeskujuliku grammatika, semantika jne.) <\/em>kuid m\u00f5nikord v\u00f5ivad need olla t\u00e4ielik jama. Halvasti koolitatud tehisintellektil on loomup\u00e4rased eelarvamused ja pimedad kohad - see t\u00e4hendab, et ta p\u00fc\u00fcab teie k\u00fcsimusele vastamiseks t\u00e4ita l\u00fcnki. Siiski v\u00f5ivad need \"t\u00fchikud\", mida ta v\u00f5ib v\u00e4lja pakkuda, olla \u00fcsna ulmelised. <\/p>\n\n\n\n

\"\"
Foto: Possessed Photography on Unsplash<\/mark><\/em><\/figcaption><\/figure>\n\n\n\n

M\u00f5ned inimesed on (pigem romantiliselt)<\/em> v\u00f5rdlesid tehisintellekti hallutsinatsioone meie inimeste unen\u00e4gudega, kuna need \u00fchendavad loominguliselt n\u00e4iliselt juhuslikke andmeid, ilma et neil oleks loogilist alust. Nendel hullumeelsetel reaktsioonidel v\u00f5ib olla oma kasu. Neid v\u00f5ib kasutada \"out of the box\" m\u00f5tlemise inspireerimiseks v\u00f5i kirjutamise, muusika v\u00f5i kunsti l\u00e4htepunktina. Kuid need v\u00f5ivad olla ka kahjulikud. Nad v\u00f5ivad levitada valeuudiseid ja valeinfot, millel v\u00f5ivad ilmselgelt olla ohtlikud tagaj\u00e4rjed. Te ei taha riskida tehisintellekti hallutsinatsioonidega, kui tegemist on ises\u00f5itvate autode v\u00f5i meditsiiniliste diagnoosidega! <\/p>\n\n\n\n

P\u00fc\u00fcdes p\u00e4\u00e4sta tehisintellekti mainet avalikkuse silmis, peavad teadlased s\u00f5da hallutsinatsioonide vastu, kasutades selleks v\u00e4lja t\u00f6\u00f6tatud meetodeid. <\/p>\n\n\n\n

Kuidas paremate k\u00fcsimuste esitamine annab teile paremaid vastuseid<\/h3>\n\n\n\n

\u00dcks neist meetoditest on \"Prompt Engineering\". See paneb meile, kasutajatele, kohustuse m\u00f5elda hoolikalt selle \u00fcle, kuidas me s\u00f5nastame k\u00fcsimused, mida me elukestva \u00f5ppe l\u00e4biviijatele esitame. See t\u00e4hendab, et k\u00fcsime \u00f5igus <\/strong>k\u00fcsimus. \u00dclesanne on p\u00f5him\u00f5tteliselt kontekst ja juhiste kogum, mida te annate LLMile, n\u00e4iteks ChatGPT-le, et saada asjakohane vastus. Edukas \u00fcleskutse h\u00f5lmab selget konteksti ja perspektiivi selle kohta, mida te k\u00fcsite, annab tehisintellekti generaatorile \"rolli\" ja isegi kirjeldab, kuidas te soovite, et vastus oleks struktureeritud. <\/p>\n\n\n\n

See ei ole lihtsalt m\u00f5ne m\u00e4rks\u00f5na Google'ile sisse l\u00f6\u00f6mine. Parima ja t\u00e4pseima tulemuse saamiseks v\u00f5ib m\u00f5nikord olla vajalik mitu p\u00e4ringut. P\u00f5him\u00f5tteliselt peate t\u00e4ielikult kontrollima oma sisendit, et suunata oma v\u00e4ljundit, mis on viis, kuidas t\u00f6\u00f6 olemasoleva s\u00fcsteemiga <\/strong>ilma oma programmeerimist olemuslikult muutmata. Mida kvaliteetsem on sisestatud \u00fcleskutse, seda kvaliteetsema vastuse saate v\u00e4lja. <\/p>\n\n\n\n

\"\"
Foto: Igor Omilaev on Unsplash<\/mark><\/em><\/figcaption><\/figure>\n\n\n\n

Kuidas \"Promt Engineering\" on seotud ps\u00fchhedeelse trippimisega<\/h4>\n\n\n\n

\"P\u00f5nev kraam!\" <\/em>- v\u00f5ite \u00f6elda - \"Aga mis on sellel pistmist ps\u00fchhedeelikumidega?!\" <\/em>Noh, ausalt \u00f6eldes mitte palju, kui v\u00e4lja arvatahallutsinatsioonid<\/a>. Kuid meetodid, millega saab AI hallutsinatsioone p\u00e4rssida, on pannud meid m\u00f5tlema sellele, kuidas me ise omaenda sihip\u00e4raseid hallutsinatsioone - st ps\u00fchhedeelseid trippe - m\u00f5jutame. <\/p>\n\n\n\n

Paljudel juhtudel on see idee sisendi kohandamisest, et tagada hea v\u00e4ljund, paralleelne sellega, et kavatsuse seadmine<\/strong>ja muud t\u00f6\u00f6d, mida me teeme, et valmistuda suuremate annuste ps\u00fchhedeelseks reisiks<\/a>. Kuid selle asemel, et v\u00e4ltida \"valesid\" vastuseid. (m\u00f5ned v\u00f5ivad \u00f6elda, et ps\u00fchhedeelsel reisil ei ole valesid vastuseid!) <\/em>me teeme seda selleks, et saada v\u00f5imalikult s\u00fcgav ja genereeriv kogemus. Oma kavatsuse seadmine on m\u00f5nes m\u00f5ttes \"k\u00fcsimus\". 'Komplekt ja seadistus<\/a>' on nagu kontekst. <\/p>\n\n\n\n

\"\"
Loodud deepdreamgeneratori kaudu<\/mark><\/em><\/figcaption><\/figure>\n\n\n\n

Kuigi erinevalt AI-st on meie hallutsinatsioonid, unen\u00e4od ja m\u00f5ttek\u00e4igud tavaliselt positiivne asi, aitab reisile keskendumise taseme kasvatamine aidata teil sellest k\u00f5ige rohkem kasu saada. Veenduge, et tunnete end vaimselt h\u00e4sti ning olete turvalises ja mugavas keskkonnas. S\u00f5nastage oma k\u00fcsimused\/taotlused\/ideed, mis on m\u00f5eldud lahke universum<\/strong>, mitte Google'i kraapimine. <\/p>\n\n\n\n

Visioonid meie sisemusest<\/h3>\n\n\n\n
\"\"<\/figure>\n\n\n\n

Hallutsinatsioon on v\u00e4ga inimlik asi - manifesteerida n\u00e4gemusi oma sisemistest soovidest, hirmudest, imedest v\u00f5i isegi sellest rumalast videost, mida sa eelmisel n\u00e4dalal Youtube'is vaatasid. K\u00f5ik meie sees m\u00f5jutab seda, mida me reisides n\u00e4eme ja kogeme. Sisend<\/strong>, v\u00e4ljund<\/strong>. Nii et kuigi AI hallutsinatsioonid ei ole kindlasti samas liigas v\u00f5i isegi samal tasandil (v\u00e4hemalt mitte veel!) <\/em>on v\u00f5imalik saada inspiratsiooni sellest, kuidas me neile l\u00e4heneme, mis puudutab meie enda ekskursioonidesse ps\u00fchhedeelne intelligentsus<\/strong>. <\/p>\n\n\n\n

<\/p>","protected":false},"excerpt":{"rendered":"

Me t\u00f5esti elame tulevikus, inimesed. Just siis, kui ps\u00fchhedeelikumite populaarsus saavutab aastak\u00fcmnete k\u00f5rgeima taseme, l\u00e4hevad robotid ja \u00fcletavad meid. Jah, masinad hallutsineerivad. Aga kas tehisintellekti hallutsineerimisel on midagi *proffessionaalset*?<\/p>","protected":false},"author":4,"featured_media":210099,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[133,87],"tags":[],"topics":[],"class_list":["post-210079","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-philosophy-and-spirituality","category-pop-culture"],"_links":{"self":[{"href":"https:\/\/www.wholecelium.com\/et\/wp-json\/wp\/v2\/posts\/210079","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.wholecelium.com\/et\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.wholecelium.com\/et\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.wholecelium.com\/et\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/www.wholecelium.com\/et\/wp-json\/wp\/v2\/comments?post=210079"}],"version-history":[{"count":13,"href":"https:\/\/www.wholecelium.com\/et\/wp-json\/wp\/v2\/posts\/210079\/revisions"}],"predecessor-version":[{"id":210111,"href":"https:\/\/www.wholecelium.com\/et\/wp-json\/wp\/v2\/posts\/210079\/revisions\/210111"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.wholecelium.com\/et\/wp-json\/wp\/v2\/media\/210099"}],"wp:attachment":[{"href":"https:\/\/www.wholecelium.com\/et\/wp-json\/wp\/v2\/media?parent=210079"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.wholecelium.com\/et\/wp-json\/wp\/v2\/categories?post=210079"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.wholecelium.com\/et\/wp-json\/wp\/v2\/tags?post=210079"},{"taxonomy":"topics","embeddable":true,"href":"https:\/\/www.wholecelium.com\/et\/wp-json\/wp\/v2\/topics?post=210079"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}