{"id":210079,"date":"2024-09-16T16:52:32","date_gmt":"2024-09-16T14:52:32","guid":{"rendered":"https:\/\/www.wholecelium.com\/?p=210079"},"modified":"2024-09-16T16:59:26","modified_gmt":"2024-09-16T14:59:26","slug":"roboti-care-se-poticnesc-ce-sunt-halucinatiile-ai","status":"publish","type":"post","link":"https:\/\/www.wholecelium.com\/ro\/blog\/tripping-robots-what-are-ai-hallucinations\/","title":{"rendered":"Robo\u021bi care se \u00eempiedic\u0103? Ce sunt halucina\u021biile AI?"},"content":{"rendered":"

\u00cen romanul s\u0103u iconic, inspirat de Blade Runner Androizii viseaz\u0103 la oi electrice,<\/em> autorul Philip K. Dick a reflectat asupra \u00eentreb\u0103rilor etice \u0219i filosofice care apar atunci c\u00e2nd fiin\u021bele artificiale dezvolt\u0103 o con\u0219tiin\u021b\u0103 asem\u0103n\u0103toare celei umane. Romanul analizeaz\u0103 dac\u0103 o entitate creat\u0103 de om este capabil\u0103 s\u0103 dob\u00e2ndeasc\u0103 caracteristicile sensibilit\u0103\u021bii, cum ar fi con\u0219tiin\u021ba de sine, sentimentele \u0219i capacitatea de a percepe. Ce ar \u00eensemna acest lucru pentru grani\u021bele care exist\u0103 \u00eentre inteligen\u021ba uman\u0103 \u0219i cea artificial\u0103? <\/strong><\/p>\n\n\n\n

\n

\u00cen timp ce noi suntem (sper\u0103m!) <\/em>\u00eenc\u0103 departe de tehnologia care se \u00eentoarce \u00eempotriva noastr\u0103, \u00eentreb\u0103rile ridicate de Dick \u00een aceast\u0103 carte sunt, ast\u0103zi, mai relevante ca niciodat\u0103. <\/strong><\/p>\n<\/div>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Acces f\u0103r\u0103 precedent la inteligen\u021ba artificial\u0103 <\/h2>\n\n\n\n

Acesta este, desigur, momentul \u00een care apar halucina\u021biile AI. Cu influxul recent de modele lingvistice mari (LLMs) <\/em>cum ar fi ChatGPT, am ajuns fa\u021b\u0103 \u00een fa\u021b\u0103 cu inteligen\u021ba artificial\u0103 \u00eentr-un mod care nu a mai fost posibil p\u00e2n\u0103 acum. Beneficiile \u0219i dezavantajele sunt at\u00e2t numeroase, c\u00e2t \u0219i controversate. Dar unul dintre cele mai fascinante\/frustrante\/\u00eenfrico\u0219\u0103toare\/ amuzante (\u00een func\u021bie de perspectiva dvs.) <\/em>lucruri care au rezultat din aceast\u0103 lansare tehnologic\u0103 au fost halucina\u021biile AI. Aceste \"halucina\u021bii\" sunt atunci c\u00e2nd LLM-urile prezint\u0103 informa\u021bii false, \u00een\u0219el\u0103toare sau ira\u021bionale ca \u0219i cum ar fi fapte. Mul\u021bi utilizatori au constatat c\u0103 r\u0103spunsurile la \u00eentreb\u0103rile lor furnizate de aceste sisteme sunt \u00een mod demonstrabil false. Acest lucru pare s\u0103 se \u00eent\u00e2mple, \u00een general, atunci c\u00e2nd un LLM nu prime\u0219te date de o calitate suficient de ridicat\u0103 sau un context suficient pentru a lucra.\u00a0<\/p>\n\n\n\n

Poate o ma\u0219in\u0103 s\u0103 aib\u0103 halucina\u021bii?<\/h4>\n\n\n\n

Termenul care a fost ales pentru acest microfon, \"halucina\u021bii\", este unul interesant. La \u00eenceput poate p\u0103rea paradoxal, av\u00e2nd \u00een vedere c\u0103 halucina\u021biile sunt asociate \u00een mod tradi\u021bional cu creierele umane sau animale, nu cu ma\u0219in\u0103rii reci \u0219i dure. Totu\u0219i, dintr-un unghi metaforic, halucina\u021bie<\/strong> se dovede\u0219te a fi un termen destul de precis pentru a descrie aceste disfunc\u021bionalit\u0103\u021bi, mai ales \u00een cazurile de recunoa\u0219tere a imaginilor \u0219i a modelelor. <\/p>\n\n\n\n

\u0218ti\u021bi cum vede\u021bi figuri \u00een nori sau chipuri \u00een obiecte inanimate? Acesta este un fenomen uman foarte natural numit pareidolia<\/a>. <\/em>Dar halucina\u021biile AI ar putea fi descrise ca fiind similare, c\u0103ut\u00e2nd modele recognoscibile \u00eentr-o mul\u021bime de date. Interpret\u0103rile lor eronate se pot datora mai multor factori, inclusiv prejudec\u0103\u021bile\/inacurate\u021bea datelor de formare, supraajustarea \u0219i complexitatea ridicat\u0103 a modelului. <\/p>\n\n\n\n

O realitate pe care ei nu o \u00een\u021beleg<\/h5>\n\n\n\n

LLM-urile folosesc statistici lingvistice pentru a produce r\u0103spunsuri despre o realitate pe care nu o \u00een\u021beleg de fapt. R\u0103spunsurile lor pot p\u0103rea corecte (cu exemplific\u0103ri gramaticale, semantice etc.) <\/em>dar uneori acestea pot fi complet absurde. Inteligen\u021ba artificial\u0103 prost antrenat\u0103 va avea prejudec\u0103\u021bi inerente \u0219i puncte oarbe - ceea ce \u00eenseamn\u0103 c\u0103 va \u00eencerca s\u0103 umple golurile \u00een \u00eencercarea de a r\u0103spunde la \u00eentrebarea dvs. Cu toate acestea, \"golurile\" cu care poate veni pot fi destul de ie\u0219ite din comun. <\/p>\n\n\n\n

\"\"
Fotografie realizat\u0103 de Possessed Photography pe Unsplash<\/mark><\/em><\/figcaption><\/figure>\n\n\n\n

Unii oameni au (mai degrab\u0103 romantic)<\/em> a comparat halucina\u021biile AI cu visele noastre umane, \u00een sensul c\u0103 acestea \u00eembin\u0103 \u00een mod creativ date aparent aleatorii, f\u0103r\u0103 nicio baz\u0103 logic\u0103. Aceste r\u0103spunsuri nebune\u0219ti pot avea avantajele lor. Ele pot fi folosite pentru a inspira o g\u00e2ndire \"ie\u0219it\u0103 din comun\" sau ca puncte de plecare pentru scris, muzic\u0103 sau art\u0103. Cu toate acestea, ele pot fi \u0219i d\u0103un\u0103toare. Ele pot prolifera \u0219tirile false \u0219i pot r\u0103sp\u00e2ndi informa\u021bii false, ceea ce poate avea, evident, consecin\u021be periculoase. Nu vre\u021bi s\u0103 risca\u021bi halucina\u021biile AI atunci c\u00e2nd vine vorba de ma\u0219ini care se conduc singure sau de diagnostice medicale! <\/p>\n\n\n\n

\u00cen \u00eencercarea de a salva reputa\u021bia inteligen\u021bei artificiale \u00een fa\u021ba publicului, oamenii de \u0219tiin\u021b\u0103 duc un r\u0103zboi \u00eempotriva halucina\u021biilor prin metode concepute pentru a le combate. <\/p>\n\n\n\n

Cum pune\u021bi \u00eentreb\u0103ri mai bune \u0219i ob\u021bine\u021bi r\u0103spunsuri mai bune<\/h3>\n\n\n\n

Una dintre aceste metode este \"Prompt Engineering\". Aceasta ne oblig\u0103 pe noi, utilizatorii, s\u0103 ne g\u00e2ndim cu aten\u021bie la modul \u00een care formul\u0103m \u00eentreb\u0103rile pe care le punem LLM-urilor. Este vorba despre a cere corect <\/strong>\u00eentrebare. Un prompt este, practic, contextul \u0219i setul de instruc\u021biuni pe care le oferi\u021bi unui LLM, precum ChatGPT, pentru a ob\u021bine un r\u0103spuns adecvat. Un prompt de succes implic\u0103 includerea unui context \u0219i a unei perspective clare asupra a ceea ce \u00eentreba\u021bi, oferind generatorului AI un \"rol\" \u0219i chiar schi\u021b\u00e2nd modul \u00een care dori\u021bi ca r\u0103spunsul s\u0103 fie structurat. <\/p>\n\n\n\n

Nu este vorba doar de introducerea unor cuvinte-cheie \u00een Google. Pentru cel mai bun \u0219i mai precis rezultat, uneori pot fi necesare mai multe solicit\u0103ri. Practic, trebuie s\u0103 de\u021bine\u021bi controlul deplin asupra intr\u0103rilor pentru a v\u0103 ghida rezultatele, ceea ce reprezint\u0103 un mod de lucrul cu sistemul existent <\/strong>f\u0103r\u0103 a-\u0219i schimba intrinsec programarea. Cu c\u00e2t promptul pe care \u00eel introduce\u021bi este de calitate superioar\u0103, cu at\u00e2t r\u0103spunsul pe care \u00eel ve\u021bi primi va fi de calitate superioar\u0103. <\/p>\n\n\n\n

\"\"
Fotografie de Igor Omilaev pe Unsplash<\/mark><\/em><\/figcaption><\/figure>\n\n\n\n

Cum se raporteaz\u0103 \"ingineria promt\" la c\u0103l\u0103toria psihedelic\u0103<\/h4>\n\n\n\n

\"Fascinant!\" <\/em>- ai putea spune... \"Dar ce leg\u0103tur\u0103 are asta cu psihedelicele?!\" <\/em>Ei bine, nu prea multe, ca s\u0103 fiu sincer, \u00een afar\u0103 de invocareahalucina\u021bii<\/a>. Dar metodele prin care pute\u021bi inhiba halucina\u021biile IA ne-au f\u0103cut s\u0103 ne g\u00e2ndim la modul \u00een care ne influen\u021b\u0103m propriile halucina\u021bii inten\u021bionate - de exemplu, c\u0103l\u0103toriile psihedelice. <\/p>\n\n\n\n

\u00cen multe privin\u021be, aceast\u0103 idee de adaptare a datelor de intrare pentru a asigura un rezultat bun este paralel\u0103 cu stabilirea inten\u021biilor<\/strong>, precum \u0219i celelalte activit\u0103\u021bi pe care le desf\u0103\u0219ur\u0103m pentru preg\u0103ti\u021bi-v\u0103 pentru o c\u0103l\u0103torie psihedelic\u0103 cu doze mai mari<\/a>. Cu toate acestea, mai degrab\u0103 dec\u00e2t s\u0103 o fac\u0103 pentru a evita r\u0103spunsurile \"gre\u0219ite (unii ar putea spune c\u0103 nu exist\u0103 r\u0103spunsuri gre\u0219ite \u00eentr-o c\u0103l\u0103torie psihedelic\u0103!) <\/em>o facem pentru a ob\u021bine cea mai profund\u0103 \u0219i generativ\u0103 experien\u021b\u0103 posibil\u0103. Stabilirea inten\u021biei este, \u00eentr-un fel, '\u00eentrebarea'. 'Set \u0219i setare<\/a>' este ca \u0219i contextul. <\/p>\n\n\n\n

\"\"
Creat prin deepdreamgenerator<\/mark><\/em><\/figcaption><\/figure>\n\n\n\n

\u00cen timp ce, spre deosebire de inteligen\u021ba artificial\u0103, halucina\u021biile, visele \u0219i r\u0103t\u0103cirile min\u021bii noastre sunt de obicei un lucru pozitiv, cultivarea unui nivel de concentrare pentru o c\u0103l\u0103torie v\u0103 poate ajuta s\u0103 profita\u021bi la maximum de ea. Asigura\u021bi-v\u0103 c\u0103 v\u0103 sim\u021bi\u021bi bine psihic \u0219i c\u0103 v\u0103 afla\u021bi \u00eentr-un mediu sigur \u0219i confortabil. \u00cencadreaz\u0103-\u021bi \u00eentreb\u0103rile\/inten\u021biile\/ideile pentru o univers bun<\/strong>, mai degrab\u0103 dec\u00e2t un scrape Google. <\/p>\n\n\n\n

Viziuni ale sinelui nostru interior<\/h3>\n\n\n\n
\"\"<\/figure>\n\n\n\n

Halucina\u021bia este un lucru foarte uman - s\u0103 manifest\u0103m viziuni ale dorin\u021belor noastre interioare, temeri, minuni sau chiar videoclipul prostesc pe care l-a\u021bi urm\u0103rit pe Youtube s\u0103pt\u0103m\u00e2na trecut\u0103. Totul \u00een noi influen\u021beaz\u0103 ceea ce vedem \u0219i experiment\u0103m atunci c\u00e2nd c\u0103l\u0103torim. Introducere<\/strong>, ie\u0219ire<\/strong>. Deci, \u00een timp ce halucina\u021biile AI nu sunt cu siguran\u021b\u0103 \u00een aceea\u0219i lig\u0103, sau chiar pe aceea\u0219i planet\u0103 (cel pu\u021bin, nu \u00eenc\u0103!) <\/em>este posibil s\u0103 ne inspir\u0103m din modul \u00een care le abord\u0103m, \u00een ceea ce prive\u0219te propriile noastre incursiuni \u00een inteligen\u021b\u0103 psihedelic\u0103<\/strong>. <\/p>\n\n\n\n

<\/p>","protected":false},"excerpt":{"rendered":"

Tr\u0103im cu adev\u0103rat \u00een viitor, oameni buni. Tocmai c\u00e2nd popularitatea psihedelicelor atinge cel mai \u00eenalt nivel din ultimele decenii, robo\u021bii ne \u00eentrec. Da, ma\u0219inile au halucina\u021bii. Dar exist\u0103 ceva *profund* care s\u0103 fie g\u0103sit atunci c\u00e2nd AI halucineaz\u0103?<\/p>","protected":false},"author":4,"featured_media":210099,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[133,87],"tags":[],"topics":[],"class_list":["post-210079","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-philosophy-and-spirituality","category-pop-culture"],"_links":{"self":[{"href":"https:\/\/www.wholecelium.com\/ro\/wp-json\/wp\/v2\/posts\/210079","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.wholecelium.com\/ro\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.wholecelium.com\/ro\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.wholecelium.com\/ro\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/www.wholecelium.com\/ro\/wp-json\/wp\/v2\/comments?post=210079"}],"version-history":[{"count":13,"href":"https:\/\/www.wholecelium.com\/ro\/wp-json\/wp\/v2\/posts\/210079\/revisions"}],"predecessor-version":[{"id":210111,"href":"https:\/\/www.wholecelium.com\/ro\/wp-json\/wp\/v2\/posts\/210079\/revisions\/210111"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.wholecelium.com\/ro\/wp-json\/wp\/v2\/media\/210099"}],"wp:attachment":[{"href":"https:\/\/www.wholecelium.com\/ro\/wp-json\/wp\/v2\/media?parent=210079"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.wholecelium.com\/ro\/wp-json\/wp\/v2\/categories?post=210079"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.wholecelium.com\/ro\/wp-json\/wp\/v2\/tags?post=210079"},{"taxonomy":"topics","embeddable":true,"href":"https:\/\/www.wholecelium.com\/ro\/wp-json\/wp\/v2\/topics?post=210079"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}