{"id":210079,"date":"2024-09-16T16:52:32","date_gmt":"2024-09-16T14:52:32","guid":{"rendered":"https:\/\/www.wholecelium.com\/?p=210079"},"modified":"2024-09-16T16:59:26","modified_gmt":"2024-09-16T14:59:26","slug":"potykajace-sie-roboty-co-to-sa-halucynacje-ai","status":"publish","type":"post","link":"https:\/\/www.wholecelium.com\/pl\/blog\/tripping-robots-what-are-ai-hallucinations\/","title":{"rendered":"Halucynacje robot\u00f3w? Czym s\u0105 halucynacje AI?"},"content":{"rendered":"

W swojej kultowej, inspirowanej Blade Runnerem powie\u015bci Czy androidy \u015bni\u0105 o elektrycznych owcach?<\/em> Autor Philip K. Dick zastanawia\u0142 si\u0119 nad etycznymi i filozoficznymi pytaniami, kt\u00f3re pojawiaj\u0105 si\u0119, gdy sztuczne istoty rozwijaj\u0105 \u015bwiadomo\u015b\u0107 podobn\u0105 do ludzkiej. Powie\u015b\u0107 bada, czy istota stworzona przez cz\u0142owieka jest w stanie przyj\u0105\u0107 cechy \u015bwiadomo\u015bci, takie jak samo\u015bwiadomo\u015b\u0107, odczuwanie emocji i zdolno\u015b\u0107 postrzegania. Co by to oznacza\u0142o dla granic, kt\u00f3re istniej\u0105 mi\u0119dzy ludzk\u0105 a sztuczn\u0105 inteligencj\u0105? <\/strong><\/p>\n\n\n\n

\n

Podczas gdy my jeste\u015bmy (miejmy nadziej\u0119!) <\/em>Wci\u0105\u017c daleko nam do tego, by technologia zwr\u00f3ci\u0142a si\u0119 przeciwko nam, pytania, kt\u00f3re Dick poruszy\u0142 w tej ksi\u0105\u017cce, s\u0105 dzi\u015b bardziej aktualne ni\u017c kiedykolwiek. <\/strong><\/p>\n<\/div>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Bezprecedensowy dost\u0119p do sztucznej inteligencji <\/h2>\n\n\n\n

Jest to oczywi\u015bcie miejsce, w kt\u00f3rym pojawiaj\u0105 si\u0119 halucynacje AI. Wraz z niedawnym nap\u0142ywem du\u017cych modeli j\u0119zykowych (LLMs) <\/em>takich jak ChatGPT, stan\u0119li\u015bmy twarz\u0105 w twarz ze sztuczn\u0105 inteligencj\u0105 w spos\u00f3b, kt\u00f3ry nigdy wcze\u015bniej nie by\u0142 mo\u017cliwy. Korzy\u015bci i wady s\u0105 zar\u00f3wno liczne, jak i kontrowersyjne. Ale jedn\u0105 z bardziej fascynuj\u0105cych\/frustruj\u0105cych\/przera\u017caj\u0105cych\/zabawnych (w zale\u017cno\u015bci od perspektywy) <\/em>z tej technologii by\u0142y halucynacje zwi\u0105zane ze sztuczn\u0105 inteligencj\u0105. Te \"halucynacje\" maj\u0105 miejsce, gdy LLM przedstawiaj\u0105 fa\u0142szywe, wprowadzaj\u0105ce w b\u0142\u0105d lub irracjonalne informacje tak, jakby by\u0142y faktem. Wielu u\u017cytkownik\u00f3w odkry\u0142o, \u017ce odpowiedzi na ich pytania dostarczone przez te systemy s\u0105 ewidentnie fa\u0142szywe. Zwykle dzieje si\u0119 tak, gdy LLM nie otrzymuje wystarczaj\u0105co wysokiej jako\u015bci danych lub wystarczaj\u0105cego kontekstu do pracy.\u00a0<\/p>\n\n\n\n

Czy maszyna mo\u017ce mie\u0107 halucynacje?<\/h4>\n\n\n\n

Termin, kt\u00f3ry zosta\u0142 wybrany dla tego b\u0142\u0119du, \"halucynacje\", jest interesuj\u0105cy. Na pocz\u0105tku mo\u017ce si\u0119 to wydawa\u0107 paradoksalne, poniewa\u017c halucynacje s\u0105 tradycyjnie kojarzone z ludzkimi lub zwierz\u0119cymi m\u00f3zgami, a nie z zimnymi, twardymi maszynami. Jednak z metaforycznego punktu widzenia, halucynacja<\/strong> okazuje si\u0119 by\u0107 do\u015b\u0107 trafnym terminem, kt\u00f3rym mo\u017cna opisa\u0107 te usterki, zw\u0142aszcza w przypadku rozpoznawania obraz\u00f3w i wzorc\u00f3w. <\/p>\n\n\n\n

Wiesz, jak widzisz postacie w chmurach lub twarze w martwych przedmiotach? To bardzo naturalne ludzkie zjawisko zwane pareidolia<\/a>. <\/em>Ale halucynacje AI mo\u017cna opisa\u0107 jako podobne, szukaj\u0105c rozpoznawalnych wzorc\u00f3w w ba\u0142aganie danych. Ich b\u0142\u0119dne interpretacje mog\u0105 wynika\u0107 z r\u00f3\u017cnych czynnik\u00f3w, w tym tendencyjno\u015bci\/dok\u0142adno\u015bci danych szkoleniowych, nadmiernego dopasowania i du\u017cej z\u0142o\u017cono\u015bci modelu. <\/p>\n\n\n\n

Rzeczywisto\u015b\u0107, kt\u00f3rej nie rozumiej\u0105<\/h5>\n\n\n\n

LLM u\u017cywaj\u0105 statystyk j\u0119zykowych do tworzenia odpowiedzi na temat rzeczywisto\u015bci, kt\u00f3rej tak naprawd\u0119 nie rozumiej\u0105. Ich odpowiedzi mog\u0105 wydawa\u0107 si\u0119 poprawne (z przyk\u0142adow\u0105 gramatyk\u0105, semantyk\u0105 itp.). <\/em>ale czasami mog\u0105 to by\u0107 kompletne bzdury. \u0179le wyszkolona sztuczna inteligencja b\u0119dzie mia\u0142a nieod\u0142\u0105czne uprzedzenia i martwe punkty - co oznacza, \u017ce b\u0119dzie pr\u00f3bowa\u0142a wype\u0142ni\u0107 puste pola, pr\u00f3buj\u0105c odpowiedzie\u0107 na twoje pytanie. Jednak \"puste miejsca\", kt\u00f3re mo\u017ce wymy\u015bli\u0107, mog\u0105 by\u0107 ca\u0142kiem nie z tego \u015bwiata. <\/p>\n\n\n\n

\"\"
Zdj\u0119cie autorstwa Possessed Photography na Unsplash<\/mark><\/em><\/figcaption><\/figure>\n\n\n\n

Niekt\u00f3rzy ludzie maj\u0105 (raczej romantycznie)<\/em> por\u00f3wna\u0142 halucynacje AI do naszych ludzkich sn\u00f3w, poniewa\u017c tw\u00f3rczo \u0142\u0105cz\u0105 one pozornie przypadkowe dane, bez podstaw logicznych. Te zwariowane reakcje mog\u0105 mie\u0107 swoje zalety. Mog\u0105 by\u0107 wykorzystywane do inspirowania \"nieszablonowego\" my\u015blenia lub jako punkty wyj\u015bcia do pisania, muzyki lub sztuki. Mog\u0105 by\u0107 jednak r\u00f3wnie\u017c szkodliwe. Mog\u0105 rozprzestrzenia\u0107 fa\u0142szywe wiadomo\u015bci i rozpowszechnia\u0107 fa\u0142szywe informacje, co oczywi\u015bcie mo\u017ce mie\u0107 niebezpieczne konsekwencje. Nie chcesz ryzykowa\u0107 halucynacji AI, je\u015bli chodzi o samojezdne samochody lub diagnozy medyczne! <\/p>\n\n\n\n

Pr\u00f3buj\u0105c ocali\u0107 reputacj\u0119 sztucznej inteligencji w\u015br\u00f3d spo\u0142ecze\u0144stwa, naukowcy tocz\u0105 wojn\u0119 z halucynacjami za pomoc\u0105 metod opracowanych w celu ich zwalczania. <\/p>\n\n\n\n

Jak zadawanie lepszych pyta\u0144 daje lepsze odpowiedzi?<\/h3>\n\n\n\n

Jedn\u0105 z tych metod jest \"Prompt Engineering\". Nak\u0142ada ona na nas, u\u017cytkownik\u00f3w, obowi\u0105zek dok\u0142adnego przemy\u015blenia sposobu, w jaki formu\u0142ujemy pytania, kt\u00f3re zadajemy LLM. Chodzi o zadawanie prawo <\/strong>pytanie. Podpowied\u017a jest w zasadzie kontekstem i zestawem instrukcji, kt\u00f3re przekazujesz LLM, takim jak ChatGPT, aby uzyska\u0107 odpowiedni\u0105 odpowied\u017a. Skuteczny monit obejmuje jasny kontekst i perspektyw\u0119 tego, o co pytasz, nadanie generatorowi AI \"roli\", a nawet okre\u015blenie, w jaki spos\u00f3b chcesz, aby odpowied\u017a by\u0142a ustrukturyzowana. <\/p>\n\n\n\n

Nie chodzi tylko o wpisanie kilku s\u0142\u00f3w kluczowych w Google. Aby uzyska\u0107 najlepszy, najdok\u0142adniejszy wynik, czasami konieczne mo\u017ce by\u0107 u\u017cycie wielu podpowiedzi. Zasadniczo musisz mie\u0107 pe\u0142n\u0105 kontrol\u0119 nad swoimi danymi wej\u015bciowymi, aby kierowa\u0107 swoimi wynikami, co jest sposobem na praca z istniej\u0105cym systemem <\/strong>bez wewn\u0119trznej zmiany jego programowania. Im wy\u017csza jako\u015b\u0107 podpowiedzi, tym wy\u017csza jako\u015b\u0107 odpowiedzi. <\/p>\n\n\n\n

\"\"
Zdj\u0119cie autorstwa Igor Omilaev na Unsplash<\/mark><\/em><\/figcaption><\/figure>\n\n\n\n

Jak \"Promt Engineering\" odnosi si\u0119 do psychodelicznych trip\u00f3w?<\/h4>\n\n\n\n

\"Fascynuj\u0105ce rzeczy!\" <\/em>- mo\u017cna powiedzie\u0107 - \"Ale co to ma wsp\u00f3lnego z psychodelikami?!\" <\/em>Szczerze m\u00f3wi\u0105c, nie ma tu \u017cadnych obci\u0105\u017ce\u0144, poza przywo\u0142aniemhalucynacje<\/a>. Jednak metody, za pomoc\u0105 kt\u00f3rych mo\u017cna zahamowa\u0107 halucynacje SI, sk\u0142oni\u0142y nas do zastanowienia si\u0119 nad tym, jak wp\u0142ywamy na nasze w\u0142asne, celowe halucynacje - tj. psychodeliczne podr\u00f3\u017ce. <\/p>\n\n\n\n

Pod wieloma wzgl\u0119dami ta idea dostosowywania danych wej\u015bciowych w celu zapewnienia dobrego wyniku jest podobna do idei ustalanie intencji<\/strong>i inne prace, kt\u00f3re wykonujemy, aby przygotowa\u0107 si\u0119 na psychodeliczn\u0105 podr\u00f3\u017c w wy\u017cszej dawce<\/a>. Jednak zamiast robi\u0107 to w celu unikni\u0119cia \"z\u0142ych\" odpowiedzi (niekt\u00f3rzy mog\u0105 powiedzie\u0107, \u017ce nie ma z\u0142ych odpowiedzi w psychodelicznej podr\u00f3\u017cy!) <\/em>Robimy to, aby uzyska\u0107 jak najg\u0142\u0119bsze i najbardziej generatywne do\u015bwiadczenie. Ustawienie intencji jest w pewnym sensie \"pytaniem\". 'Zestaw i ustawienie<\/a>' jest jak kontekst. <\/p>\n\n\n\n

\"\"
Utworzono za po\u015brednictwem deepdreamgenerator<\/mark><\/em><\/figcaption><\/figure>\n\n\n\n

Podczas gdy, w przeciwie\u0144stwie do AI, nasze halucynacje, sny i w\u0119dr\u00f3wki umys\u0142u s\u0105 zazwyczaj pozytywn\u0105 rzecz\u0105, kultywowanie poziomu skupienia na podr\u00f3\u017cy mo\u017ce pom\u00f3c ci uzyska\u0107 z niej jak najwi\u0119cej. Upewnij si\u0119, \u017ce czujesz si\u0119 dobrze psychicznie i znajdujesz si\u0119 w bezpiecznym i wygodnym otoczeniu. Sformu\u0142uj swoje pytania\/intencje\/pomys\u0142y na \u017cyczliwy wszech\u015bwiat<\/strong>zamiast Google scrape. <\/p>\n\n\n\n

Wizje naszego wewn\u0119trznego ja<\/h3>\n\n\n\n
\"\"<\/figure>\n\n\n\n

Halucynacje to bardzo ludzka rzecz - manifestowanie wizji naszych wewn\u0119trznych pragnie\u0144, l\u0119k\u00f3w, cud\u00f3w, a nawet g\u0142upiego filmu, kt\u00f3ry ogl\u0105da\u0142e\u015b na Youtube w zesz\u0142ym tygodniu. Wszystko w nas wp\u0142ywa na to, co widzimy i czego do\u015bwiadczamy podczas halucynacji. Wej\u015bcie<\/strong>, wyj\u015bcie<\/strong>. Wi\u0119c chocia\u017c halucynacje AI zdecydowanie nie s\u0105 w tej samej lidze, ani nawet na tej samej p\u0142aszczy\u017anie (przynajmniej jeszcze nie!) <\/em>Mo\u017cliwe jest czerpanie inspiracji ze sposobu, w jaki do nich podchodzimy, w odniesieniu do naszych w\u0142asnych wypraw do psychodeliczna inteligencja<\/strong>. <\/p>\n\n\n\n

<\/p>","protected":false},"excerpt":{"rendered":"

Naprawd\u0119 \u017cyjemy w przysz\u0142o\u015bci. W momencie, gdy popularno\u015b\u0107 psychodelik\u00f3w osi\u0105ga najwy\u017cszy poziom od dziesi\u0119cioleci, roboty id\u0105 i prze\u015bcigaj\u0105 nas. Tak, maszyny maj\u0105 halucynacje. Ale czy jest co\u015b *odkrywalnego*, co mo\u017cna znale\u017a\u0107, gdy AI ma halucynacje?<\/p>","protected":false},"author":4,"featured_media":210099,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[133,87],"tags":[],"topics":[],"class_list":["post-210079","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-philosophy-and-spirituality","category-pop-culture"],"_links":{"self":[{"href":"https:\/\/www.wholecelium.com\/pl\/wp-json\/wp\/v2\/posts\/210079","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.wholecelium.com\/pl\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.wholecelium.com\/pl\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.wholecelium.com\/pl\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/www.wholecelium.com\/pl\/wp-json\/wp\/v2\/comments?post=210079"}],"version-history":[{"count":13,"href":"https:\/\/www.wholecelium.com\/pl\/wp-json\/wp\/v2\/posts\/210079\/revisions"}],"predecessor-version":[{"id":210111,"href":"https:\/\/www.wholecelium.com\/pl\/wp-json\/wp\/v2\/posts\/210079\/revisions\/210111"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.wholecelium.com\/pl\/wp-json\/wp\/v2\/media\/210099"}],"wp:attachment":[{"href":"https:\/\/www.wholecelium.com\/pl\/wp-json\/wp\/v2\/media?parent=210079"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.wholecelium.com\/pl\/wp-json\/wp\/v2\/categories?post=210079"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.wholecelium.com\/pl\/wp-json\/wp\/v2\/tags?post=210079"},{"taxonomy":"topics","embeddable":true,"href":"https:\/\/www.wholecelium.com\/pl\/wp-json\/wp\/v2\/topics?post=210079"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}