{"id":210079,"date":"2024-09-16T16:52:32","date_gmt":"2024-09-16T14:52:32","guid":{"rendered":"https:\/\/www.wholecelium.com\/?p=210079"},"modified":"2024-09-16T16:59:26","modified_gmt":"2024-09-16T14:59:26","slug":"tripping-robots-what-are-ai-hallucinations","status":"publish","type":"post","link":"https:\/\/www.wholecelium.com\/fr\/blog\/tripping-robots-what-are-ai-hallucinations\/","title":{"rendered":"Des robots qui tr\u00e9buchent ? Que sont les hallucinations de l'IA ?"},"content":{"rendered":"

Dans son roman embl\u00e9matique, inspir\u00e9 de Blade Runner Les andro\u00efdes r\u00eavent-ils de moutons \u00e9lectriques ?<\/em> L'auteur Philip K. Dick s'est pench\u00e9 sur les questions \u00e9thiques et philosophiques qui se posent lorsque des \u00eatres artificiels d\u00e9veloppent une conscience semblable \u00e0 celle des humains. Le roman explore la question de savoir si une entit\u00e9 artificielle est capable d'acqu\u00e9rir les caract\u00e9ristiques de la sensibilit\u00e9, telles que la conscience de soi, les \u00e9motions et la capacit\u00e9 de perception. Qu'est-ce que cela signifierait pour les fronti\u00e8res qui existent entre l'intelligence humaine et l'intelligence artificielle ? <\/strong><\/p>\n\n\n\n

\n

Bien que nous soyons (avec un peu de chance !) <\/em>Alors que la technologie est encore loin de se retourner contre nous, les questions soulev\u00e9es par Dick dans ce livre sont, aujourd'hui, plus pertinentes que jamais. <\/strong><\/p>\n<\/div>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Un acc\u00e8s sans pr\u00e9c\u00e9dent \u00e0 l'intelligence artificielle <\/h2>\n\n\n\n

C'est l\u00e0, bien s\u00fbr, qu'interviennent les hallucinations de l'IA. Avec l'afflux r\u00e9cent de grands mod\u00e8les de langage (LLM) <\/em>comme ChatGPT, nous avons \u00e9t\u00e9 confront\u00e9s \u00e0 l'intelligence artificielle d'une mani\u00e8re jamais vue auparavant. Les avantages et les inconv\u00e9nients sont \u00e0 la fois nombreux et controvers\u00e9s. Mais l'un des aspects les plus fascinants\/frustrants\/effrayants\/amusants de l'intelligence artificielle est le suivant (en fonction de votre vision des choses) <\/em>Les hallucinations de l'IA sont l'une des principales cons\u00e9quences de ce d\u00e9ploiement technologique. Ces \"hallucinations\" se produisent lorsque les LLM pr\u00e9sentent des informations fausses, trompeuses ou irrationnelles comme s'il s'agissait de faits. De nombreux utilisateurs ont constat\u00e9 que les r\u00e9ponses \u00e0 leurs questions fournies par ces syst\u00e8mes \u00e9taient manifestement fausses. Cela semble g\u00e9n\u00e9ralement se produire lorsqu'un LLM ne dispose pas de donn\u00e9es de qualit\u00e9 suffisante ou d'un contexte suffisant pour travailler.\u00a0<\/p>\n\n\n\n

Une machine peut-elle halluciner ?<\/h4>\n\n\n\n

Le terme choisi pour ce bogue, \"hallucinations\", est int\u00e9ressant. \u00c0 premi\u00e8re vue, il peut sembler paradoxal, car les hallucinations sont traditionnellement associ\u00e9es \u00e0 des cerveaux humains ou animaux, et non \u00e0 des machines froides et dures. Mais d'un point de vue m\u00e9taphorique, hallucination<\/strong> s'av\u00e8re \u00eatre un terme assez pr\u00e9cis pour d\u00e9crire ces dysfonctionnements, notamment dans les cas de reconnaissance d'images et de mod\u00e8les. <\/p>\n\n\n\n

Vous savez que vous voyez des figures dans les nuages ou des visages dans des objets inanim\u00e9s ? Il s'agit d'un ph\u00e9nom\u00e8ne humain tr\u00e8s naturel appel\u00e9 par\u00e9idolie<\/a>. <\/em>Mais les hallucinations de l'IA pourraient \u00eatre d\u00e9crites comme similaires, en cherchant des mod\u00e8les reconnaissables dans un fouillis de donn\u00e9es. Leurs interpr\u00e9tations erron\u00e9es peuvent \u00eatre dues \u00e0 diff\u00e9rents facteurs, notamment le biais ou l'inexactitude des donn\u00e9es d'apprentissage, l'ajustement excessif et la complexit\u00e9 \u00e9lev\u00e9e des mod\u00e8les. <\/p>\n\n\n\n

Une r\u00e9alit\u00e9 qu'ils ne comprennent pas<\/h5>\n\n\n\n

Les LLM utilisent des statistiques linguistiques pour produire des r\u00e9ponses sur une r\u00e9alit\u00e9 qu'ils ne comprennent pas vraiment. Leurs r\u00e9ponses peuvent sembler correctes (avec des exemples de grammaire, de s\u00e9mantique, etc.) <\/em>mais elles peuvent parfois \u00eatre compl\u00e8tement absurdes. Une IA mal form\u00e9e aura des biais et des angles morts inh\u00e9rents, ce qui signifie qu'elle essaiera de combler les lacunes pour tenter de r\u00e9pondre \u00e0 votre question. Cependant, les \"blancs\" qu'elle peut trouver peuvent \u00eatre tr\u00e8s \u00e9loign\u00e9s de la r\u00e9alit\u00e9. <\/p>\n\n\n\n

\"\"
Photo par Possessed Photography sur Unsplash<\/mark><\/em><\/figcaption><\/figure>\n\n\n\n

Certaines personnes ont (plut\u00f4t romantique)<\/em> a compar\u00e9 les hallucinations de l'IA \u00e0 nos r\u00eaves humains, en ce sens qu'elles m\u00ealent de mani\u00e8re cr\u00e9ative des donn\u00e9es apparemment al\u00e9atoires, sans fondement logique. Ces r\u00e9ponses farfelues peuvent avoir leurs avantages. Elles peuvent \u00eatre utilis\u00e9es pour inspirer une r\u00e9flexion \"hors des sentiers battus\" ou comme point de d\u00e9part pour l'\u00e9criture, la musique ou l'art. Mais elles peuvent aussi \u00eatre nuisibles. Elles peuvent faire prolif\u00e9rer les \"fake news\" et diffuser de fausses informations, ce qui peut \u00e9videmment avoir des cons\u00e9quences dangereuses. Vous ne voulez pas risquer les hallucinations de l'IA lorsqu'il s'agit de voitures autopilot\u00e9es ou de diagnostics m\u00e9dicaux ! <\/p>\n\n\n\n

Pour tenter de sauver la r\u00e9putation de l'IA aupr\u00e8s du public, les scientifiques m\u00e8nent une guerre contre les hallucinations avec des m\u00e9thodes con\u00e7ues pour les combattre. <\/p>\n\n\n\n

Comment poser de meilleures questions permet d'obtenir de meilleures r\u00e9ponses<\/h3>\n\n\n\n

L'une de ces m\u00e9thodes est le \"Prompt Engineering\". Il nous incombe \u00e0 nous, les utilisateurs, de r\u00e9fl\u00e9chir attentivement \u00e0 la mani\u00e8re dont nous formulons les questions que nous posons aux gestionnaires de l'apprentissage tout au long de la vie. Il s'agit de demander aux droit <\/strong>question. Une invite est essentiellement le contexte et l'ensemble des instructions que vous donnez \u00e0 un LLM, comme ChatGPT, pour obtenir une r\u00e9ponse appropri\u00e9e. Une invite r\u00e9ussie implique d'inclure un contexte et une perspective clairs sur ce que vous demandez, de donner un \"r\u00f4le\" au g\u00e9n\u00e9rateur d'IA et m\u00eame d'indiquer comment vous souhaitez que la r\u00e9ponse soit structur\u00e9e. <\/p>\n\n\n\n

Il ne s'agit pas simplement de taper quelques mots-cl\u00e9s dans Google. Pour obtenir les meilleurs r\u00e9sultats, les plus pr\u00e9cis, il est parfois n\u00e9cessaire d'avoir recours \u00e0 de multiples invites. Fondamentalement, vous devez contr\u00f4ler enti\u00e8rement vos entr\u00e9es pour guider vos sorties, ce qui est une fa\u00e7on de travailler avec le syst\u00e8me existant <\/strong>sans modifier intrins\u00e8quement sa programmation. Plus la qualit\u00e9 de la demande est \u00e9lev\u00e9e, plus la qualit\u00e9 de la r\u00e9ponse sera \u00e9lev\u00e9e. <\/p>\n\n\n\n

\"\"
Photo par Igor Omilaev sur Unsplash<\/mark><\/em><\/figcaption><\/figure>\n\n\n\n

Comment le \"Promt Engineering\" s'apparente-t-il au trip psych\u00e9d\u00e9lique ?<\/h4>\n\n\n\n

\"Fascinant ! <\/em>- on pourrait dire - \"Mais quel est le rapport avec les psych\u00e9d\u00e9liques ?!\" <\/em>Pour \u00eatre honn\u00eate, il n'y a pas beaucoup de charges, \u00e0 part l'invocation de la phrase '.hallucinations<\/a>. Mais les m\u00e9thodes permettant d'inhiber les hallucinations de l'IA nous ont amen\u00e9s \u00e0 r\u00e9fl\u00e9chir \u00e0 la mani\u00e8re dont nous influen\u00e7ons nos propres hallucinations volontaires, c'est-\u00e0-dire les voyages psych\u00e9d\u00e9liques. <\/p>\n\n\n\n

\u00c0 bien des \u00e9gards, cette id\u00e9e d'adapter l'entr\u00e9e pour assurer une bonne sortie est parall\u00e8le \u00e0 celle de l la d\u00e9finition des intentions<\/strong>et les autres travaux que nous effectuons pour pr\u00e9parez-vous \u00e0 un voyage psych\u00e9d\u00e9lique \u00e0 haute dose<\/a>. Cependant, plut\u00f4t que de le faire pour \u00e9viter les \"mauvaises\" r\u00e9ponses (certains diront qu'il n'y a pas de mauvaises r\u00e9ponses dans un voyage psych\u00e9d\u00e9lique !) <\/em>nous le faisons pour obtenir l'exp\u00e9rience la plus profonde et la plus g\u00e9n\u00e9rative possible. D\u00e9finir son intention est en quelque sorte la \"question\". 'Set et Setting<\/a>est comme le contexte. <\/p>\n\n\n\n

\"\"
Cr\u00e9\u00e9 via deepdreamgenerator<\/mark><\/em><\/figcaption><\/figure>\n\n\n\n

Si, contrairement \u00e0 l'IA, nos hallucinations, nos r\u00eaves et nos vagabondages sont g\u00e9n\u00e9ralement positifs, le fait de cultiver un certain niveau de concentration en vue d'un voyage peut vous aider \u00e0 en tirer le meilleur parti. Assurez-vous que vous vous sentez bien mentalement et que vous vous trouvez dans un environnement s\u00fbr et confortable. Formulez vos questions, vos intentions et vos id\u00e9es en vue d'un voyage. univers bienveillant<\/strong>plut\u00f4t qu'une recherche sur Google. <\/p>\n\n\n\n

Visions de notre moi int\u00e9rieur<\/h3>\n\n\n\n
\"\"<\/figure>\n\n\n\n

Avoir des hallucinations est une chose tr\u00e8s humaine - manifester des visions de nos d\u00e9sirs int\u00e9rieurs, de nos peurs, de nos merveilles, ou m\u00eame de la vid\u00e9o stupide que vous avez regard\u00e9e sur Youtube la semaine derni\u00e8re. Tout ce qui est en nous influence ce que nous voyons et exp\u00e9rimentons lorsque nous voyageons. Entr\u00e9e<\/strong>, sortie<\/strong>. Si les hallucinations de l'IA ne sont certainement pas du m\u00eame ordre, ni m\u00eame du m\u00eame ordre, il n'en reste pas moins qu'elles ne peuvent pas \u00eatre consid\u00e9r\u00e9es comme une menace pour la sant\u00e9 publique et l'environnement. (du moins, pas encore !) <\/em>il est possible de s'inspirer de la mani\u00e8re dont nous les abordons, en ce qui concerne nos propres incursions dans le domaine de l'\u00e9ducation et de la formation. intelligence psych\u00e9d\u00e9lique<\/strong>. <\/p>\n\n\n\n

<\/p>","protected":false},"excerpt":{"rendered":"

Nous vivons vraiment dans le futur. Alors que la popularit\u00e9 des psych\u00e9d\u00e9liques atteint son plus haut niveau depuis des d\u00e9cennies, les robots nous surpassent. Oui, les machines ont des hallucinations. Mais y a-t-il quelque chose d'extraordinaire \u00e0 d\u00e9couvrir lorsque l'IA hallucine ?<\/p>","protected":false},"author":4,"featured_media":210099,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[133,87],"tags":[],"topics":[],"class_list":["post-210079","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-philosophy-and-spirituality","category-pop-culture"],"_links":{"self":[{"href":"https:\/\/www.wholecelium.com\/fr\/wp-json\/wp\/v2\/posts\/210079","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.wholecelium.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.wholecelium.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.wholecelium.com\/fr\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/www.wholecelium.com\/fr\/wp-json\/wp\/v2\/comments?post=210079"}],"version-history":[{"count":13,"href":"https:\/\/www.wholecelium.com\/fr\/wp-json\/wp\/v2\/posts\/210079\/revisions"}],"predecessor-version":[{"id":210111,"href":"https:\/\/www.wholecelium.com\/fr\/wp-json\/wp\/v2\/posts\/210079\/revisions\/210111"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.wholecelium.com\/fr\/wp-json\/wp\/v2\/media\/210099"}],"wp:attachment":[{"href":"https:\/\/www.wholecelium.com\/fr\/wp-json\/wp\/v2\/media?parent=210079"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.wholecelium.com\/fr\/wp-json\/wp\/v2\/categories?post=210079"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.wholecelium.com\/fr\/wp-json\/wp\/v2\/tags?post=210079"},{"taxonomy":"topics","embeddable":true,"href":"https:\/\/www.wholecelium.com\/fr\/wp-json\/wp\/v2\/topics?post=210079"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}