{"id":210079,"date":"2024-09-16T16:52:32","date_gmt":"2024-09-16T14:52:32","guid":{"rendered":"https:\/\/www.wholecelium.com\/?p=210079"},"modified":"2024-09-16T16:59:26","modified_gmt":"2024-09-16T14:59:26","slug":"tropezar-robots-que-son-las-alucinaciones-ai","status":"publish","type":"post","link":"https:\/\/www.wholecelium.com\/es\/blog\/tripping-robots-what-are-ai-hallucinations\/","title":{"rendered":"\u00bfRobots que tropiezan? \u00bfQu\u00e9 son las alucinaciones de la IA?"},"content":{"rendered":"

En su ic\u00f3nica novela inspirada en Blade Runner \u00bfSue\u00f1an los androides con ovejas el\u00e9ctricas?<\/em> Philip K. Dick reflexiona sobre las cuestiones \u00e9ticas y filos\u00f3ficas que surgen cuando los seres artificiales desarrollan una conciencia similar a la humana. La novela explora si una entidad creada por el hombre es capaz de adoptar las caracter\u00edsticas de la sensibilidad, como la autoconciencia, las emociones y la capacidad de percepci\u00f3n. \u00bfQu\u00e9 significar\u00eda esto para los l\u00edmites que existen entre la inteligencia humana y la artificial? <\/strong><\/p>\n\n\n\n

\n

Mientras (\u00a1ojal\u00e1!) <\/em>Todav\u00eda estamos lejos de que la tecnolog\u00eda se vuelva contra nosotros, pero las cuestiones que Dick plantea en este libro son hoy m\u00e1s pertinentes que nunca. <\/strong><\/p>\n<\/div>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Acceso sin precedentes a la inteligencia artificial <\/h2>\n\n\n\n

Aqu\u00ed es, por supuesto, donde entran las alucinaciones de la IA. Con la reciente afluencia de grandes modelos ling\u00fc\u00edsticos (LLMs) <\/em>como ChatGPT, nos hemos enfrentado a la inteligencia artificial de una forma nunca antes vista. Las ventajas y los inconvenientes son numerosos y controvertidos. Pero uno de los m\u00e1s fascinantes\/frustrantes\/miedosos\/graciosos (dependiendo de su perspectiva) <\/em>de este despliegue tecnol\u00f3gico han sido las alucinaciones de la IA. Estas \"alucinaciones\" se producen cuando los LLM presentan informaci\u00f3n falsa, enga\u00f1osa o irracional como si fuera un hecho. Muchos usuarios han descubierto que las respuestas a sus preguntas proporcionadas por estos sistemas son manifiestamente falsas. Esto suele ocurrir cuando un LLM no recibe datos de suficiente calidad o contexto para trabajar.\u00a0<\/p>\n\n\n\n

\u00bfPuede una m\u00e1quina alucinar?<\/h4>\n\n\n\n

El t\u00e9rmino que se ha elegido para este bicho, \"alucinaciones\", es interesante. Al principio puede parecer parad\u00f3jico, ya que las alucinaciones se asocian tradicionalmente a cerebros humanos o animales, no a m\u00e1quinas fr\u00edas y duras. Sin embargo, desde un punto de vista metaf\u00f3rico, alucinaci\u00f3n<\/strong> resulta ser un t\u00e9rmino bastante preciso para describir estas disfunciones, sobre todo en casos de reconocimiento de im\u00e1genes y patrones. <\/p>\n\n\n\n

\u00bfSabe que ve figuras en las nubes o caras en objetos inanimados? Se trata de un fen\u00f3meno humano muy natural llamado pareidolia<\/a>. <\/em>Pero las alucinaciones de la IA podr\u00edan describirse de forma similar, buscando patrones reconocibles en una mara\u00f1a de datos. Sus interpretaciones err\u00f3neas pueden deberse a varios factores, como el sesgo o la imprecisi\u00f3n de los datos de entrenamiento, el exceso de ajuste y la elevada complejidad del modelo. <\/p>\n\n\n\n

Una realidad que no comprenden<\/h5>\n\n\n\n

Los LLM utilizan la estad\u00edstica ling\u00fc\u00edstica para producir respuestas sobre una realidad que en realidad no comprenden. Sus respuestas pueden parecer correctas (con ejemplos gramaticales, sem\u00e1nticos, etc.) <\/em>pero a veces pueden ser un completo disparate. Una IA mal entrenada tendr\u00e1 sesgos y puntos ciegos inherentes, lo que significa que intentar\u00e1 rellenar los espacios en blanco para responder a tu pregunta. Sin embargo, los \"espacios en blanco\" que se le ocurran pueden ser de otro mundo. <\/p>\n\n\n\n

\"\"
Foto de Possessed Photography en Unsplash<\/mark><\/em><\/figcaption><\/figure>\n\n\n\n

Algunas personas tienen (m\u00e1s bien rom\u00e1nticamente)<\/em> compar\u00f3 las alucinaciones de la IA con nuestros sue\u00f1os humanos, en el sentido de que fusionan creativamente datos aparentemente aleatorios, sin base en la l\u00f3gica. Estas respuestas extravagantes pueden tener sus ventajas. Pueden servir para inspirar el pensamiento creativo o como punto de partida para la escritura, la m\u00fasica o el arte. Pero tambi\u00e9n pueden ser perjudiciales. Pueden hacer proliferar noticias falsas y difundir informaci\u00f3n falsa, lo que obviamente puede tener consecuencias peligrosas. No querr\u00e1s arriesgarte a tener alucinaciones con la IA cuando se trate de coches autoconducidos o diagn\u00f3sticos m\u00e9dicos. <\/p>\n\n\n\n

En un intento por salvar la reputaci\u00f3n de la IA ante el p\u00fablico, los cient\u00edficos libran una guerra contra las alucinaciones con m\u00e9todos ideados para combatirlas. <\/p>\n\n\n\n

C\u00f3mo formular mejores preguntas da mejores respuestas<\/h3>\n\n\n\n

Uno de estos m\u00e9todos es la \"ingenier\u00eda de preguntas\". Esto nos obliga a nosotros, los usuarios, a pensar detenidamente en c\u00f3mo formulamos las preguntas que hacemos a los estudiantes. Se trata de preguntar a los derecha <\/strong>pregunta. Un prompt es b\u00e1sicamente el contexto y el conjunto de instrucciones que das a un LLM, como ChatGPT, para obtener una respuesta adecuada. Para que una pregunta tenga \u00e9xito, hay que incluir un contexto y una perspectiva claros sobre lo que se est\u00e1 preguntando, dar un \"papel\" al generador de IA e incluso esbozar c\u00f3mo quieres que se estructure la respuesta. <\/p>\n\n\n\n

No se trata s\u00f3lo de introducir algunas palabras clave en Google. Para obtener los mejores y m\u00e1s precisos resultados, a veces pueden ser necesarias varias indicaciones. B\u00e1sicamente, hay que tener un control total de la entrada para guiar la salida, que es una forma de trabajar con el sistema existente <\/strong>sin cambiar intr\u00ednsecamente su programaci\u00f3n. Cuanto mayor sea la calidad de la se\u00f1al que introduzca, mayor ser\u00e1 la calidad de la respuesta que obtenga. <\/p>\n\n\n\n

\"\"
Foto de Igor Omilaev en Unsplash<\/mark><\/em><\/figcaption><\/figure>\n\n\n\n

C\u00f3mo se relaciona la \"ingenier\u00eda promt\" con los viajes psicod\u00e9licos<\/h4>\n\n\n\n

\"\u00a1Cosas fascinantes!\" <\/em>- se podr\u00eda decir - \"\u00a1\u00bfPero qu\u00e9 tiene esto que ver con los psicod\u00e9licos?!\" <\/em>Bueno, para ser sinceros, no mucho, aparte de la invocaci\u00f3n de 'alucinaciones<\/a>. Pero los m\u00e9todos con los que se pueden inhibir las alucinaciones de la IA nos han hecho pensar en c\u00f3mo influimos en nuestras propias alucinaciones intencionadas, es decir, en los viajes psicod\u00e9licos. <\/p>\n\n\n\n

En muchos sentidos, esta idea de adaptar la entrada para garantizar un buen resultado es paralela a la de establecimiento de intenciones<\/strong>y el resto del trabajo que hacemos para prep\u00e1rate para un viaje psicod\u00e9lico con dosis m\u00e1s altas<\/a>. Sin embargo, en lugar de hacerlo para evitar respuestas \"err\u00f3neas (algunos dir\u00e1n que no hay respuestas equivocadas en un viaje psicod\u00e9lico). <\/em>lo hacemos para obtener la experiencia m\u00e1s profunda y generativa que podamos. Establecer tu intenci\u00f3n es, en cierto modo, la \"pregunta\". 'Set y ajuste<\/a>' es como el contexto. <\/p>\n\n\n\n

\"\"
Creado a trav\u00e9s de deepdreamgenerator<\/mark><\/em><\/figcaption><\/figure>\n\n\n\n

Aunque, a diferencia de la IA, nuestras alucinaciones, sue\u00f1os y vagabundeos mentales suelen ser algo positivo, cultivar un nivel de concentraci\u00f3n para un viaje puede ayudarte a sacarle el m\u00e1ximo partido. Aseg\u00farate de sentirte bien mentalmente y de estar en un entorno seguro y c\u00f3modo. Plantea tus preguntas, intenciones e ideas para un viaje. universo amable<\/strong>en lugar de Google scrape. <\/p>\n\n\n\n

Visiones de nuestro yo interior<\/h3>\n\n\n\n
\"\"<\/figure>\n\n\n\n

Alucinar es algo muy humano: manifestar visiones de nuestros deseos internos, miedos, maravillas o incluso del v\u00eddeo tonto que viste en Youtube la semana pasada. Todo lo que llevamos dentro influye en lo que vemos y experimentamos cuando viajamos. Entrada<\/strong>, salida<\/strong>. As\u00ed que, aunque las alucinaciones de IA no est\u00e1n en la misma liga, ni siquiera en la misma llanura... (al menos, \u00a1todav\u00eda no!) <\/em>es posible inspirarse en la forma en que los abordamos, en lo que respecta a nuestras propias incursiones en inteligencia psicod\u00e9lica<\/strong>. <\/p>\n\n\n\n

<\/p>","protected":false},"excerpt":{"rendered":"

Vivimos en el futuro, amigos. Justo cuando la popularidad de los psicod\u00e9licos alcanza su pico m\u00e1s alto en d\u00e9cadas, los robots van y nos superan. S\u00ed, las m\u00e1quinas est\u00e1n alucinando. \u00bfPero hay algo *profundo* que encontrar cuando la IA alucina?<\/p>","protected":false},"author":4,"featured_media":210099,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[133,87],"tags":[],"topics":[],"class_list":["post-210079","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-philosophy-and-spirituality","category-pop-culture"],"_links":{"self":[{"href":"https:\/\/www.wholecelium.com\/es\/wp-json\/wp\/v2\/posts\/210079","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.wholecelium.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.wholecelium.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.wholecelium.com\/es\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/www.wholecelium.com\/es\/wp-json\/wp\/v2\/comments?post=210079"}],"version-history":[{"count":13,"href":"https:\/\/www.wholecelium.com\/es\/wp-json\/wp\/v2\/posts\/210079\/revisions"}],"predecessor-version":[{"id":210111,"href":"https:\/\/www.wholecelium.com\/es\/wp-json\/wp\/v2\/posts\/210079\/revisions\/210111"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.wholecelium.com\/es\/wp-json\/wp\/v2\/media\/210099"}],"wp:attachment":[{"href":"https:\/\/www.wholecelium.com\/es\/wp-json\/wp\/v2\/media?parent=210079"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.wholecelium.com\/es\/wp-json\/wp\/v2\/categories?post=210079"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.wholecelium.com\/es\/wp-json\/wp\/v2\/tags?post=210079"},{"taxonomy":"topics","embeddable":true,"href":"https:\/\/www.wholecelium.com\/es\/wp-json\/wp\/v2\/topics?post=210079"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}