{"id":2247,"date":"2024-05-27T07:31:54","date_gmt":"2024-05-27T07:31:54","guid":{"rendered":"https:\/\/howtogeek.blog\/es\/?p=2247"},"modified":"2024-05-27T07:31:54","modified_gmt":"2024-05-27T07:31:54","slug":"googles-ai-search-tells-users-to-eat-rocks-and-put-glue-on-pizza-es","status":"publish","type":"post","link":"https:\/\/howtogeek.blog\/es\/googles-ai-search-tells-users-to-eat-rocks-and-put-glue-on-pizza-es\/","title":{"rendered":"La b\u00fasqueda con inteligencia artificial de Google les dice a los usuarios que coman piedras y pongan pegamento en la pizza"},"content":{"rendered":"

Las empresas de tecnolog\u00eda se est\u00e1n centrando m\u00e1s que nunca en la IA, lo que ha dado lugar a que los modelos de IA mejoren y mejoren continuamente en diversas tareas. Por ejemplo, OpenAI present\u00f3 recientemente su \u00faltimo modelo insignia, GPT-4o, que incluso puede detectar y simular emociones humanas. El nuevo modelo multimodal puede recopilar datos y proporcionar informaci\u00f3n utilizando capacidades visuales y de audio adem\u00e1s de las basadas en texto.<\/p>\n

Sin embargo, no es una buena noticia en todas partes, ya que estos modelos a\u00fan pueden cometer errores y ofrecer informaci\u00f3n y sugerencias err\u00f3neas. El ejemplo m\u00e1s reciente de esto es el AI Overviews de Google, que el gigante de las b\u00fasquedas present\u00f3 a principios de este mes. Esto ten\u00eda como objetivo proporcionar res\u00famenes generados por IA de la informaci\u00f3n que buscaban los usuarios. En el uso real, la funci\u00f3n est\u00e1 demostrando ser poco confiable ya que la IA ha estado ofreciendo respuestas objetivamente incorrectas y sugerencias extra\u00f1as a los usuarios que no tienen sentido.<\/p>\n

Las descripciones generales de la IA ofrecen sugerencias extra\u00f1as: Internet est\u00e1 dividido<\/h2>\n

Las descripciones generales de IA de Google est\u00e1n dise\u00f1adas para reducir el esfuerzo involucrado en la b\u00fasqueda de informaci\u00f3n al proporcionar res\u00famenes de informaci\u00f3n generados por IA recopilados de diferentes p\u00e1ginas. El problema es que actualmente la IA no puede determinar qu\u00e9 fuente proporciona informaci\u00f3n cre\u00edble y precisa, lo que significa que puede crear res\u00famenes utilizando datos falsos.<\/p>\n

Adem\u00e1s, no parece ser el mejor para determinar la intenci\u00f3n del usuario. Por ejemplo, sugiri\u00f3 que los ge\u00f3logos recomendaran comer una peque\u00f1a piedra por d\u00eda a la consulta de un usuario, aparentemente basando su respuesta en informaci\u00f3n del sitio web de humor The Onion.<\/p>\n

Continu\u00f3 afirmando que las rocas son una fuente vital de minerales y vitaminas necesarias para una mejor salud digestiva, e incluso sugiri\u00f3 esconder rocas y guijarros en alimentos como el helado. De manera similar, a otra pregunta sobre c\u00f3mo hacer que el queso se adhiera mejor a la pizza, la IA de Google sugiri\u00f3 poner pegamento para aumentar la pegajosidad.<\/p>\n

\"\"
Fuente: X<\/figcaption><\/figure>\n

Cuando se le pregunt\u00f3 sobre el n\u00famero de presidentes musulmanes que ha tenido Estados Unidos, afirm\u00f3 que Barack Obama fue el \u00fanico presidente musulm\u00e1n, lo cual es objetivamente incorrecto ya que es cristiano. Y a una pregunta sobre la eliminaci\u00f3n de c\u00e1lculos renales, la IA respondi\u00f3 que se recomienda beber dos litros de orina cada 24 horas.<\/p>\n

La IA de Google tambi\u00e9n afirm\u00f3 que un perro ha jugado en la NBA e incluso logr\u00f3 crear una nueva forma de medici\u00f3n llamada ‘kilotomato’ cuando se le pregunt\u00f3 sobre esos temas. Hay bastantes otros ejemplos que ilustran c\u00f3mo las descripciones generales de IA pueden proporcionar, y han estado proporcionando, informaci\u00f3n incorrecta.<\/p>\n

\"\"
Fuente: Sherr\/CNET<\/figcaption><\/figure>\n

Si bien Internet se est\u00e1 divirtiendo con respuestas divertidas, estas respuestas tambi\u00e9n pueden ser peligrosas. En un instante, las descripciones generales de Google AI proporcionaron a un usuario que preguntaba sobre la depresi\u00f3n al saltar del puente Golden Gate como una posible sugerencia.<\/p>\n

\"\"
Fuente: Reddit<\/figcaption><\/figure>\n

\u00bfCu\u00e1l es la respuesta de Google?<\/h2>\n

Para hacer frente a la complicada situaci\u00f3n que han creado sus res\u00famenes de IA, Google dice que est\u00e1 tomando medidas r\u00e1pidas para corregir los errores en la informaci\u00f3n factual. Tambi\u00e9n utilizar\u00e1 estas instancias para mejorar su IA de modo que se reduzca la posibilidad de que se produzcan este tipo de incidentes.<\/p>\n

Dicho esto, la compa\u00f1\u00eda sostiene que la IA est\u00e1 funcionando en gran medida como deber\u00eda y que estas respuestas incorrectas se produjeron debido a violaciones de pol\u00edticas y consultas de usuarios muy poco comunes. No representan la experiencia que la mayor\u00eda de las personas ha tenido con AI Overviews. Google tambi\u00e9n afirm\u00f3 que muchos de los ejemplos que mostraban respuestas incorrectas o extra\u00f1as fueron manipulados y no pudo reproducir resultados similares al probar la IA internamente.<\/p>\n

Limitaciones de la inteligencia artificial<\/h2>\n

Desde el lanzamiento de ChatGPT de OpenAI hace dos a\u00f1os, la IA y sus tecnolog\u00edas aliadas han recorrido un largo camino. Han mejorado a la hora de determinar qu\u00e9 buscan los usuarios y proporcionar respuestas m\u00e1s relevantes. El resultado es que cada vez m\u00e1s productos orientados al consumidor se integran con la tecnolog\u00eda.<\/p>\n

Si bien esto puede resultar \u00fatil para ahorrar tiempo y esfuerzo al buscar informaci\u00f3n o crear contenido, es importante comprender que la IA todav\u00eda tiene ciertas limitaciones. En primer lugar, los modelos de IA todav\u00eda tienden a alucinar, lo que significa que pueden inventar hechos y datos que no son ciertos en un intento de responder la consulta de un usuario.<\/p>\n

Adem\u00e1s, como se mencion\u00f3 anteriormente, incluso en los casos en que la IA no inventa sus propios hechos, puede estar obteniendo su informaci\u00f3n de alg\u00fan lugar que no sea cre\u00edble. Nuevamente, esto puede afectar la informaci\u00f3n del usuario cuando aparece informaci\u00f3n falsa como respuesta correcta en los resultados de b\u00fasqueda. Es por eso que casi todas las empresas muestran ahora una advertencia en sus herramientas de IA de que la informaci\u00f3n que proporciona la IA puede no ser cierta.<\/p>\n

Si bien las extra\u00f1as respuestas proporcionadas por AI Overviews de Google pueden ser divertidas de leer, plantean una seria pregunta sobre la confiabilidad de los modelos de IA en general. Potencialmente, puede provocar errores graves si una persona se basa en informaci\u00f3n incorrecta proporcionada por la IA y no puede determinar si es correcta o no.<\/p>\n

Adem\u00e1s de eso, Google no permite a los usuarios desactivar completamente las descripciones generales de IA ahora, por lo que la funci\u00f3n lleg\u00f3 para quedarse, lo cual es otra parte del problema. Sin embargo, puede ingresar a la configuraci\u00f3n de su cuenta de Google y desactivarla en Labs, como explicamos en la gu\u00eda a continuaci\u00f3n. La b\u00fasqueda de respuestas en diferentes p\u00e1ginas puede ser m\u00e1s lenta, pero es menos probable que se encuentre con hechos inventados y sugerencias extra\u00f1as.<\/p>\n","protected":false},"excerpt":{"rendered":"

Las empresas de tecnolog\u00eda se est\u00e1n centrando m\u00e1s que nunca en la IA, lo que ha dado lugar a que los modelos de IA mejoren y mejoren continuamente en diversas tareas. Por ejemplo, OpenAI present\u00f3 recientemente su \u00faltimo modelo insignia, GPT-4o, que incluso puede detectar y simular emociones humanas. El nuevo modelo multimodal puede recopilar […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[182,22,130],"class_list":["post-2247","post","type-post","status-publish","format-standard","hentry","category-how-to","tag-artificial-intelligence","tag-google","tag-microsoft"],"acf":[],"_links":{"self":[{"href":"https:\/\/howtogeek.blog\/es\/wp-json\/wp\/v2\/posts\/2247","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/howtogeek.blog\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/howtogeek.blog\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/howtogeek.blog\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/howtogeek.blog\/es\/wp-json\/wp\/v2\/comments?post=2247"}],"version-history":[{"count":1,"href":"https:\/\/howtogeek.blog\/es\/wp-json\/wp\/v2\/posts\/2247\/revisions"}],"predecessor-version":[{"id":2248,"href":"https:\/\/howtogeek.blog\/es\/wp-json\/wp\/v2\/posts\/2247\/revisions\/2248"}],"wp:attachment":[{"href":"https:\/\/howtogeek.blog\/es\/wp-json\/wp\/v2\/media?parent=2247"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/howtogeek.blog\/es\/wp-json\/wp\/v2\/categories?post=2247"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/howtogeek.blog\/es\/wp-json\/wp\/v2\/tags?post=2247"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}