Las descripciones generales de Google AI se anunciaron hace un par de semanas en Google I/O y ya han demostrado ser bastante controvertidas. El objetivo de proporcionar respuestas de alta calidad a sus preguntas resumidas de la web, pero una serie de recientes X hilos (anteriormente Twitter) muestra cuán grande es el fracaso que ya se ha demostrado.
La respuesta que se volvió viral involucra una receta de pizza muy dudosa. Como se informó, cuando se le pide a Google una respuesta al problema de que «el queso no se pega a la pizza», AI Overview sugiere agregar pegamento no tóxico a la pizza para evitar que el queso se resbale. Las palabras exactas que dio la descripción general de AI son las siguientes: «También puedes agregar aproximadamente 1/8 de taza de pegamento no tóxico a la salsa para darle más pegajosidad». ¿De dónde vino el Descripción general de la IA de Google obtener la información como fuente? Un comentario de Reddit de hace 11 años de este hiloen lo que claramente era una broma.
– SG-r01 (@heavenrend) 22 de mayo de 2024
Las palabras “el queso no se pega a la pizza” generaron esta respuesta inesperada y divertida, e Internet se está divirtiendo con eso. Desde entonces, la respuesta de Google AI Overview se ha vuelto viral, con Alguien incluso prueba pizza con pegamento sólo para dejar claro el punto.
Cabe señalar que hemos visto un aumento masivo en Reddit y las publicaciones en foros que aparecen más arriba en las búsquedas de Google. También vale la pena señalar que Reddit firmó recientemente un acuerdo de 60 millones de dólares para permitir que Google entrene a sus modelos en el contenido de Reddit. No es difícil conectar los puntos sobre cómo pudo haber sucedido esto.
Sin embargo, no es sólo Reddit. Otro La descripción general de la IA se publicó en línea con una respuesta a «¿cuántas piedras debo comer cada día?», que extrae información directamente de The Onion.
– Tim Cebolla (@oneunderscore__) 23 de mayo de 2024
Parte del problema es la convicción absoluta con la que AI Overviews ofrece sus respuestas. No muestra un enlace a un artículo de Onion y le permite hacer la adjudicación. En cambio, trata cada fuente como si fuera Wikipedia y entrega información con total confianza.
Google afirma que sus descripciones generales de IA brindan a los usuarios información de alta calidad y que este tipo de errores son poco comunes. Aquí está la respuesta oficial proporcionada a Moyens I/O por Google: “La gran mayoría de las descripciones generales de IA brindan información de alta calidad, con enlaces para profundizar en la web. Muchos de los ejemplos que hemos visto han sido consultas poco comunes y también hemos visto ejemplos que fueron manipulados o que no pudimos reproducir. Realizamos pruebas exhaustivas antes de lanzar esta nueva experiencia y, al igual que con otras funciones que lanzamos en la Búsqueda, agradecemos los comentarios. Estamos tomando medidas rápidas cuando corresponde según nuestras políticas de contenido y utilizando estos ejemplos para desarrollar mejoras más amplias en nuestros sistemas, algunas de las cuales ya han comenzado a implementarse”.
Parece que algunas de estas descripciones generales de la IA serán difíciles de corregir si no se pueden reproducir. Las “mejoras más amplias” tendrán que ser la solución, y dado que Google dice que ya están en proceso, esperamos que pronto comencemos a ver algunas búsquedas mejores. Habrá que ver si Google responde a la situación más allá de esa afirmación. Después de recibir comentarios negativos sobre su generación de imágenes en Gemini a principios de este año, Google tuvo que disculparse y eliminarlo. para solucionar sus problemas.
Sin embargo, por ahora, ambos son buenos recordatorios de cuán cuidadosos debemos ser cuando confiamos en los motores de inteligencia artificial para obtener información. Se inició la descripción general de la IA de Google Lanzamiento para todos en los EE. UU. a principios de este mes., y pronto habrá más países. Pero con respuestas como esta, es posible que haya más personas buscando una manera de desactivarlo de lo que Google esperaba.
Apoya nuestro trabajo ❤️
Si te ha gustado este artículo, considera dejar una propina para ayudarnos a seguir publicando contenido de calidad.
