En Google I/O 2023, el gigante de las búsquedas finalmente presentó palma 2su último modelo de lenguaje de uso general. PaLM 2 es la base sobre la que se están construyendo varios productos de Google, incluidos Google Generative AI Search, Duet AI en Google Docs y Gmail, Google Bard y más. Pero, ¿qué es exactamente el modelo de inteligencia artificial de Google PaLM 2? ¿Es mejor que GPT-4? ¿Admite complementos? Para responder a todas sus preguntas, consulte nuestra explicación detallada sobre el modelo de inteligencia artificial de PaLM 2 lanzado por Google.
¿Qué es el modelo de inteligencia artificial PaLM 2 de Google?
PaLM 2 es el último modelo de lenguaje grande (LLM) lanzado por Google que es altamente capaz en razonamiento avanzado, codificación y matemáticasTambién es multilingüe y admite más de 100 idiomas. PaLM 2 es el sucesor del Pathways Language Model (PaLM) anterior, lanzado en 2022.
La primera versión de PaLM se entrenó con 540 mil millones de parámetros, lo que la convierte en una de las LLM más grandes del mercado. Sin embargo, en 2023, Google presentó PaLM 2, que es mucho más pequeña en tamaño, pero es más rápida y eficiente que la competencia.
En PaLM 2 Informe técnico de 92 páginasGoogle no ha mencionado el tamaño del parámetro, pero según un TecnologíaCrunch informeuno de los Los modelos PaLM 2 solo se entrenan con 14,7 mil millones de parámetrosque es mucho menor que PaLM 1 y otros modelos competitivos. Algunos Investigadores En Twitter dicen que el modelo PaLM 2 más grande probablemente esté entrenado con 100 mil millones de parámetros, lo que todavía es mucho más bajo que la competencia.
Para darte una idea, se dice que el modelo GPT-4 de OpenAI está entrenado en 1 billón parámetros, lo cual es simplemente alucinante. El modelo GPT-4 es al menos 10 veces más grande que PaLM 2.
¿Cómo hizo Google que PaLM 2 fuera más pequeño?
En el Blog oficialGoogle dice que más grande no siempre es mejor y que la creatividad en la investigación es la clave para crear grandes modelos. Aquí, con “creatividad en la investigación”, es probable que Google se refiera al aprendizaje por refuerzo a partir de la retroalimentación humana. (RLHF), escalamiento computacional óptimoy otras técnicas novedosas.
Google no ha revelado qué creatividad de investigación está empleando en PaLM 2, pero parece que la compañía podría estar usando LoRA (adaptación de bajo rango)ajuste de instrucciones y conjuntos de datos de calidad para obtener mejores resultados a pesar de utilizar un modelo relativamente más pequeño.
En general, PaLM 2 es un modelo LLM que es Más rápido, relativamente más pequeño y rentable. porque atiende a menos parámetros. Al mismo tiempo, aporta capacidades como razonamiento de sentido común, mejor interpretación lógica, matemáticas avanzadas, conversación multilingüe, dominio de la codificación y más. Esos fueron los conceptos básicos del modelo PaLM 2, ahora avancemos y conozcamos sus características en detalle.
¿Cuáles son las características destacadas de PaLM 2?
Como se mencionó anteriormente, PaLM 2 es más rápido, altamente eficiente y tiene un costo de servicio más bajo. Aparte de eso, ofrece varias capacidades avanzadas. Para empezar, PaLM 2 es muy bueno en el razonamiento de sentido común. Google, de hecho, dice que las capacidades de razonamiento de PaLM 2 son competitivo con GPT-4En la prueba de sentido común de WinoGrande, PaLM 2 obtuvo una puntuación de 90,2, mientras que GPT-4 obtuvo 87,5. En la prueba ARC-C, GPT-4 obtuvo una puntuación un poco más alta y obtuvo 96,3, mientras que PaLM 2 obtuvo 95,1. En otras pruebas de razonamiento, como DROP, StrategyQA, CSQA y algunas otras, PaLM 2 supera a GPT-4.
No sólo eso, debido a su capacidad multilingüe, PaLM 2 puede entender modismos, poemas, textos matizados e incluso acertijos en otros idiomas. Va más allá del significado literal de las palabras y Comprende el significado ambiguo y figurativo detrás de las palabras. Esto se debe a que PaLM 2 ha sido entrenado previamente con textos multilingües paralelos de varios idiomas. Además, el corpus de datos multilingües de alta calidad hace que PaLM 2 sea aún más potente. Como resultado, la traducción y otras aplicaciones similares funcionan mucho mejor en PaLM 2.
A continuación, llegamos a sus capacidades de codificación. Google dice que PaLM 2 está nuevamente entrenado en un gran corpus de conjuntos de datos de código fuente de calidad disponibles en el dominio público. Como resultado, admite más de 20 lenguajes de programación, que incluyen Python, JavaScrupt, C, C++ e incluso lenguajes más antiguos como Prolog, Fortran y Verilog. También puede generar código, ofrecer sugerencias contextuales, traducir código de un lenguaje a otro, agregar funciones con solo un comentario y más.
¿Qué puede hacer el modelo PaLM 2?
En primer lugar, permítanme decir que PaLM 2 se ha diseñado para que se adapte a diferentes casos de uso. Google anunció que PaLM 2 vendrá en cuatro modelos diferentes: Gecko, nutria, bisonte y unicornio;Gecko es el más pequeño y Unicornio es el más grande.
Gecko es tan liviano que puede ejecutarse incluso en teléfonos inteligentes sin necesidad de estar en línea. procesa 20 tokens por segundo en un teléfono insignia, lo que equivale a unas 16 palabras por segundo. Es fantástico, ¿verdad? Imagina el tipo de aplicaciones integradas con inteligencia artificial que puedes ejecutar en tu teléfono inteligente sin necesidad de una conexión a Internet activa ni de especificaciones potentes.
Aparte de eso, PaLM 2 se puede ajustar para crear un modelo específico del dominio Google ya ha creado Med-PaLM 2, un LLM específico para la medicina perfeccionado sobre PaLM 2 que recibió competencia de nivel «Experto» en preguntas de estilo del Examen de Licencia Médica de EE. UU. Logró un Precisión del 85,4% en el examen USMLEincluso superior al GPT-4 (84%). Dicho esto, tenga en cuenta que el GPT-4 es un LLM de propósito general y no está adaptado al conocimiento médico.
En el futuro, Google ha añadido Capacidad multimodal para Med-PaLM 2Puede analizar imágenes como radiografías y mamografías y llegar a conclusiones en sintonía con médicos expertos. Esto es bastante notable, ya que puede brindar acceso médico muy necesario a áreas remotas de todo el mundo. Además de eso, Google ha desarrollado Sec-PaLM, una versión especializada de PaLM 2 para el análisis de ciberseguridad y para detectar rápidamente amenazas maliciosas en poco tiempo.
Productos de Google con tecnología PaLM 2
Todos estos son casos de uso diferentes de PaLM 2 en diferentes esferas e industrias. En cuanto a los consumidores individuales, pueden experimentar PaLM 2 en acción a través de Google Bard, Google Generative AI Search y Duet AI en Gmail, Google Docs y Google Sheets. Google recientemente trasladó Bard, su chatbot interactivo de IA, a PaLM 2 y abrió el acceso a más de 180 paísesPuedes seguir nuestro artículo y aprender a utilizar Google Bard ahora mismo.
En cuanto al uso de PaLM 2 en Gmail, Google Docs y Sheets (Google lo llama Dueto IA para Google Workspace), debes unirte a lista de espera para aprovechar las funciones impulsadas por IA. Por último, para los desarrolladores, Google ha Lanzó la API PaLM que se basa en el modelo PaLM 2. Puedes inscribirse Ahora mismo puedes usar la API de PaLM en tus productos. Puede generar más de 75 tokens por segundo y tiene una ventana de contexto de 8000 tokens.
PaLM 2 vs GPT-4: ¿Cómo se comparan los modelos de IA?
Antes de comparar las capacidades, hay algo que está claro: PaLM 2 es rápido. Es decir, responde rápidamente a consultas, incluso a preguntas de razonamiento complejas. No solo eso, sino que ofrece tres borradores a la vez, en caso de que no estés satisfecho con la respuesta predeterminada. Por lo tanto, desde el punto de vista de la eficiencia y la computación, Google está un paso o dos por delante de OpenAI. Lee sobre todas las nuevas características de Google Bard AI aquí.
En lo que respecta a las capacidades, probamos la capacidad de razonamiento tanto de los modelos como de los de PaLM 2. Google Bard realmente brilla En este tipo de pruebas, Bard respondió correctamente las tres preguntas de razonamiento, mientras que ChatGPT-4 solo pudo responder correctamente una. En una ocasión, la evaluación de Bard fue incorrecta (parecía alucinar), pero de alguna manera dio la respuesta correcta.
Aparte de eso, para las tareas de codificación, le pedí a Bard que encontrara un error en el código que le proporcioné, pero me dio una respuesta extensa para solucionar los problemas, que resultó ser completamente errónea. Sin embargo, ChatGPT-4 identificó instantáneamente la sintaxis de codificación, detectó el error y corrigió el código sin más preguntas.
También asigné una tarea a ambos modelos para implementar el algoritmo de Dijkstra en Python y ambos modelos código generado sin erroresCompilé ambos y ninguna de las funciones generó errores. Dicho esto, ChatGPT-4 genera código limpio con algunos ejemplos, mientras que Bard solo implementa la función básica.
Limitaciones de Google PaLM 2
En cuanto a las limitaciones, ya sabemos que los complementos de ChatGPT son potentes y pueden mejorar rápidamente las capacidades de GPT-4. Con solo el complemento Complemento intérprete de códigoLos usuarios pueden hacer mucho más con ChatGPT. De hecho, Google también ha anunciado «Herramientas» similares a complementos, pero aún no están disponibles y el soporte de terceros parece mediocre en este momento. Al mismo tiempo, el soporte para desarrolladores es fundamental para OpenAI.
A continuación, GPT-4 es un modelo multimodal, lo que significa que puede analizar tanto textos como imágenes. La multimodalidad tiene varios casos de uso interesantes. Puede pedirle a ChatGPT que estudie un gráfico, una tabla, un informe médico, imágenes médicas y más. Sí, la función aún no se ha agregado a ChatGPT, pero hemos visto una demostración preliminar y parecía muy impresionante. Por otro lado, PaLM 2 no es un modelo multimodal ya que solo trata con textos.
El gigante de las búsquedas ha perfeccionado PaLM 2 para crear Med-PaLM 2, que es multimodal, pero no está abierto al uso público y está limitado únicamente al ámbito médico. Google dice que El modelo de próxima generación, llamado Gemini, será multimodal con características innovadoras, pero aún se está entrenando y faltan meses para su lanzamiento. Google ha prometido brindar compatibilidad con Lens a Bard, pero no es lo mismo que un modelo visual impulsado por IA.
Finalmente, en comparación con GPT-4, Google Bard alucina mucho (Vea un ejemplo aquídonde Bard piensa que el modelo de IA de PaLM fue creado por OpenAI). Inventa información sobre la marcha y responde con seguridad con información falsa. GPT-3 y GPT-3.5 también tenían un problema similar, pero OpenAI ha logrado reducir las alucinaciones en un 40% con el lanzamiento de GPT-4. Google necesita abordar el mismo problema de las alucinaciones «con valentía y responsabilidad.”
Conclusión: ¿PaLM 2 o GPT-4?
En resumen, el modelo de IA PaLM 2 de Google ha mejorado en algunas áreas, como razonamiento avanzado, traducción, capacidades multilingües, matemáticas y codificación. Además, tiene el beneficio adicional de ejecutar un modelo más pequeño con un rendimiento rápido y bajos costos de servicio. Sin embargo, para alcanzar la paridad de características con GPT-4, Google necesita agregar multimodalidad, herramientas de terceros (complementos), abordar el problema de las alucinaciones y hacer que sus modelos de IA sean lo más fáciles de usar para los desarrolladores posible.
Apoya nuestro trabajo ❤️
Si te ha gustado este artículo, considera dejar una propina para ayudarnos a seguir publicando contenido de calidad.
