Google DeepMind ya ofrece Gemma 2: IA más rápida y accesible

By Juan Diego Polo

Hoy, el lanzamiento de Gemma 2 marca un hito importante para desarrolladores y investigadores, ofreciendo un modelo abierto de alto rendimiento con opciones de 9 mil millones (9B) y 27 mil millones (27B) de parámetros. Gemma 2 promete eficiencia, velocidad y accesibilidad sin precedentes.

Rendimiento Excepcional

Modelos de 9B y 27B parámetros

Gemma 2 ofrece versiones de 9B y 27B parámetros. Ambos modelos destacan por su rendimiento superior en comparación con modelos de mayor tamaño. El modelo de 27B, por ejemplo, compite con alternativas que tienen el doble de parámetros, lo que lo convierte en una opción robusta para aplicaciones exigentes.

Inferencia Rápida y Eficiente

Uno de los mayores atractivos de Gemma 2 es su eficiencia en la inferencia. Este modelo puede funcionar a plena precisión en hardware de alta gama como la GPU NVIDIA H100 Tensor Core o en un host de Google Cloud TPU, reduciendo significativamente los costos de despliegue. Esto hace que la implementación de IA sea más accesible y económica.

Integración y Compatibilidad

Compatibilidad con Principales Frameworks

Gemma 2 está diseñado para integrarse fácilmente en distintos entornos de desarrollo. Es compatible con frameworks populares como Hugging Face Transformers, PyTorch, TensorFlow y JAX. Además, se puede utilizar con Keras 3.0 y herramientas como Gemma.cpp y Llama.cpp, facilitando su uso para una amplia variedad de tareas de IA.

Despliegue Sencillo en Google Cloud

A partir del próximo mes, los clientes de Google Cloud podrán desplegar y gestionar Gemma 2 en Vertex AI. Esto simplifica la administración y el escalado de modelos, permitiendo a los desarrolladores concentrarse en la creación de soluciones innovadoras.

Herramientas para Desarrolladores

Cookbook de Gemma

Para ayudar a los desarrolladores a sacar el máximo provecho de Gemma 2, Google ha lanzado el Gemma Cookbook, una colección de ejemplos prácticos y recetas. Este recurso guía a los usuarios en la construcción de sus propias aplicaciones y en la afinación de los modelos para tareas específicas.

LLM Comparator

Google también ha introducido el LLM Comparator, una herramienta de evaluación abierta que permite a los desarrolladores comparar modelos de lenguaje en profundidad. Con esta herramienta, es posible realizar evaluaciones comparativas utilizando su propio modelo y datos, y visualizar los resultados de manera clara y efectiva.

Compromiso con el Desarrollo Responsable

Seguridad y Mitigación de Riesgos

El desarrollo de Gemma 2 siguió procesos internos rigurosos de seguridad. Se filtraron los datos de preentrenamiento y se realizaron pruebas exhaustivas para identificar y mitigar posibles sesgos y riesgos. Los resultados de estas evaluaciones se publican en un conjunto amplio de métricas relacionadas con la seguridad y los daños representacionales.

Tecnología de Marca de Agua en Textos

Pronto, Google planea liberar su tecnología de marca de agua, SynthID, para los modelos Gemma. Esta herramienta ayudará a mantener la integridad y la seguridad de los textos generados por IA, proporcionando una capa adicional de responsabilidad en el uso de estos modelos.

Proyectos Inspiradores con Gemma

Diversidad Lingüística

La primera versión de Gemma ha generado más de 10 millones de descargas y ha sido utilizada en numerosos proyectos innovadores. Un ejemplo notable es Navarasa, que ha creado un modelo enfocado en la diversidad lingüística de la India, demostrando el potencial de Gemma para aplicaciones culturalmente significativas.

Nuevas Iniciativas

Con el lanzamiento de Gemma 2, se espera que los desarrolladores puedan llevar sus proyectos a niveles aún más ambiciosos. Google está explorando nuevas arquitecturas y desarrollando variantes especializadas de Gemma para abordar una gama más amplia de tareas y desafíos de IA.

Cómo Empezar

Gemma 2 ya está disponible en Google AI Studio, permitiendo a los usuarios probar su rendimiento completo sin requerimientos de hardware específicos. También se pueden descargar los pesos del modelo desde Kaggle y Hugging Face Models. Además, los investigadores académicos pueden solicitar créditos en Google Cloud a través del Programa de Investigación Académica Gemma 2, abierto hasta el 9 de agosto.

Source:: Wwwath’s new