Gigabyte lanzó una solución de inteligencia artificial (IA) de extremo a extremo para entrenar modelos de lenguaje grandes (LLM) localmente en dispositivos durante el evento AMD Computex 2024. La solución de IA completa incluye AI Top Utilities, AI Top Hardware y AI Top. Tutor, que cubre varios aspectos del entrenamiento de modelos de IA de código abierto. AI Top Utilities es un software de capacitación compatible con varios modelos de IA de código abierto, mientras que AI Top Hardware ofrece productos empresariales centrados en la IA. AI Top Tutor es para aquellos que necesitan ayuda para entender cómo aprovechar al máximo esta solución.
Gigabyte AI Top ofrece soluciones para entrenar IA en dispositivos
El anuncio se realizó en el evento Computex 2024, la compañía lanzó AI Top como una solución todo en uno que tiene como objetivo “entrenar su propia IA en su escritorio”. En su comunicado de prensa, la compañía detalló varios aspectos de la oferta que abarca tres divisiones: soporte de software, soporte de hardware y consultoría y soporte técnicos. En particular, el anuncio se produce después de que se presentara la PC Gigabyte AI en el Consumer Electronics Show (CES) de 2024.
Principales utilidades de Gigabyte AI
Crédito de la foto: Gigabyte
AI Top Utility es una interfaz digital que permite entrenar modelos de IA locales utilizando nuevos flujos de trabajo. La compañía afirma que el software ofrece una interfaz fácil de usar y monitoreo del progreso en tiempo real. Admite varios modelos de IA de código abierto con hasta 236 mil millones de parámetros. La compañía afirma que esta plataforma es más rentable y muestra resultados más rápidos en comparación con las plataformas en la nube. También puede mover datos a la memoria del sistema y al SSD para evitar las limitaciones de tamaño de VRAM.
El siguiente es AI Top Hardware, que es básicamente la oferta de hardware de la empresa. Cuenta con un conjunto de productos optimizados para IA que ahorran energía y pueden manejar cargas de trabajo de entrenamiento de IA. Esta solución de hardware también incluye componentes actualizables. Una de las piezas clave de hardware de la serie incluye la placa base AI Top (TRX50) con factores de forma configurables, tipos y ranuras de memoria, interfaces gráficas y más. También se incluyen la mejor tarjeta gráfica AI, SSD y PSU.
La oferta final de esta solución es AI Top Tutor. Al posicionarlo como “capacitación en IA de escritorio”, es esencialmente un sistema de consultoría y soporte técnico basado en IA que ofrece información, orientación sobre configuración y asistencia para la resolución de problemas. La compañía afirma que el sistema de capacitación permitirá a principiantes y profesionales iniciar proyectos de inteligencia artificial en dispositivos.
La compañía no ha anunciado el precio ni la disponibilidad de la solución Gigabyte AI Top.
