Servidor de IA Edge de última generación AIR-520

El auge de la IA generativa está transformando las industrias, y el servidor de IA Edge AIR-520 de Advantech está diseñado para satisfacer estas demandas en evolución. Con tecnología aiDAPTIV+ patentada por Phison y alimentado por el procesador AMD EPYC de la serie 7003, el AIR-520 integra a la perfección las SSD de IA SQ ai100, las tarjetas GPU NVIDIA RTX, el SDK de IA Edge y NVIDIA AI Enterprise. Esta solución todo en uno, lista para implantar, permite a las empresas ajustar con precisión grandes modelos de lenguaje (LLM) en el perímetro con hasta cuatro tarjetas GPU, lo que mantiene la seguridad de los datos confidenciales al tiempo que minimiza los costes de infraestructura.

Advantech Edge AI SDK incluye el estudio de formación GenAI, que está precargado con modelos Llama-2 (13B/33B/70B) para aplicaciones que van desde chatbots hasta análisis de datos, lo que facilita la formación y la inferencia de modelos LLM personalizados. El AIR-520 ofrece cuatro configuraciones a medida: AIR-520-L13B, L33B, L70B y L70B-Plus, que garantizan la escalabilidad para satisfacer las diversas necesidades de las aplicaciones de IA.

Características

• Servidor de inteligencia artificial de 4U con procesador AMD EPYC 7003: ofrece hasta 64 núcleos y 768 GB de memoria DRAM, lo que garantiza un sólido rendimiento de servidor para cargas de trabajo de inteligencia artificial.
• Potente expansión y soporte gráfico: equipado con cuatro ranuras de expansión PCIe x16 y una fuente de alimentación de 1,200 W para un TDP de tarjeta gráfica de hasta 700 W, compatible con GPU NVIDIA RTX de alto rendimiento.
• Capacidades avanzadas de IA generativa: admite el ajuste fino y la inferencia para LLM con modelos como Llama-2 (13B, 33B, 70B) en un entorno seguro basado en bordes.
• Opciones flexibles de entrenamiento de modelos: GenAI training studio y Edge AI SDK ofrecen una experiencia sin fisuras para entrenar y evaluar LLM personalizados.
• Las configuraciones personalizables están disponibles en cuatro opciones: AIR-520-L13B, L33B, L70B y L70B-Plus, que satisfacen una amplia gama de necesidades empresariales.