Las cerebras lanzaron el procesador a escala de aglomerado WSE-3 y la super computadora CS-3.
Cerebras Systems introdujo Wafer Scale Engine 3 ( WSE-3 , un innovador chip de escala de chip de inteligencia artificial con Este nuevo dispositivo contiene 4 billones de transistores producidos por el proceso de producción de clase de 5 nm de TSM; 900,000 semillas de inteligencia artificial ; Sram en 44 GB de chip; y 125 fp16 petaflops . Se utilizará para educar a algunos de los modelos de inteligencia artificial más grandes de CEBES en la industria WSE-3
fortalece la super computadora CS-3 que se puede utilizar para entrenar modelos de inteligencia artificial con parámetros de hasta 24 billones un salto importante en Super Computers compatibles con WS-2 y otros procesadores Super Computer puede admitir memoria externa de 1.5 TB, 12 TB o 1.2 Pb; Esto facilita el proceso educativo y aumenta la eficiencia del desarrollador al permitirle almacenar modelos grandes en una sola esfera lógica sin la necesidad de dividir o reorganizar.
En términos de escalabilidad, CS-3 se puede configurar en grupos de sistema hasta 2048 permite un ajuste fino al modelo de parámetros de 70 mil millones con una instalación de cuatro sistemas y para entrenar un modelo LLAMA 70B
El marco de software de cerebras más nuevo Pytorch 2.0 y también respalda la escasez dinámica y no configurada que puede acelerar la educación, que puede acelerar la educación, hasta ocho veces más rápido que los métodos tradicionales.
Las cerebras enfatizaron la eficiencia energética superior y la facilidad de uso de CS-3. Aunque duplica su rendimiento, el CS-3 mantiene el mismo consumo de energía que el modelo anterior. También simplifica la capacitación de modelos de idiomas grandes (LLM) que requieren menos código de hasta 97 %en comparación con las GPU. Por ejemplo, según la compañía, un modelo GPT-3-dimensional requiere solo 565 filas de código .
La compañía ya ha atraído un interés significativo en CS-3 y tiene un orden de orden acumulado significativo de varios sectores, incluidas corporativas Las cerebras también enfatizan el potencial de CS-3 en el campo de la salud al cooperar con instituciones como Argonne National Laboratory y Mayo Clinic
La asociación estratégica entre Cerebras y G42 se expandirá con la construcción de CONDOR Galaxy 3 una súper computadora con una súper computadora de inteligencia artificial con con 57.600,000 semillas Las dos compañías ya han creado dos de las súper computadoras de inteligencia artificial más grande del mundo: Condor Galaxy 1 (CG-1) y Condor Galaxy 2 (CG-2), que se basa en California y 8 veces el rendimiento total. Exafultos. Esta asociación tiene como objetivo ofrecer docenas de cálculos de inteligencia artificial exaflop en todo el mundo.
G42 Group CTO Cyril Evtimov : Iz Nuestra asociación estratégica con cerebras fue efectiva en el avance de la innovación en G42 y contribuirá a la aceleración global de la revolución de inteligencia artificial ", dijo." Nuestra próxima super computadora de inteligencia artificial con 8 exaflop Galaxy 3 aumentará la producción total de la inteligencia artificial de nuestro sistema a 16 exafflop "".
Fuente: https: //www.tomshardware.com
