Superdator som löser flaskhalsar för AI-hastighet

Forskare och akademiska institutioner kan nu köra stora AI-modeller, simuleringar och dataintensiva experiment effektivt med en högpresterande superdator.

Forskning om artificiell intelligens blir alltmer begränsad på grund av begränsad datorkraft.Att träna stora modeller, köra komplexa simuleringar och bearbeta stora datamängder kräver högpresterande system.I Latinamerika har akademiska institutioner ställts inför begränsningar i infrastrukturen, vilket bromsar AI-innovation och begränsar utvecklingen av modeller som är skräddarsydda för lokala sammanhang.Forskare behövde skalbara miljöer som kan stödja dataintensiv AI, maskininlärning och vetenskapliga beräkningar.

Jairus superdator tillgodoser detta behov.Utrustad med 96 NVIDIA B200 GPU:er och Supermicro-servrar, låter den forskare köra AI-modeller, utföra simuleringar och bearbeta komplexa algoritmer effektivt.Systemet integrerar lagring med hög kapacitet och sammankopplingar med låg latens, vilket minskar flaskhalsar och möjliggör storskaliga experiment.

Dess arkitektur ger flera fördelar.Huvudnoder hanterar miljön, inklusive inloggning, orkestrering och arbetsbelastningsfördelning.GPU-noder följer HGX-standarden och använder NVLink för snabb inter-GPU-kommunikation.Lagring och nätverk är utformade för att bibehålla hög genomströmning och låg latens.Systemet inkluderar även programvara för centraliserad hantering, GPU-schemaläggning och experimentreproducerbarhet.

Huvudfunktionerna hos superdatorn inkluderar:

5 huvudnoder hanterar hantering, inloggning och orkestrering.
12 GPU-noder har vardera 8 NVIDIA B200 SXM-5 GPU:er.
NVLink ansluter GPU:er för snabb kommunikation.
Storage använder BeeGFS med cirka 300 TB användbara.
Nätverk kombinerar Ethernet 200 Gb/s och InfiniBand 800 Gb/s.
NVIDIA AI-programvara hanterar arbetsbelastningar och schemalägger uppgifter.
Fabio G. Cozman, USP:s centrum för artificiell intelligens och maskininlärning (CIAAM-USP), säger: "Med Jairu har vi en AI-infrastruktur som gör det möjligt för oss att utveckla stora modeller och fördjupa forskning som är relevant för den brasilianska kontexten."Genom att kombinera högpresterande hårdvara, företagsprogramvara och specialiserad ingenjörskonst stärker systemet Brasiliens akademiska kapacitet och konkurrenskraft inom AI och högpresterande datoranvändning.