IT-nyheter från

OJCO Secure IT

Nya mätverktyg visar vilken hårdvara som är bäst för AI

Organisationen ML Commons har presenterat MLPerf Inference v3.1 och MLPerf Storage v0.5, två nya mätverktyg som kan användas för att ta reda på vilken hårdvara som är mest lämpad för generativ AI.

Enligt nyhetsbyrån Reuters är Nvidias H100-chipp nummer ett när det gäller att hantera språkmodellerna som används av AI-verktyg som Chat GPT, Bard och Claude.

På andra plats återfinns Intels Gaudi 2-chipp som är cirka tio procent långsammare än Nvidia H100. I sammanhanget kan emellertid påpekas att Intels chipp är betydligt billigare än Nvidias.

Hittills har drygt 13 500 konfigurationer testats och fler lär det bli under de kommande åren.

 

Akriv - Nyheter