Nvidia: "Grace är dubbelt så effektiv som AMD:s och Intels processorer"

Tvärt om hade varit chockerande. Bara dubbelt är verkligen inget att skryta med, det gör väl alla ARM-kretsar redan? Bara Apples som som inte gör det, de är ännu bättre

Ja effektiviteten är väl inte så oväntad, dock så är det väl mer en nyhet för mig iaf att man utklassar Intel och matchar AMD i rå prestanda per system sammtidigt. Visst det har redan visat sig tidigare att det går att göra ARM-kretsar med hög prestanda (Apple då t ex), men det har vi väl inte riktigt sett tidigare i detta segment. AWS graviton t ex har väl legat rätt långt bakom tidigare?

Effektivitet är ju alltid en balans.
Ofta kan man ju behålla en stor del av prestandan med dramatiskt minskad effekt.
Men om kunderna är villiga att offra lite mer effekt för att få lite mer prestanda så är det ju där ribban läggs.

Sen är det ju alltid relevant i vilken last man mäter.
Om du har en last som fungerar bra på tensor cores så kommer såklart grace prestera bra.

I servermiljö är energieffektivitet och densitet allt. Om de kan få samma prestanda med samma densitet med halva effekten ALTERNATIVT samma prestanda med halva denisteten och samma effekt så är det totalt avgörande för serverhallar. Kylning och ström kostar enorma summor pengar, likaså med stora byggnader.

Med det sagt så ser jag gärna att X86/X64 dör ut inom kort och ersätts med ARM / RISC / whatever med ett riktigt bra bakåtkompatibelt översättningslager. Vilka mängder energi vi skulle spara.

Om det var sant så skulle det bara finnas en Epyc/Xeon modell noggrant kalibrerad för bäst prestanda/watt.
Men nu är det ju inte så, olika användare har ju olika krav.
Det finns ju t.ex. modeller med betydligt högre frekvenser för dom som behöver bättre prestana per kärna.
Definitivt sämre prestanda per watt.

Hur kommer det sig egentligen att varken AMD eller Intel verkar göra något vettigt med ARM, parallellt med sina satsningar på x86?

Båda bolagen bör väl ändå ha färskt i minnet hur snabbt vinden kan vända så att knappt ens försöka bygga sitt varumärke kring ARM också verkar konstigt.

Kan ha att göra med att det pratats om ersättare till x86 sedan hedenhös.
Det plus att det bara är 4 företag som har x86 licens (nVidia inte inkluderade), vilket såklart gör att alternativ blir väldigt lockande.

Graviton 1 och 2 uppförde sig rätt mycket som många väntar sig jämfört med x86: bättre perf/W, men sämre absolut prestanda och klart sämre prestanda per kärna.

Graviton 3 var ett rätt stort hopp i prestanda per kärna och prestanda per socket, vid lansering var den i nivå med dåvarande AMD/Intel (fast med långt bättre perf/W, Graviton är mer designad för densitet och hög perf/W än Nvidia Grace). Med AMDs senaste släpp är Graviton 3 efter i råprestanda, men fortfarande klart för i perf/W.

Det som är väldigt intressant med just Grace är att man slår både AMD och Intel på fingrarna i vad som historiskt varit x86 paradgren: prestanda per kärna.

Skalar om dessa resultat till perf/kärna är Grace ~45 % snabbare än AMD Genoa och ~22 % snabbare än Intel Sapphire Rapids.

Nvidia har ingen "egen" CPU-design, de använder ARM Neoverse V2 CPU-kärnor som är fullt möjligt att använda av "vem som helst". Men ryktet säger att både AWS och Ampere Computing (som är den ARM64 leverantör både Microsoft, Google och Oracle använder i sina datacenter) kommer med "egna" designer nästa generation.

Grace "superchip" får plats i 1U rack, undrar om AMD/Intel verkligen får ned två av sina 350/360 W CPUer i ett sådan rack (kanske med lite mer avancerad kylning).

Graviton 3 får in 3 sockets per "rad", så 50 % mer än AMD, Intel och AMD.

Inte bara det, som jag skrev ovan får dom in två!

Och ja, den höga förbrukningen som AMDs och Intels högst presterande kretsar börjar bli en aningen problematisk i det avseendet, jag försökte faktiskt beställa en 1u server med en 360W Genoa nyligen, och leverantören stödje faktiskt inte dom modellerna på 1U med luft kylning. För jag tänkte först att det borde ju funka iom att man kunnat köra dubbla CPUer på totalt den nivån tidigare, men icke. Så även om 1u chassin i sig klarar transportera bort så mycket värme, så verkar det inte som att cpu-kylarna/kylflänsarna i 1u storleken klarar transportera bort det,