Alternate 2

News DGX Station for Windows: GB300 zieht vom Datacenter in den Windows-Desktop-PC

nlr

Redakteur
Teammitglied
Registriert
Sep. 2005
Beiträge
11.391
  • Gefällt mir
Reaktionen: konkretor und Laphonso
öhm... "Die Kosten für eine DGX Station liegen je nach nach Anbieter bei 85.000 bis 100.000 US-Dollar." ist das ernst gemeint? oder soll das ein scherz sein?
 
  • Gefällt mir
Reaktionen: flo.murr, x37, Buchstabe_A und 6 andere
Mittlerweile ist es einfach nur noch lächerlich, was die da aufrufen. Außerdem bezweifle ich, dass die Perfomance einer einzelnen dieser Windows (ich muss immer noch schmunzeln) Workstations ausreicht, um „Enterprise“ grade AAI zu betreiben. Überhaupt, der Fokus auf Windows und Enterprise erweckt für mich den Eindruck, als dass hier der gemeine Manager als Zielgruppe im Fokus steht: „Seht her, da ist sie, ein KI Beschleuniger für unsere Prozesse, mit Windows! Damit können wir endlich alles automatisieren! Gar nicht so schwierig, wie ihr immer sagt da aus der IT! Los, kaufen!! Damit sparen wir 10 Mitarbeiter und erhöhen die Gewinne um 10%“ => Nvidia Profi goes brrrrrr :D
 
Zuletzt bearbeitet: (Typo)
  • Gefällt mir
Reaktionen: Clausewitz, Sebbi, konkretor und 2 andere
Calid schrieb:
öhm... "Die Kosten für eine DGX Station liegen je nach nach Anbieter bei 85.000 bis 100.000 US-Dollar." ist das ernst gemeint? oder soll das ein scherz sein?
das ist relativ günstig. du kannst auch eine dgx station zwischen 282.000 und 525.000 dollar kaufen - das was hier vorgestellt wird ist quasi das "workstation" modell ohne serverhardware zu sein.

hast du mal geschaut was da verbaut wird? das rechtfertigt den preis wenn du weisst was man damit alles tun kann...
 
  • Gefällt mir
Reaktionen: flo.murr, Dark_Soul, xexex und 6 andere
Calid schrieb:
ist das ernst gemeint? oder soll das ein scherz sein?
Ein Scherz sind eher diese peinlichen Reflexkommentare, wenn man keinen Plan von der Materie hat.
Wir sprechen hier von Enterprise Hardware auf dem höchsten Fertigungs- respektive Techniklevel für Rechen-/Datacenter.

Mal die Gegenrechbung aus der LLama Community:


"An RTX Pro 6000 has 1.8TB/s of memory bandwidth. A dual PRO 6000 setup will run you 25K-40K USD for 96+96GB VRAM + 256GB RAM (Consumer desktop) and 96+96GB VRAM + 512GB RAM (HEDT).


This has, in VRAM 7.1TB/s of memory bandwidth at 252GB and 496GB of RAM.



So more VRAM that is unified, instead of split between 2 cards, at almost 4x the speed. And you get NVIDIA networking, so you can buy a couple of these and run frontier models (at NVFP4) in the office and serve everyone."


In einem Technikforum die Jester/Clown Karma zu farmen für billige likes von ebenso Planlosen ist der ComputerBase Community eigentlich unwürdig.

Edit: Hättest Du einfach geschrieben "kranke Preise", hätte ich Dir sogar einen Like gegeben.

lazsniper schrieb:
hast du mal geschaut was da verbaut wird? das rechtfertigt den preis wenn du weisst was man damit alles tun kann...
So sieht es aus.

Man ja mal mal alternativ "gegen" den GB 300 konfigurieren und sich die Preise dann ansehen, wenn die Messlatte heisst "das „volle Spektrum der Enterprise AI Workflows“ unter Windows" ohne dann die Vorteile der GB300 Architektur zu haben.

https://configurator.exxactcorp.com/configure/VWS-135223847
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: Dark_Soul, xexex, Buchstabe_A und 8 andere
Calid schrieb:
öhm... "Die Kosten für eine DGX Station liegen je nach nach Anbieter bei 85.000 bis 100.000 US-Dollar." ist das ernst gemeint? oder soll das ein scherz sein?
Du hast vermutlich nur "Windows" und "Nvidia" gelesen und an Gaming gedacht, oder?

Das würde so einen Schwachsinns-Kommentar jedenfalls ganz gut erklären.
 
  • Gefällt mir
Reaktionen: Dark_Soul, ElliotAlderson, Nitschi66 und 2 andere
Calid schrieb:
oder soll das ein scherz sein?
Du sollst halt Rechenleistung in einem Datacenter mieten und nicht mehr selber hosten.

Der feuchte Traum ist, dass es nur noch minimales "Edge Computing" gibt und sämtliche andere IT-Infrastruktur bei irgendeinem der wenigen Hyperscaler eingekauft werden muss.

Wie bekommt man das ohne ein riesiges Kartell am leichtesten hin? Einfach die Preise hochtreiben, so dass eigene Infrastruktur quasi unbezahlbar wird und das Mieten günstig erscheint.
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: Laphonso
oohhh jetzt kommen die ganzen nvidia fanboys mit ihrem beissreflex.

und nein, habe ich nicht. und trotzdem finde ich diese preise pervers - wer ist denn so wahnsinnig und stellt sich so ein trum hin bitte? da kann ich keine ahnung wie lange und weiß der geier nicht alles in der cloud mieten. ja ich bin ein leihe und ja ich finde es idiotisch sowas um den preis zu kaufen. kann ich mir auch gleich einen richtigen server / rack aufstellen.

aber bitte ihr experten, erklärts mir warum das sinnvoll ist
 
  • Gefällt mir
Reaktionen: Sebbi, sebastian_uniq und Kadett_Pirx
0xffffffff schrieb:
Wie bekommt man das ohne ein riesiges Kartell am leichtesten hin? Einfach die Preise hochtreiben, so dass eigene Infrastruktur quasi unbezahlbar wird und das Mieten günstig erscheint.
Die Datacenter-Produkte von Nvidia sind nicht günstiger. Du legst dir hier eine schöne Verschwörungstheorie zurecht, die aber keinen Sinn ergibt.

Nvidia wird sehr glücklich, wenn in jedem Büro ein gering ausgelastetes DGX-System rumsteht, statt dass die Leute in voll ausgelasteten Datacentern ihren Kram laufen lassen. Nvidia verkauft dann nämlich mehr.
 
  • Gefällt mir
Reaktionen: konkretor und ElliotAlderson
Calid schrieb:
oohhh jetzt kommen die ganzen nvidia fanboys mit ihrem beissreflex.
nein, es kommen die, die evtl. in der ki materie sind, und ganz nüchtern erklären, warum und wieso solche hardware eine daseinsberechtigung hat. beissreflex und nvidia fanboys ist bildzeitungs-niveau (das in den blauen dosen!)
 
  • Gefällt mir
Reaktionen: Dark_Soul, gaelic, ElliotAlderson und 3 andere
Calid schrieb:
aber bitte ihr experten, erklärts mir warum das sinnvoll ist
Gibt genug KI-Anwendungen, die auf so einem System gut laufen. Und wenn du das voll auslastest, kommt es dich günstiger als in der Cloud zu mieten. Ganz davon abgesehen, dass es viele gibt, die ihre Daten nicht aus dem Haus lassen wollen. Da ist Cloud dann sowieso keine Option, da muss man allein aus Sicherheitsgründen so eine Maschine hinstellen.
 
  • Gefällt mir
Reaktionen: slow_snail, konkretor, gaelic und 4 andere
Ohne das ich jetzt gesteinigt werde : ich finde das Ding klasse. Für die Forschung wo wir gerade an lokalen Multiagentensystemen arbeiten und immer wieder an Speichergrenzen durch zu viel im Context Windows stoßen wäre das nen super Ding. Viele verbinden mit der KI ja immer nur Chat gpt und co. Für medizinische MRT und CT KI gestützte lokale Diagnostikunterstützung kann das nen guter Mittelweg zwischen Workstation mit mehreren 6000er Blackwell und nem DGX Server Cluster zu sein
 
  • Gefällt mir
Reaktionen: craxity, konkretor, gaelic und 3 andere
Foxfoxi schrieb:
Für medizinische MRT und CT KI gestützte lokale Diagnostikunterstützung
... ist eine zusätzliche DGX-Station in der Laborausstattung vom Preis her halt auch kein Kostentreiber. CT/MRT geht ja schnell in die Millionen und Fachärzte, die die Bilder beurteilen können, verdienen auch eine Menge Geld. Wenn da die Datenauswertung dank KI ein bisschen beschleunigt werden kann, dann ist das sowohl kosteneffizient als auch eben sicher im Sinne des bei medizinischen Daten sehr strengen Datenschutzes (weil die Daten das Labor nicht verlassen).
 
  • Gefällt mir
Reaktionen: peru3232, craxity, konkretor und 3 andere
Calid schrieb:
oohhh jetzt kommen die ganzen nvidia fanboys mit ihrem beissreflex.

und nein, habe ich nicht. und trotzdem finde ich diese preise pervers - wer ist denn so wahnsinnig und stellt sich so ein trum hin bitte? da kann ich keine ahnung wie lange und weiß der geier nicht alles in der cloud mieten. ja ich bin ein leihe und ja ich finde es idiotisch sowas um den preis zu kaufen. kann ich mir auch gleich einen richtigen server / rack aufstellen.

aber bitte ihr experten, erklärts mir warum das sinnvoll ist
Bestes Beispiel für:

Wenn getroffene Hunde bellen.
 
  • Gefällt mir
Reaktionen: Dark_Soul, bensen, ElliotAlderson und eine weitere Person
Kanns kaum erwarten die in 20 Jahren für 500€ auf eBay zu kaufen. :love:
 
  • Gefällt mir
Reaktionen: craxity und konkretor
für die mal wieder irreführende Schlagzeile "GB300 zieht vom Datacenter in den Windows-Desktop-PC" ist die Reaktion von Calid voll berechtigt
 
Xilence19 schrieb:
Kanns kaum erwarten die in 20 Jahren für 500€ auf eBay zu kaufen. :love:
und die dann grottenlangsam sind, weil die ki - oder eher AGI - 100 mal mehr leistung frisst. produkt EOL is real ;)
 
stefan92x schrieb:
... ist eine zusätzliche DGX-Station in der Laborausstattung vom Preis her halt auch kein Kostentreiber. CT/MRT geht ja schnell in die Millionen und Fachärzte, die die Bilder beurteilen können, verdienen auch eine Menge Geld. Wenn da die Datenauswertung dank KI ein bisschen beschleunigt werden kann, dann ist das sowohl kosteneffizient als auch eben sicher im Sinne des bei medizinischen Daten sehr strengen Datenschutzes (weil die Daten das Labor nicht verlassen).
genau das ist es ! Die ganzen Daten müssen auf krankenhauseigenen Servern gespeichert werden. Da darf nichts die Klinik verlassen. Den Kliniken ist nen 3T MRT oft zu teuer das kostet so 3,5 Mio Euro. Die 1.5 T Geräte kosten an die 1,5 mio dazu so ne Station passt dann echt gut.
 
  • Gefällt mir
Reaktionen: lazsniper
Laphonso schrieb:
Wir sprechen hier von Enterprise Hardware auf dem höchsten Fertigungs- respektive Techniklevel für Rechen-/Datacenter.
Enterprise-Hardware hin oder her, am Ende sind es doch ohnehin wir Endkunden die dafür bezahlen müssen, irgendwoher muss das Geld ja kommen.
 
  • Gefällt mir
Reaktionen: MGFirewater
stefan92x schrieb:
Du legst dir hier eine schöne Verschwörungstheorie zurecht, die aber keinen Sinn ergibt.
Was für ne Verschwärungstheorie? Nvidia will seinen Kram möglichst teuer verkaufen und reitet auf der FOMO-Welle, da die Hyperscaler den Hardware-Markt leersaugen, damit bloß niemand anders Hardware kaufen kann. Insb. GamersNexus hat das doch mehrfach wunderbar aufgearbeitet. Inkl. eben der Aussagen, dass man dahin will, dass Endnutzer und Firmen quasi nur noch Thin-Clients sind. shrug
 
  • Gefällt mir
Reaktionen: Sebbi
Zurück
Oben