News Schnelle AI-Beschleuniger: Chinesische Firmen wollen Millionen Nvidia-H200-Chips bestellen

[me@home]

Tja, 700k Chips liegen so auf der Halde...bestimmt!

Gab bestimmt schon Bestellungen bzw Verträge, aber was wissen wir schon?

 

[Nighteye]

wenn die KI-Blase mal platzt

in 20-30 Jahren

Wie lange sind die zb H200 GPU,s für Ai eigentlich haltbar bevor sie durch Verschleiß nach und nach ausfallen ?
10 Jahre ?

 

[dms]

@Nighteye .. die Karten werden (wie üblich) schon nach 3-5 jahre ersetzt werden müssen
- Software Inkompatibel durch Nachfolgegeneration/Api Break

 

[madmax2010]

Wie lange sind die zb H200 GPU,s für Ai eigentlich haltbar bevor sie durch Verschleiß nach und nach ausfallen ?
10 Jahre ?

weniger.
3-5 Jahre
https://www.tomshardware.com/pc-com...xpected-according-to-unnamed-google-architect
gab
https://www.tomshardware.com/tech-i...ee-hours-for-metas-16384-gpu-training-cluster

gab auch vor 2-5 monaten noch belastbarere Studien

- Software Inkompatibel durch Nachfolgegeneration/Api Break

und toten speicher

 

[DragonScience]

Könnte in eine sehr dystopische Richtung.....

Politik und Machtkämpfe funktioniert so auch ohne KI, glaub jetzt nicht das KI der Hebel ist der alles kippen lässt, dafür gibt es einfach zu viele andere Hebel. Aber das was KI kostet, an Geld, an Strom, an Hardware, dürfte man schon erwarten wenn das zündet das sich minderstens der Garten Eden über die Welt ausbreitet, aber eher sehe ich da die fette hochgehypte Krise die dann wieder irgendwer( Steuerzahler) ausbaden darf.

 

[input_iterator]

was ist denn mit anderen chips, weshalb geht man hier nicht auf lösungen von broadcom? google hats ja auch gepackt.

Den Vorteil den Du bei Nvidia hast, Du kaufst da nicht nur einfach Chips, sondern eine komplette Plattform, bzw. ein Ökosystem. Da ist Nvidia momentan absolut konkurrenzlos. Dazu kommt noch das die großen K.I Frameworks alle sehr gut auf Cuda optimiert sind. Was Broadcom angeht bieten sie zwar auch Chips an, aber das sind in erster Linie Custom Lösung die speziell auf Anfrage gefertigt werden und man auch nicht einfach universell einsetzen und bestellen kann. Dazu hast Du auch kein Ökosystem wie bei Nvidia, sondern darfst das meiste selber entwickeln. Das macht zwar für Spezialfälle und Abnehmer wie Google zwar Sinn, ist aber nix für Standart K.I. Systeme.

 

[Cool Master]

Wie lange sind die zb H200 GPU,s für Ai eigentlich haltbar bevor sie durch Verschleiß nach und nach ausfallen ?

Bis der Nachfolger da ist

@Brainorg

Zwar von KI geschrieben aber korrekt

 

[Restart001]

Was soll die KI denn ereichen sollen!? Na, was ist es denn? Die selbst entzündete AGI in Eigenkraft automatisch entwickelt, ohne menschliche Zuhilfe? Weil irgendwie sehen wir ja selbst nicht wohin sich die KI entwickeln soll. Was sind blos die unter der Hand gehaltene Erwartungen ans System?

Bisher werden ja nur Splitterfunktionen der KI verwurstet.

 

[Red Sun]

Wir als Endkunden sind sowas von im Arsch.

 

[=dantE=]

Ich hoffe nur, dass die Investitionen in irgendwelche Fortschritte gesteckt werden die dem Menschen helfen. Für Müßiggang, belanglose Videos oder Fotos wurden meiner Einschätzung nach schon zu viele Mittel verschwendet. Wobei ich schon nachvollziehen kann, dass damit (Abo's) bestimmte Dinge gegenfinanziert werden.

 

[Ash1983]

und weiterhin Nvidia long

 

[Fighter1993]

Ich finde es immer wieder lustig, wie Leute nach wie vor meinen KI wäre eine Blase. Da wird nichts platzen, das ist die Zukunft mit dem Ziel einer AGI. Das wird zwar noch dauern aber ich denke in 20-30 Jahren haben wir das. Man sieht ja jetzt schon, dass KI besser in der Krebserkennung ist als die besten Mediziner und andere spezielle Sachen schon besser kann.

Um Ki Erkennung auf Medizinischer Ebene geht’s überhaupt nicht da ist alles gut.
Die Blase wird bei LLMs platzen. Open AI ist der wackeligste Kandidat da hier so gut wie nichts hintersteckt nur Schulden.

 

[Cool Master]

Die Blase wird bei LLMs platzen. Open AI ist der wackeligste Kandidat da hier so gut wie nichts hintersteckt nur Schulden.

In dem Fall platzt trotzdem nicht die "KI Blase" sondern nur ein Anbieter. Zumal ich denke nicht, dass da etwas platzt da im Bereich LLM niemand an OpenAI dran kommt. Zu sagen dass da nichts dahinter steckt ist sehr eng gedacht. Meiner Erfahrung nach ist selbst gpt-oss immer noch besser als LLama 3.X und die neuen Modelle sind sehr gut - man muss sie nur bedienen können. Ich habe selbst mit der kostenlosen Version erst ein Kundenprojekt programmiert.

 

[Alphanerd]

Im Gegensatz zu den Amerikanern haben die Chinesen wenigstens die (Strom) Infrastruktur die ans Netz zu bringen.
@Brainorg in deinem AI slop fehlt leider zufällig eine ganze Menge.

Nur mal ein, zwei Beispiele: 20% von Open AI hat sich MS einverleibt. Für 13 MRD Euro. Aber für die paar Taler gab es nicht nur 20%, sondern auch: kostenlose Nutzung von chatgpt (Copilot) und Open AI muss reichlich Azure Infrastruktur nutzen.
Open AI hat offene Aufträge für 1,4 Billionen in den Büchern. Das verdienen die halt auch in 50 Jahren nicht.

 

[edenjung]

Nur mal so zum finanziellen, ist ja ganz nett, dass @Cool Master und @Brainorg denken, dass da keine Blase ist, aber da ist eine.
Nur denkt ihr von der falschen Seite. Ihr denkt an die Dotcom-Unternehmen, die Software entwickelt haben, es betrifft aber wie damals auch die Hardwarelieferanten.

Warum? Na ist doch recht simpel:
Ein Rechenzentrum braucht Chips, die werden auch geliefert kosten zig milliarden usw.
Nur müssen die Chips andauernd ersetzt werden. So alle 3-4 Jahre, spätestens.
Heißt es sind wieder Milliarden an Investitionen die getätigt werden müssen. Nur woher soll das Geld kommen, dass da verplant wird?
Das ist wie wenn man bei Anno eine riesen Produktion baut, aber keine Abnehmer hat. Kostet dich massiv Unterhalt aber du wirst nix los. Nur kann man bei Anno wenigstens die Ware bei einem NPC verticken, hier nicht.

Microsoft, Amazon, Google usw. können diese Investitionen stemmen und querfinanzieren. Nur irgendwann müssen die auch mit ihren AI Kram Geld machen.
Und die mittleren und kleinen Unternehmen? Wie sollen die die Investitionen stemmen? Klar könnten sie die alten Chips aus den großen Rechenzentren kaufen, dass ist aber nicht so super für die Hardwareanbieter, konkurrieren sie doch dann mit ihren eigenen alten Produkten.

Zudem, wer sagt denn, dass die geplanten Rechenzentren auch gebraucht werden und gebaut werden? Das ist wie damals bei Cisco, da bestellt gefühlt jeder, nur bricht dann alles zusammen und der Bedarf ist weitaus geringer.
Und genau das prophezeien Experten (unter anderem Michael Burry, der Mann der die Subprime morgage crisis vorher gesagt hat).

Alle planen riesige Projekte, geben massiv Geld aus, aber das Geld muss wieder rein. Passiert das nicht und es wird weniger Rechenleistung gebraucht als man plant, dann gehts bergab.
Heißt das, dass AI sich verabschiedet? Nö, es korrigiert sich nur und der Aufbau wird gesünder, langsamer und überlegter passieren. Genauso wie nach der Dotcom Blase.

Am Ende ist also nicht wichtig, was AI leisten kann. Sondern was es einbringt um die Investitionen zu decken.
Und ob die Investitionen und Planungen nachhaltig sind.

Und wir haben noch nicht mal von den Zirkelinvestments geredet. Die Unternehmen blasen sich gegenseitig Geld in den Arsch um das am laufen zu halten. Aber irgendwann wird einer nicht mehr mitmachen können und der Kreislauf bricht zusammen. Ganz zu schweigen davon, dass das wirtschaftlich auf Dauer dumm ist.

 

[Steve!]

Stimmt es das die RTX 5090 auf 5000$ angehoben werden soll? Oder sind das nur bodenlose fake-news?

 

[The-Heinz]

Ich vermute, meine 4090 wird 10 Jahre alt in meinem System. Beste HW Investition. Aber für den Selbstbastlermarkt schlechte News.

 

[buchemer]

Eine H200 hat 141 GB VRAM

 

[Laphonso]

wenn die KI-Blase mal platzt

Wird mein Trinkspiel 2026 dieser Spruch, es ist so putzig ^^

Ich bin so gespannt was die KI herzaubern soll das die Milliarden(eher Billionen) gerechtfertigt hat.

Wenn Du ernsthaft diese Frage stellst, dann hast Du 2025 wirklich alles komplett verpennt in der Berichterstattung (die es en masse auch hier gab), no offense.

Ich finde es immer wieder lustig, wie Leute nach wie vor meinen KI wäre eine Blase. Da wird nichts platzen,

DANKE! Manchmal glaube ich, diese Community lebt in einer anderen Dissonanz Realität

 

[blubberbirne]

Junge...wenn die KI-Blase mal platzt, dann gute Nacht. Es ist ja nur noch Irre. Erst Arbeitsspeicher, jetzt GPUs...

Wenn es wirklich so kommt, wird Nvidia die Consumer Sparte erstmal komplett links liegen lassen.
Es tritt das ein was schon durch die Medien geistert: Nvidia karten werden schweine teuer.