GeForce RTX 5060 im Test: AI-Benchmarks

Das Thema künstliche Intelligenz, „AI“ schwirrt derzeit in der gesamten IT-Branche herum. Sei es Hardware für AI oder Software die (oft angeblich) AI für irgendwelche Verbesserungen nutzt – das Thema ist nicht mehr wegzudenken. Umso mehr, da nun auch Microsoft ein neuronales Netzwerk für den Copilot+ nutzt und manche SoCs mit einer NPU auch separate Hardware verbaut haben, die Matrizen-Berechnungen, aus diesen entsteht ein neuronales Netzwerk, effizient durchführen können.

Moderne PC-Hardware kann bereits länger ein neuronales Netzwerk beschleunigen, konzentriert sich anders als eine NPU aber nicht auf Effizienz, sondern auf Performance. Nvidia verbaut seit der GeForce-RTX-2000-Serie sogenannte Tensor-Kerne in Gaming-Grafikkarten, die „AI“ beschleunigen können. AMD hat zwar keine separate Hardware in den GPUs, ist seit RDNA 3 aufgrund neuer WMMA-Operationen (Wave Matrix Multiply Accumulate) aber auch deutlich besser für AI gerüstet. Und Intels Arc-Beschleuniger fahren mit ihren MXM-Einheiten ebenso eine dedizierte Matrizen-Beschleunigung auf. Erwähnenswert ist noch, dass auf dem Heim-PC nicht das AI-Training, also das Anlernen eines neuronalen Netzwerkes, sondern das AI-Inference, das Ausführen eines neuronalen Netzwerkes im Fokus steht. Beides hat sehr unterschiedliche Anforderungen und benötigt auch sehr verschiedene Hardware.

Für alle Tests gilt, dass jede Grafikkarte, falls möglich, mit ihrer für sie optimalen Bibliotheken arbeitet. Alle GeForce-RTX-GPU arbeiten mit Nvidias auf CUDA basiertem TensorRT, während für Intel Arc OpenVINO zum Einsatz kommt. AMD hat noch keine eigene Bibliothek für AI Inference, entsprechend kommt Microsofts überall lauffähiges DirectML zum Einsatz.

Procyon AI Image Generation mit Stable Diffusion

Abgesehen vom Copilot+ gibt es für den PC immer mehr Software, die AI für etwaige Aufgaben nutzt. Mit die bekannteste ist die Erstellung künstlicher Bilder nach Eingabe gewisser Vorgaben, die dann mittels „Stable Diffusion“ umgesetzt wird. ComputerBase nutzt den synthetischen Benchmark Procyon AI Image Generation dafür und daraus den Test „Stable Diffusion 1.5 (FP16)“ mit geringen Anforderungen sowie „Stable Diffusion XL (FP16)“ mit hohen Anforderungen an die GPU-Hardware, der unter anderem deutlich mehr VRAM benötigt und daher längst nicht überall läuft. Die Ergebnisse werden in „Sekunden pro Bild“ dargestellt.

Topaz Video AI 6 – Aufhübschen von Videos

Neben dem Erstellen von Bildern gehört das (zumindest theoretische) Aufhübschen von Bildern zu klassischen KI-Aufgaben. Hierfür kommt der Integrierte Benchmark Topaz Video AI 6.2, den in der freien Version auch jeder selbst kostenlos und ohne Einschränkungen ausführen kann. Der Benchmark nutzt verschiedene neuronale Netzwerke, die dazu benutzt werden, verschiedene Effekte auf Videos anzuwenden. Die Ergebnisse werden in klassischen Frames per Second dargestellt, so viele Bilder kann die Hardware in Echtzeit bei einem 1.080p-Video berechnen. ComputerBase fasst dabei alle Ergebnisse der verschiedenen Effekte zu einem einzelnen Wert zusammen und nutzt dafür das geometrische Mittel.

ON1 Resize AI – Bildervergrößerung

Der dritte und letzte AI-Benchmark beschäftigt sich mit der Vergrößerung von Bildern. Mit Hilfe der Software ON1 Resize AI werden 10 verschiedene Fotos in der Auflösung pro Achse verdoppelt. Dabei handelt es sich um 10 ohnehin schon hoch aufgelöste Bilder mit einer Auflösung von 5.472 × 3.078 bis zu 7.657 × 5.119, die Anforderungen sind entsprechend hoch. Mittels Log-Datei wird die genaue Berechnungszeit der einzelnen Bilder erfasst und das geometrische Mittel gebildet. Die Ergebnisse werden in „Sekunden pro Bild“ ausgegeben.