PC für Gaming & LLM Inference/fine-tuning

[Sotray]

Hi zusammen,

Da mein letzter "Fertig PC" nur Probleme gemacht hat und zurückgeschickt wurde würde ich mir nun ganz gerne einen Rechner zusammenstellen der primär zwei Funktionen erfüllen soll:

• Gaming: Eher hobbymäßig und nicht ganz so relevant, da die meisten Spiele eher “alte Klassiker” sind, allerdings würde ich mir die Möglichkeit offen halten auch neuere Titel zu spielen (WQHD)
• LLM serving & fine-tuning auf AMD Karten sowie Experimente mit kleineren Modellen (<=13B) rein auf CPU mit AVX-512 Nutzung

Bzgl. LLM serving/fine-tuning ist Nvidia aufgrund von CUDA natürlich der absolute Platzhirsch, allerdings habe ich auf der Arbeit Zugang zu Nvidia Grafikkarten und würde mich tatsächlich lieber auf AMD/ROCm fokussieren und experimentieren. Hier würde ich Richtung high-end gehen wollen um insbesondere von der Bandbreite & dem VRAM zu profitieren. Scheint aus P/L Sicht auch für Gaming bevorzugt zu sein, sollte man nicht auf Nvidia features/streaming setzen wenn ich hier den ein oder anderen Thread verfolge.

Da ich auch mit AVX512 experimentieren möchte macht nur AMD Sinn, da Intel kein AVX512 in den aktuellen CPUs unterstützt (abgesehen von den anderen Problemen der 13/14 Gen)

Ein wirkliches Budget habe ich nicht hätte mir allerdings folgendes System überlegt:

hwdealz | Wunschlisten Geizhals Deutschland

hwdealz | Wunschlisten

geizhals.de

• AMD Ryzen 5 7600
• MSI B650 Gaming Plus Wifi
• TeamGroup T-Create 32GB (2x16GB) DDR5
• 1TB Kingston NVMe M.2
• PowerColor Radeon RX 7900 XT
• Silentware Air 100
• beQuiet Pure Power 12M 750W ATX

Wärmeleitpaste/CPU Kühler ist nicht notwendig bei dem boxed 7600 nehme ich an?

Passt das soweit aus eurer Sicht oder gibt es noch was zu beachten?

Vielen Dank!

 

[Nobbi56]

Hallo,

also mit deiner speziellen Software kenne ich mich NULL aus , aber deiner Beschriebung nach schlaucht die auch die CPU, daher würde ich mindestens auf einen Achtkerner gehen, sprich Ryzen 7 7700X, wenn nicht sogar Ryzen 9 7900 X, Kann ich wie gesagt in Unkenntnis der CPU-Last deiner Anwendungen nicht abschließend einschätzen.

Die SSD ist ziemlich "wanky" , würde da auf mehr Qualität setzen wie z. B.

KIOXIA EXCERIA PLUS G3 SSD 1TB ab € 59,00 (2024) | Preisvergleich Geizhals Deutschland

✔ Preisvergleich für KIOXIA EXCERIA PLUS G3 SSD 1TB ✔ Bewertungen ✔ Produktinfo ⇒ Kapazität: 1TB (entspricht ca. 931.32GiB bzw. 0.91TiB, weiterführende Informationen hierzu ) • Bauform: S… ✔ Solid State Drives (SSD) ✔ Testberichte ✔ Günstig kaufen

geizhals.de

Und du solletst auch überlegen, ob dir 1 TB wirklich ausreicht.

Bei der GPU sollen die Powercolor-Modelle der RX 7900/7950XT vermehrt zu elektronischen Störgeräuschen neigen, wüede daher einen anderen Hersteller wählen. Wobei dieses "Spuenfiepen" leider bei allen Herstellern auftreten kann, nur soll es eben bei Powercolor besonders auffällig/häufig sein. Schaue dir am besten die Bewertungen bei gh an.

Beim NT würde ich möglichst für +15 € die 850 W Version wählen, bietet mehr Leistungsreserven und vier statt nur zwei herkömmliche 6/8polige PCIe Stecker, was spätere Aufrüstoptionen verbessert.

LG N.

 

[Virus]

Ich würde mir außerdem noch nen CPU-Kühler besorgen. Die sind echt nicht teuer, aber deutlich besser als der, der mit der CPU mitgeliefert wird und er hält die CPU natürlich auch deutlich besser kühl.

Meine Empfehlung wäre da zum Beispiel:

Thermalright Peerless Assassin 120 SE ab € 36,29 (2024) | Preisvergleich Geizhals Deutschland

✔ Preisvergleich für Thermalright Peerless Assassin 120 SE ✔ Bewertungen ✔ Produktinfo ⇒ Bauart: Tower-Kühler (Dual-Tower) • Abmessungen mit Lüfter: 125x155x135mm (BxHxT) • Abmessungen ohne Lüft… ✔ CPU-Kühler ✔ Testberichte ✔ Günstig kaufen

geizhals.de