Deep Learning Workstation auf budget

Edmunds

Mitglied
Themen-Ersteller
Sep 10, 2020
20
1
Plane eine workstation konfiguration für:
>>CUDA, Deep Learning

besondere Anforderungen?
  • Ins Mainboard sollten mind. 2 GPUs passen (idealerw. 3). Wenn gegen monatsende der aktuell von NVIDIA gesetzte stimmt, vorerst eine RTX 3080 oder 3090 (später dann noch 1-2 weitere 3080 in die restlichen slots)
  • CPU sollte idealerweise 12 kerne haben.
  • 1 TerraByte SSD (M.2 slot)
  • 128 bis 256GB RAM
  • (Netzteil, Case, Lüfter, Kühler hab ich keine ahnung) EDIT: Netzteil kann aufgerüstet werden sobald dritte GPU reinkommt.
Monitore? nicht so wichtig, im keller liegen noch alte VGA monitore die vorerst reichen

Budget? 1k (ohne die GPUs) EDIT: ich könnte evtl. noch 200€ zusammenkratzen, also 1 bis 1.2k

Wann muss ich michentschieden haben?
bis ende diesen monat. (weil muss einen zeitplan einhalten und die GPUs sollten anfang oktober schon lauffähig sein)

selbst zusammenbauen / zusammenbauen lassen? lieber selbst (aber noch keine Erfahrung, oder überschätze ich mich?)

Das setup soll in einem relative kühlen untergeschoss stehen und am stück 30-60 Tage als Workstation durchlaufen. Deep Learning, also kein Gaming.
Lautstärke ist nicht soo wichtig (hoffe nur dass es meinen mitbewohnern nicht zu sehr auffällt, weil ich keine neider anlocken möchte (vonwegen blablabla zahl mehr miete wegen brandgefahr, etc, Stromkosten werde ich aber selbsverständlich bezahlen ;) ),
also die maschine sollte nicht uunbedingt auffallen, aber hat nicht priorität.
Performance steht absolut im vordergrund.!

Habt ihr vorschäge wie ich das budget am effizientesten mit den oben genannten bedingungen ausschlachten kann?

Zuerst sollen nur 1-2 GPUs rein, wenn die dritte kommt kann das Netzteil aufgerüstet werden. Mainboard sollte jedoch stimmen.
 
Zuletzt bearbeitet:

Edmunds

Mitglied
Themen-Ersteller
Sep 10, 2020
20
1
@TheSupercomputer
Tensorflow.keras

Zur größe lässt sich sagen, dass ich mehrere LSTMs (6-30 modelle) auf von einander abhängenden datensätzen trainieren will. die erstem 3-15 modelle mittels crossvalidation, die letzten 3-15 modelle auf den resultaten der ersten 3-15. (stacking). preprocessing wird also schwer zu batchen, da ich crossvalidation splits verwende die es so nicht vor-gecodet finden konnte.

Samplegröße? >>> ca. 10-20k zeilen, bei 50-100 spalten pro sample, 1-2mio samples (davon 70% prozent trainingsdaten).
EDIT: könnte evtl. noch 200€ aufkratzen

Hast du konkrete vorschläge?
 
Zuletzt bearbeitet:
  • Gefällt mir!
Reactions: Mοritz

TheSupercomputer

Administrator
Mitarbeiter
Nov 3, 2018
12.641
10.279
Konkrete Vorschläge, schwierig.
Werde mich da später mal dran setzen.
Im Generellen führt hier aber wohl kein Weg an Threadripper vorbei, da auf den "normalen" Consumer Plattformen das absolute Limit 64GB RAM ist.
 

andyt1909

Ehrenmitglied
Com. Redakteur
Aug 13, 2019
3.779
6.681
Konkrete Vorschläge, schwierig.
Werde mich da später mal dran setzen.
Im Generellen führt hier aber wohl kein Weg an Threadripper vorbei, da auf den "normalen" Consumer Plattformen das absolute Limit 64GB RAM ist.
Man kann doch auch auf den Mainstream und Enthusiasten Plattformen mehr als 64 GB nutzen.

Ich würde grob sowas hier vorschlagen:


Beim Netzteil bin ich absolut nicht sicher, was man braucht, wenn da wirklich 3 x 3080er rein sollen.
 
  • Gefällt mir!
Reactions: HardwareFlix

Mοritz

Ehrenmitglied
Mai 4, 2019
9.451
5.492

andyt1909

Ehrenmitglied
Com. Redakteur
Aug 13, 2019
3.779
6.681
Für CUDA Berechnungen müssen die Karten soweit ich weiß nicht im SLI Betrieb laufen.
 

Edmunds

Mitglied
Themen-Ersteller
Sep 10, 2020
20
1
Wenn die 3. Gpu reinkommt, kann das netzteil auch aufgerüstet werden.
Doppelpost zusammengeführt:

Man kann doch auch auf den Mainstream und Enthusiasten Plattformen mehr als 64 GB nutzen.


Beim Netzteil bin ich absolut nicht sicher, was man braucht, wenn da wirklich 3 x 3080er rein sollen.
weiß grad nicht was mit Plattformen gemeint ist.

Wieso ist das mainboard so extrem günstig O.O ?
Hatte zuerst 3-500 euro mainboards vorgeschlagen bekommen (AsRock X399 Taichi), was ist anders in der preisklasse?
 
Zuletzt bearbeitet:

TheSupercomputer

Administrator
Mitarbeiter
Nov 3, 2018
12.641
10.279
Weil des AM4 Sockel, statt dem TR4 Sockel ist.
Sprich Ryzen statt Threadripper.
Ich hatte da leider veraltete Informationen, auf modernen AM4 Boards kann mit den 3000er Ryzen bis zu 128GB RAM genutzt werden.
Wird tatsächlich mehr benötigt, dann führt jedoch kein Weg an Threadripper vorbei.
 

Edmunds

Mitglied
Themen-Ersteller
Sep 10, 2020
20
1
Weil des AM4 Sockel, statt dem TR4 Sockel ist.
Sprich Ryzen statt Threadripper.
Ich hatte da leider veraltete Informationen, auf modernen AM4 Boards kann mit den 3000er Ryzen bis zu 128GB RAM genutzt werden.
Wird tatsächlich mehr benötigt, dann führt jedoch kein Weg an Threadripper vorbei.
gilt das auch für threadripper 1900X oder 1920X ? müssten beide Tr4 sein, Also 128 nutzbar?
 

andyt1909

Ehrenmitglied
Com. Redakteur
Aug 13, 2019
3.779
6.681
Wieso ist das mainboard so extrem günstig O.O ?
Die X-Serie AM4 Mainboards richten sich eher an Enthusiasten Gamer. In dem Bereich ist das Board gerade mal im "Einsteiger Enthusiasten" Bereich und für sich betrachtet nicht unbedingt das beste Board.

Für deinen Anwendungszweck dürfte das aber durchaus taugen. Es ist eines der wenigen Boards mit 3 x PCIe x16 Slots (mechanisch), die auch mit mindestens PCIe 4.0 x4 (elektrisch) angebunden sind. PCIe 4.0 x4 entspricht PCIe 3.0 x8 (elektrisch) und sollte noch keinen dramatischen Flaschenhals bei den Berechnungen darstellen.

Die Spannungswandler auf dem Board sind OK, für einen 3900X ohne OC absolut ausreichend mit minimalem Airflow, der durch den Tower Kühler gegeben ist.

weiß grad nicht was mit Plattformen gemeint ist.
Mit "Plattform" meine ich den Chipsatz und den Sockel. Sockel AM4 ist generell die Mainstream Plattform bei AMD, ausgerichtet auf Office, Gaming oder maximal semi-professionelle Anwendungen.

Auf dieser Plattform hast du die jeweiligen Chipsätze, die B-Chipsätze (B350, B450, B550) richten sich an Mainstream Gamer ohne besondere Ansprüche, die X-Chipsätze (X370, X470, X570) richten sich an Enthusiasten, die entweder OC betreiben oder die zusätzliche Ausstattung in Form weiterer PCIe Lanes für semi-professionelle Anwendungen benötigen.

Neben der Mainstream Plattform AM4 gibt es bei AMD (und Intel) dann noch die HEDT Plattformen, HEDT steht hier für High End Desktop. Das ist bei AMD dann Threadripper. Die aktuellen 3000er Threadripper sind auch absolute Monster, aber da kostet schon die günstigste CPU mehr als dein Budget hergibt.

Die alten Threadripper sind nicht empfehlenswert, die Architektur bringt diverse Nachteile mit sich, die du mit einer einfacheren Mainstream Plattform nicht hast und ein Ryzen 9 3900X ist in vielen Belangen mindestens genauso schnell, wenn nicht sogar schneller als die alten Threadripper. Im Zweifelsfall, sollte mehr CPU Power benötigt werden, kann man sich mit einem 3950X nochmal ein enormes Upgrade kaufen ohne auf eine teure HEDT Threadripper Plattform wechseln zu müssen.
 
  • Gefällt mir!
Reactions: TheHardwareFreak

Edmunds

Mitglied
Themen-Ersteller
Sep 10, 2020
20
1
PCIe 4.0 x4 entspricht PCIe 3.0 x8 (elektrisch) und sollte noch keinen dramatischen Flaschenhals bei den Berechnungen darstellen.
macht es sonst absolut keinen unterschied? oder gibt es sonst noch andere unterschiede die man beachten sollte? bei 4.0 x4 statt 3.0 x8 (elektrisch)

ob ich die GPU overclocken will, kann ich noch nicht sagen.
X3900 sollte für meine zwecke ausreichen.

bisher steht:

GPUerstmal 1-2 3080, dann 3090 (& neue PSU)
(Mit Riser-karte machbar?)
eventuell Overclocking

nicht im Budget enthalten, weil nachrüstung
CPUAMD 3900X
400€
MBX570 (Welches?) ~300€
PSU/Netzteilwelches? (beachte 24/7 dauerbetrieb)150-300€
KühlerWelcher? (beachte 24/7 dauerbetrieb)bis 100€
RAM128GB Welcher? ~400€
CaseWelches ideal für zweck (Airflow, etc) ? ~100€
 
Zuletzt bearbeitet:

Edmunds

Mitglied
Themen-Ersteller
Sep 10, 2020
20
1
Die 3080 werden anscheinend vorerst keine blower. bietet ein X570 genug platz für 2x 3080 custom?
(hab aktuell die Zotac im einkaufswagen)
Mit platz meine ich abstand, da es keine Blower-Versionen sind.