Multi GPU - ohne SLI - Mainboard kompatibel?

[iTutHD]

Guten Tag,

Ich habe eine Frage bezüglich eines Multi GPU Systems. Ich habe mir zwei NVIDIA Titans (2013) gekauft, dies liegt daran, dass ich für meinen Anwendungsfall viel Speicher brauche und es so nen ganz gutes Preisleistungsverhältnis dargestellt hat.

Ich will diese Karten ausdrücklich nicht im SLI betreiben, da ich die Karten nicht zum Spielen nutze sondern für Deep Learning, wo Multi GPU ohne SLI wohl bei 2 GPUs ne Leistung von 1,8-1,9 liefert - im Vergleich zu einer GPU.

Jetzt meine Frage: Ich habe diese Karten bereits gekauft, nur wird die eine Karte im OS nicht angezeigt. Ich besitze ein MSI B150M Morta - diese hat zwei PCIe 3.0x16 slots.
Wenn ich in den Spezifikationen schaue steht unter Multi-GPU: „Supports 2-Way AMD CrossFire Technology“. Ich dachte zuvor, dass es nur relevant sei, wenn ich die Karten tatschächlich im Verbund nutzen will.

Habe ich das falsch verstanden und muss mir nen anderes MB zulegen? Oder muss ich noch irgend etwas konfigurieren? Ich habe mein Uefi auf 7972vCD und dachte dass es okay sei, weil in dem Changelog für Verison C.A. steht dass MultiGPU unterstützt wird.

Vielen Dank für eure Hilfe!

 

[SoDaTierchen]

Einfachster Test: Schließe doch an jede GPU einen Monitor an. Kriegst du im BIOS Bild, dann ist es bloß eine Einstellungsfrage im OS. Kriegst du schon im BIOS von einer Karte kein Bild, dann solltest du mal die Einstellungen im BIOS wälzen.

Hast du etwas in den Slot PCI_E3 gesteckt, dann läuft dein zweiter X16-Slot nur noch mit x2. Ich bin mir nicht ganz sicher, meine aber mal gelesen zu haben, dass GPUs im x2-Modus nicht funktionieren. Das kann aber auch ne Fehlinformation sein.

 

[Grimba]

Mit dem B150M hat du aber ein sehr eingeschränktes Board, was PCI Express Lanes angeht.
Wenn ich mir die Specs so durchlese ( https://ark.intel.com/products/90592/Intel-B150-Chipset ), wird hier eine Maximale Anzahl PCIE Lanes von 8 ausgewiesen. Selbst dann, wenn die CPU 16 unterstützt, limitiert dieser Chipsatz das. Zumindest kann man das in den Hilfetexten lesen, wenn man mit der Maus auf die Fragezeichen hinter dem Text geht.

Ich weiß, dass CrossFire auch bei sehr geringen PCIE Konfigurationen läuft (also zumindest, was jetzt AMD Karten anginge), aber die Frage ist, ob sich eine Titan auf irgendetwas anderes als Minimum 8x einlässt. Und damit würde 1 Karte ja schon alle verfügbaren Lanes auffressen.

Für dein Vorhaben solltest du ja im Idealfall 2x16x haben, womit du dann eher ein Board der HEDT Reihe benötigen würdest. Aber selbst im Enthusiast Bereich wären mit der Z Reihe des 100er Chipsatzes zumindest 2 mal PCIE 8x drin.

Im Prinzip hast du gerade 2 Ferrari Motoren in einen Trabbi eingebaut. Du wirst niemals auf die Geschwindigkeiten kommen, die da möglich sind, wie du sagst.

 

[FreedomOfSpeech]

SLI geht erst mit 2x 8 Lanes. Crossfire auch mit 8+4. Grafikarten selbst funktionieren auch im PCIe1x Slot, da gibt es Tests auf Techpowerup wieviel die Anbindung ausmacht. Kann sein, dass dein Programm beide Karten ansprechen kann, wenn nicht liegts am Board.

Im BIOS muss man wohl auch MultiGPU Output o.Ä. aktivieren. So musste das bei mir sein, damit ich mit der 1080ti am Monitor zocke, während YouTube u.a. auf dem TV über die iGPU läuft.

 

[Mracpad]

Teste erstmal jede Karte einzeln, und zwar jeweils in beiden Slots.

 

[iTutHD]

Vielen Dank für die ganzen antworten!

Der PCIe-3 Slot ist leer, ich habe nur die beiden Grakas Drin. Die werden schon im BIOS nicht richtig erkannt. Es gibt dort so eine Übersicht vom Board und dort wird PCIe-4 immer als empty angezeigt.

Das das Board nen Problem ist sehe ich jetzt auch - vorher war da ne R9 270X drin und dafür hat es damals gereicht xD
Hättet ihr Empfehlungen für nen Board was nicht all zu teuer ist, den gleichen formfaktor hat oder max. ATX und zumindest 2x8 unterstützen würde?

Ich finde leider im BIOS ansich überhaupt nix was mit Multi GPU zutun hat, außer sowas mit nem Crypto Mining Mode, das hat aber auch nix geholfen.

Ich habe jetzt jede GPU einzeln getestet, beide funktionieren in PCIe-1 und beiden funktionieren nicht in PCIe-4.

 

[Grimba]

Dann ist wohl nur der PCIe-1 an der CPU angeschlossen, der 4er dann über Chipsatz. Ich vermute stark, dass der keine nicht CrossFire fähige Grafikkarte dort unterstützt, da dass ja dann durch den DMI durchgeschliffen werden muss. Deshalb auch nicht dort einzeln als GPU verwendbar in diesem Slot, wenn nicht zusätzlich eine CrossFire Grafikakrte im PCIe-1 steckt.

Du müsstest dann schon wohl richtung Z Serie gehen, und da wüßte ich aus dem stehgreif jetzt keine kleinen Boards mit 2 16er Slots, welche beide an der CPU hängen. Die ganzen Micro ITX Varianten scheinen alle nur 1 Slot zu haben. Musst wohl die normalgroße Variante der Boards nehmen.

P.S.: Die ASrock Boards sind doch für gewöhnlich recht günstig. Aber ich hab zug.-maßen den Überblick nicht. Da die 100er eine alte Serie ist, sollten die Boards aber alle nicht allzu teuer sein.

 

[iTutHD]

Was würdet ihr vom Asus Z170-E halten?

 

[Grimba]

Nimm, wird's wohl tun. Günstiger bekommste dein Setup bei Neupreis nicht zusammen vermute ich mal.

 

[Mracpad]

Ich habe jetzt jede GPU einzeln getestet, beide funktionieren in PCIe-1 und beiden funktionieren nicht in PCIe-4.

Haste zufällig ne Thunderbolt adapterkarte im Einsatz? Das würde erklären warum die Karten nicht im vierten Slot erkannt werden. Ansonsten könntest du dich noch an der PEG X Einstellung im uefi zu schaffen machen.

 

[iTutHD]

Nope :/ Nur die GraKas in PCIe und sonst noch vom case usb und Sound Ports... Ich habe jetzt das Z170-e bestellt und bin mal gespannt ^^ Bei fragen schreibe ich sonst nochmal hier rein Ich habe jetzt generell als frage ob ich die Karten trotzdem mit SLI verbauen kann obwohl ich sie trotzdem mit CUDA als zwei getrennte behandeln will. Oder geht das dann nicht mehr? Da ich eh kaum zocke wäre es nicht unbedingt tragisch, ist eher ne Interessensfrage.

Vielen lieben Dank an alle die ihre Zeit investiert haben, um mir zu helfen!!!

 

[Grimba]

Also die Grafikkarten werden immer als 2 erkannt. Ob jetzt die SLI Brücke steckt oder nicht. Das ist immer nur dann von Nöten, wenn es für ein Spiel ein SLI Profil gibt, und dann können für dieses Spiel beide Karten das Bild zusammen rendern. Dann wird die SLI Bridge für zusätzliche Interkommunikation genutzt.

Das ändert aber nichts daran, dass die beiden Grafikkarten im System auch jeweils vorhanden sind und von entsprechenden Anwendungen einzeln ansprechbar.

Du machst also nichts falsch, wenn du die SLI Bridge aufsteckst. Warum nicht im Zweifelsfall nutzen können, was man an Hardware hat, und sei's auch nur zum Spielen?

 

[chillking]

Ich will diese Karten ausdrücklich nicht im SLI betreiben, da ich die Karten nicht zum Spielen nutze sondern für Deep Learning, wo Multi GPU ohne SLI wohl bei 2 GPUs ne Leistung von 1,8-1,9 liefert - im Vergleich zu einer GPU.

Darf ich fragen, welches Framework du benutzt?

 

[iTutHD]

Klar doch ^^
Ich benutze Tensorflow, je nach Anwendungfall mit Keras als high Level api.

Zumindest mit Keras ist glaube ich Tensorflow auch das einzige Backend, welches Mutli-GPU unterstützt

 

[chillking]

Na dann habe ich jetzt ja einen Ansprechpartner, wenn meine Config nicht läuft :-D

Edit: "meine Config" ist leider ein bisschen zu optimistisch. Haben in der Hochschule nun einen "kleinen" Rechner, auf den ich für die Abschlussarbeit zurückgreifen kann. Und da die Herren, die für diesen PC verantwortlich sind, ihn zurückgeschickt haben, um Windows statt dem vorherigen Ubuntu installieren zu lassen, da sie damit nicht klar gekommen sind , gehe ich davon aus, dass meine Anliegen auch jetzt nicht von Erfolg gekrönt sind, wenn ich es nicht selbst mache...

 

[iTutHD]

Und da die Herren, die für diesen PC verantwortlich sind, ihn zurückgeschickt haben, um Windows statt dem vorherigen Ubuntu installieren zu lassen, da sie damit nicht klar gekommen sind , gehe ich davon aus, dass meine Anliegen auch jetzt nicht von Erfolg gekrönt sind, wenn ich es nicht selbst mache...

Hmm nen Linux finde ich das persönlich etwas besser, aber ich bin mir recht sicher, dass du zu aller Not auch Cuda + Tensorflow + Keras auf Windows laufen lassen kannst. Zumindest meine ich das mal gesehen zu haben, auch wenn es natürlich unter Linux schöner ist xD

 

[chillking]

Ja das funktioniert unter Windows, finde es nur ein bisschen unglücklich von Linux auf Windows zu wechseln bei der Anwendung...und ich bin eigentlich auch Windows-User.

 

[iTutHD]

Ich wollte noch kurz eine Rückmeldung geben. Das Board ist gestern angekommen und jetzt funktioniert alles wie gewollt! Danke!

 

[Grimba]

Das sind tolle Nachrichten. Dann viel Freude damit!

 

[chillking]

Hast auch schon was laufen lassen? Hattest Probleme mit Tensorflow, dass auch beide Karten benutzt werden, oder lief das von der Hand?

Ich benutze Tensorflow, je nach Anwendungfall mit Keras als high Level api.

Evtl Interessant: Verwendung von Keras und einem Estimator inkl Multi-GPU