nPTT Logo

[請益] Linux 雙顯卡工作站

作者:u9612123 (只會衝鋒)

時間:Wed Oct 18 00:22:31 2023

看板:PC_Shopping

小弟只懂寫軟體平常都在Windows底下開VM裝Linux工作 現在打造一台工作站想省掉虛擬化 用原生純純的Linux跑Docker, K8s, 也可以裝個Windows虛擬機使用Office系列 或是Multiple GPUs on the same machine vs Distributed GPUs 需求說完,硬體: CPU: 7500F (5200元) 主機板: ProArt B650-CREATOR (8000) 顯示卡: 3060三風扇*2 (9000*2) SSD: MX500 1TB*2 (2000*2) 記憶體: DDR5 32G*2 金士頓 (3200*2) 電源: 海韻 Focus GX-850 ATX3.0 850W (4200) 為啥選主機板配那麼多預算 因為ProArt B650-CREATOR 支援X8 X8 剛好分配給兩張顯卡一樣的帶寬而且3060吃不滿PCEI4.0 X8 為啥不買3090,因為小弟沒錢不然上兩張3090 記憶體先上兩條,日後有需求在繼續買 我看了配置主機板錢好像花多了 但這已經是我能找到最便宜的x8 x8主機板 CPU好像用的挺便宜5000有找 聽說Linux大神Torvalds把他的工作機換成AMD? 但又不知道消費者I系列對SERVER應用支援好不好 不然把CPU預算拉到13000以內I系列也是可以的 說不定我哪天中頭獎把兩張3060換成兩張3090 這高貴的CPU就有用武之地 這台機器的工作就是充當我寫程式跑跑ML的機器 或是掛一堆Container之類 小弟三十好幾對3A大作沒興趣現在拿童年回憶 世紀帝國、D3出來打沒十分鐘就不想玩了 還不如出門走走故地重游 有請各位大大分享經驗,感謝各位大大不令指教! --
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 219.70.147.33 (臺灣)

labbat

10/18 00:23

何不使用linux系統,虛擬機跑windows?

E7lijah

10/18 00:26

就連4090跑4.0 x8也只會損失3%效能

原來如此,筆記

chang1248w

10/18 00:27

為啥想用雙卡?

chang1248w

10/18 00:30

完全可以到隔壁先拉一張3090,存錢等

chang1248w

10/18 00:30

下一張

promaster

10/18 02:40

就算2張3090能達成什麼目標?連nvlink

promaster

10/18 02:40

都被廢了

promaster

10/18 02:40

這廢熱還是組一台烤箱吧!

應該說看到同行用5張1080Ti 組了一個K8s GPU Cluster就想知道Distribute GPU跟單機插?

aq981334

10/18 03:06

現在一台主機兩張民用級顯卡 好像不存

aq981334

10/18 03:06

在什麼用途了?

從資料科學角度確實沒多大用處,或許從系統工程層面有點價值??

aq981334

10/18 03:07

我唯一能想到的用途就是一台主機上跑著

aq981334

10/18 03:07

ESXI或PVE之後各個虛擬機單獨分配一張

aq981334

10/18 03:07

獨顯?

aq981334

10/18 03:09

I系列大小核 對Sever 應用都不太好就是

aq981334

10/18 03:09

我就是怕大小核,畢竟專業軟體如Adobe有Intel優化,但Server應用DB、NGINX之類就不好?

sma1033

10/18 05:02

只有你想不到,沒有用不到,多顯卡很好用

sma1033

10/18 05:02

一張卡長時間跑model training,另一張卡

sma1033

10/18 05:03

還能做別的事情,工作就是要這樣才有效率

sma1033

10/18 05:03

可以不要再遊戲黨看天下了好ㄅㄟ

sma1033

10/18 05:04

我自己裝139k+192G記憶體+3090x2當工作站

sma1033

10/18 05:05

好用的很,唯一缺點就是穩定性比不上商用

sma1033

10/18 05:06

工作站,不過看在價錢實惠的份上用來還行

對壓,Dell Server專用的SSD 960GB就要1萬,就不要說記憶體 CPU加起來一台低消也要15?

sma1033

10/18 05:08

Linux多工應用目前都沒碰到問題

有大大這句話我就放心了

soulgem

10/18 06:16

真的要看更仔細的用途, 偏ML還是偏系統..

沒錯!

soulgem

10/18 06:17

單卡怕 model training 爆掉影響日常使用

soulgem

10/18 06:18

(現行 3960X+256G RAM+3060+A4000...)

soulgem

10/18 06:19

3090x2 可能是電費受不了

挖猛猛的,這24HR運作每個月就要幾千的電費

soulgem

10/18 06:20

大小核確實裝 Windows 比較好 (思)

soulgem

10/18 06:30

7字頭可能沒有內顯+雙顯方案的感覺...

soulgem

10/18 06:31

副機是 5700g+b550-creator+雙卡 PVE...

soulgem

10/18 06:32

但是這台副機不常開, 真的會傷電(眼神死)

soulgem

10/18 06:33

內顯+雙顯 PVE 才會一個 VM 給一張卡

soulgem

10/18 06:33

PVE 自己從內顯出

soulgem

10/18 06:33

僅供參考

soulgem

10/18 06:37

若偏向多容器應用建議把 RAM 搞多一點.

sma1033

10/18 06:50

消費級平台的硬傷就是RAM只能192G,HEDT

sma1033

10/18 06:51

平台又一直被放生,想組便宜工作站真的難

sma1033

10/18 06:53

想弄24H開機的GPU運算主機真的在硬體層面

sma1033

10/18 06:53

必須要費很多腦子,不然就要多花錢或是犧

sma1033

10/18 06:54

牲穩定性,零件隨便實在湊很容易踩雷

是阿,感謝大大分享組工作站心得。

henrylin8086

10/18 07:49

Linus好像是用Threadripper,那是

henrylin8086

10/18 07:49

不同規格的東西。

eXcFerGodSt

10/18 08:28

更正一下 那不是什麼大神 那是 Linux

eXcFerGodSt

10/18 08:28

他爸

mtc5566

10/18 12:06

撇開I/A不談 AM5記憶體未必能上6400 拿La

mtc5566

10/18 12:06

ncer 6000就可以了 時序低效能說不定還更

mtc5566

10/18 12:06

感謝分享資訊!

chang1248w

10/18 12:39

...?

froce

10/18 15:10

為啥我看不懂你到底要問啥…

froce

10/18 15:10

你這配置沒啥問題啊,要跑Linux server就

froce

10/18 15:10

確定主要設備和網卡驅動沒問題就好,所以

froce

10/18 15:10

你到底要問啥?

求個安心吧!

froce

10/18 15:11

要更穩一點就上ECC ram,消費平台極限大概

froce

10/18 15:11

就在那裡而已。

Yes, Sir

soulgem

10/18 15:14

Docker/k8s 可以在原生 linux

soulgem

10/18 15:15

但是 ESXi/PVE hypervisor 整台成虛擬

soulgem

10/18 15:15

所以機器蓋起來要怎樣控制就得先想好.

soulgem

10/18 15:16

應該說是半虛擬, 但是那兩個會變遠端控機

對阿,還是原生裝Docker/K8s,再裝個VM Workstation之類跑Windows比較不那麼複雜 ※ 編輯: u9612123 (219.70.147.33 臺灣), 10/18/2023 20:58:00

froce

10/19 08:28

我不知道你目前的環境。但我的經驗是如果

froce

10/19 08:28

你習慣在windows下開發,獨立一台windows

froce

10/19 08:28

開發機一台linux建置機會比較好。

froce

10/19 08:28

Windows下現在wsl2+docker要跑ml訓練還算

froce

10/19 08:28

ok。

froce

10/19 08:28

建置機的話就一定要弄虛擬化平台比較方便

froce

10/19 08:28

froce

10/19 08:28

主力不是在linux下生活,要在虛擬機裡每天

froce

10/19 08:28

用windows…說真的我完全不想折磨自己

u9612123

10/19 11:36

應該說就是看大神用五台1080Ti組分散式

u9612123

10/19 11:36

集群,決定先買兩個3060塞在一起玩玩看

u9612123

10/19 11:36

,windows單純是用不慣linux內建的open

u9612123

10/19 11:36

office,可能我前面沒表達清楚,最後

u9612123

10/19 11:36

感謝大大的回應

※ 編輯: u9612123 (39.12.121.116 臺灣), 10/19/2023 11:57:42

yeeouo

10/19 12:36

原po看起來預算很有限 非ecc ram不超頻的

yeeouo

10/19 12:36

話就算是win一個多月不關機也沒問題的

yeeouo

10/19 12:39

另外不要看到別人組啥跟風 確定自己需求

yeeouo

10/19 12:39

比較重要(繳了一堆學費的經驗

yeeouo

10/19 12:39

且除非你確定自己在組啥 否則能單不雙!

yeeouo

10/19 12:40

買來大部分時間都跑在單卡上或是雙卡跑不

yeeouo

10/19 12:40

到50%提升是常有的事

yeeouo

10/19 12:53

一張卡要分成五張卡很容易 見五等分的顯

yeeouo

10/19 12:53

性能損失不大 五張卡要合併成一張

yeeouo

10/19 12:53

能損失就比較大了 性價比很低的

yeeouo

10/19 12:53

比較建議當頂卡已經滿足不了你時再組多卡

u9612123

10/19 16:48

總是要I have a dream嗎! OpenAI有成

u9612123

10/19 16:48

功組2500個節點。

u9612123

10/19 16:48

kubernetes-to-2500-nodes

Bujo

10/20 08:52

終於有GPU生產力的文章出現了