推論需求應該選工作站還是機架式伺服器？
取決於併發量、可用性、GPU 密度、機架條件與管理需求。配置器可保留兩個方向供審查。
此答案的連結
這一頁能協助準備什麼
先釐清工作負載與部署限制，再決定詢價前的下一步。
適合規劃本地推論、私有模型服務與 GPU 加速應用部署的團隊。
配置器連結協助比較工作站與可上架伺服器兩個方向。
詢價保留硬體假設，方便技術與採購審查。
決策工作表
AI 推論伺服器報價配置器｜台灣 LLM 與私有模型部署
先記錄以下三項決策，再開啟配置器或送出詢價。
01
工作負載
本地 AI 推論與模型服務
適合規劃本地推論、私有模型服務與 GPU 加速應用部署的團隊。
02
硬體重點
GPU 記憶體、系統記憶體、NVMe、網路
配置器連結協助比較工作站與可上架伺服器兩個方向。
03
服務區域
台灣報價追蹤
詢價保留硬體假設，方便技術與採購審查。
原廠查證資料
以下資料供查核硬體與部署條件。採購建議由 EudTech 整理；實際配置、供貨、價格及驗收條件依正式報價確認。
- NVIDIA H200 原廠規格
查閱 H200 SXM 與 NVL 的記憶體、功耗、外型及互連規格，確認報價中的 GPU 版本。
- NVIDIA RTX PRO 6000 Blackwell 原廠規格
對照 Workstation、Max-Q 與 Server Edition 的差異，確認選定版本及部署條件。
- GRANDO Server／可上架工作站規格書（繁體中文譯本）
冷卻範圍、維護、監控、供電、4U 機構與環境條件；可用於功能及部署需求審查。