跳至主要内容

快速使用指南：在 Glows.ai 上運行 DeepSeek-R1

DeepSeek-R1 是一款基於現有開源大型語言模型（LLMs）進行優化與微調的高效能 AI 模型。由 DeepSeek 團隊開發，它並非從零開始訓練，而是通過精細的微調與強化學習技術，對已有模型進行智慧優化。

DeepSeek-R1 採用知識蒸餾（Knowledge Distillation）等技術，有效壓縮並精簡模型參數，在保留原有知識與推理能力的同時，大幅提升運算效率。這種方法使 DeepSeek-R1 在提供強大語言理解與生成能力的同時，對計算資源的需求相對較低。

作為一個優化的開源 AI 模型，DeepSeek-R1 結合了效率與靈活性，適用於多種應用場景，例如文本分析、對話式 AI、程式碼輔助開發與知識檢索等。它可靈活部署在雲端、個人電腦或企業級伺服器上，是 AI 研究與商業應用的穩定高效解決方案。

步驟 1：登入 Glows.ai 並啟動環境​

  1. 註冊與登入
    前往 Glows.ai，完成註冊流程並登入您的帳號。

  2. 建立新環境
    點擊右上角的 Create New 按鈕，選擇 GPU 規格後，系統會顯示數個官方映像檔。找到 DeepSeek-R1 的官方映像檔。

    DeepSeek-R1

  3. 選擇租用數量
    選擇您希望租用的單位數量後，點擊 Complete Checkout 按鈕。系統將自動為您配置所需的資源與依賴項。

    Unit Quantity

注意事項：
Glows.ai 提供兩種 DeepSeek-R1 配置：

  • 32B：適合於一般消費級 GPU 上高效部署與開發。
  • 70B：專為大型 AI 原生應用設計。若要使用 70B 配置，需至少租用 2 單位 NVIDIA GeForce RTX 4090 GPU。

步驟 2：連線並使用 DeepSeek-R1​

以 DeepSeek-R1 32B 為例，Glows.ai 提供兩種連線入口：

Portals

  1. SSH 存取（Port 22）

    • 提供命令列操作環境，適合進行進階操作。
    • 連線指令： 
      ssh user@<your-instance> -p22
    • 密碼：可於 Glows.ai 控制台中的實例資訊查看。

  2. JupyterLab（HTTP Port 8080）

    • 提供互動式開發環境，適合搭建工作流程。
    • 開啟連結： 
      http://<your-instance>:8080
    • 登入憑證：由系統自動設置，或於控制台查看。

步驟 3：儲存與後續應用​

  1. 匯出生成結果

    • 透過 WebUI，可以直接將生成的內容儲存至本地裝置，方便後續使用。

  2. 進一步整合應用

    • 若需要進行大規模文本處理或整合至商業工作流程，可使用 Glows.ai 提供的 API 部署工具，將 DeepSeek-R1 輕鬆整合進您的應用或服務中。