GPT-OSS本地離線AI|Mac兩步輕鬆安裝體驗極速隱私保障

MacBook Silicon AI coding software interface
image credit : pexels

“`html





Mac 離線 AI 新體驗:GPT-OSS 本地運行,安全又暢快!


Mac 離線 AI 新體驗:GPT-OSS 本地運行,安全又暢快!

隨著生成式 AI 的普及,我們越來越依賴 AI 工具來解決問題、提升效率。然而,對網路連線的依賴一直是個痛點。現在,OpenAI 開源的 GPT-OSS 讓你在 Mac 上也能享受離線 AI 的便利,不再受限於網路,資料安全更有保障。本文將帶你體驗如何在 Mac 本地運行 GPT-OSS,享受真正的離線 AI 體驗。

GPT-OSS 的核心優勢

  • 開源自由、私隱保障、安全可靠
    GPT-OSS (Open Source Series) 由 OpenAI 發布,採用 Apache 2.0 授權,允許自由使用、修改與商業應用。所有推理操作都在本地電腦進行,無需連接 OpenAI 伺服器,真正實現資料不出門,保障用戶私隱。
  • 高效能 + 支援 Apple Silicon:在 Mac 上表現驚人
    GPT-OSS 採用 Mixture-of-Experts 技術,總參數量高達 210 億,但實際運算時僅啟動一小部分參數,降低記憶體與運算需求。配合 Apple Silicon 專屬的 MLX 模型版本,讓 Mac Studio 等 M 系列裝置以驚人的流暢度完成 AI 推理,體驗接近 GPT-4 小型版本。
  • Mac 本地運行 GPT-OSS 模型,只需兩步!

    現在,讓我們看看如何在你的 Mac 上輕鬆運行 GPT-OSS 模型:

    步驟一:使用 LM Studio 搜尋並下載 GPT-OSS 模型(MLX 版本)

    首先,你需要下載 LM Studio,這是一款本地運行 AI 模型的工具,支援 Mac、Windows 和 Linux。以 Mac 版本為例:

    1. 下載並安裝 LM Studio。
    2. 開啟 LM Studio,在搜尋欄輸入 “gpt-oss”。
    3. 在搜尋結果中找到 OpenAI 官方釋出的 `openai/gpt-oss-20b` 模型。
    4. 選擇適合 Mac 的 MLX + 8bit 精簡版(容量約 22.26 GB)。這個版本經過特殊量化壓縮,能在記憶體 24GB 左右的 Apple 裝置順暢運行。
    5. 點選右側的 Download 按鈕,開始下載。

    MLX 模型是專為 Apple Silicon 設計的模型格式,由 Apple 開發的 MLX 框架支援,充分發揮 M 系列晶片的效能。相比其他格式,MLX 模型在 Mac 上執行速度更快、佔用資源更低,並支援 Metal 加速,讓 GPT-OSS 20B 等大型語言模型也能在本地流暢運作。

    步驟二:選擇模型並啟用對話模式開始使用

    1. 下載完成後,在 LM Studio 的模型選單中,選擇剛安裝的 `OpenAI’s gpt-oss 20B 8bit MLX` 模型。
    2. 進入模型推理介面,即可開始與 AI 對話。
    3. 在介面中輸入提示詞,例如:「你是什麼

      相關連結:

      siuleeboss

      Share this content:

    熱門内容

    • AI資訊
    • AI工具
    • AI繪圖指令
    • 食譜
    • ai生成圖片

      Introduction MyEdit  Midjourney DALL·E3 Stable Diffusio…

      Read more


    • Janitor Ai

      Introduction Platform Overview 1 Account Terminati…

      Read more


    • Stable Video Diffusion 穩定的圖片轉動畫Demo

      Stable Video Diffusion 穩定的圖片轉動畫Demo

      Stable Video Diffusion能讓你用一張圖片變成動畫. 限制 Share this conte…

      Read more


    • HappyAccidents

      HappyAccidents

      HappyAccidents是一個提供預先訓練的AI模型庫的平台,讓使用者能夠輕鬆生成圖像而無需手動下載和上傳…

      Read more


    • 文心一格

      文心一格

      「文心一格」是百度推出的一個基於文心大模型能力的AI藝術和創意輔助平台。該平台於2022年8月正式發布,利用百…

      Read more


    • Ai Gallery

      Ai Gallery

      Ai Gallery為用戶提供了一個強大的工具,利用人工智慧技術根據用戶輸入提示產生令人驚嘆的圖像。但是要強調…

      Read more


    • Graviti Diffus

      Graviti Diffus

      Graviti Diffus 是一個免部署的在線平台,專注於提供穩定擴散(Stable Diffusion)的…

      Read more


    • Aitubo

      Aitubo

      Aitubo是一個AI創作工具,它提供了方便且強大的功能,讓使用者能夠透過文本和照片輸入來生成藝術作品。 Ai…

      Read more


    • SeaArt

      SeaArt

      SeaArt AI是一款免費且強大的AI繪畫工具,它能夠幫助使用者無需專業技能,輕鬆生成高品質的繪畫作品。 S…

      Read more


    • Diffusion Art

      Diffusion Art

      DiffusionArt是一個精選的開源AI藝術模型庫,專注於藝術、動漫和照片逼真圖像的生成,涵蓋數十個類別。…

      Read more


    • 活力醒神早餐拼盤

      薏米紅豆粥簡介:這款粥品以薏米和紅豆為主要食材,具有健脾化濕的功效,適合港澳台地區潮濕天氣食用。早上來一碗,暖…

      Read more


    • 活力醒神早餐拼盤

      薏米紅豆粥簡介:這款粥品以薏米和紅豆為主要食材,具有健脾化濕的功效,適合港澳台地區潮濕天氣食用。早上來一碗暖胃…

      Read more


    • 活力醒神早餐拼盤

      簡介:這款粥品以薏米和紅豆為主要食材,具有健脾化濕的功效,適合港澳台地區潮濕天氣食用。早上來一碗暖胃又健康。準…

      Read more


    • 蘋果南瓜蝦烤蛋

      蘋果南瓜蝦烤蛋簡介:這道菜融合了蘋果的清甜、南瓜的綿密、蝦的鮮美和雞蛋的營養,是一道色彩豐富、營養均衡的烤箱料…

      Read more


    • 蘋果南瓜烤蝦仁蛋盅

      蘋果南瓜烤蝦仁蛋盅簡介:結合蘋果、南瓜和蝦仁的鮮甜,搭配雞蛋烘烤,口感豐富,營養均衡,是一道適合早餐或輕食的美…

      Read more


    • 蒜蓉西蘭花炒蝦仁

      蒜蓉西蘭花炒蝦仁簡介:這道菜結合了西蘭花的健康營養與蝦仁的鮮美口感,加入蒜蓉爆香,簡單快手,非常適合忙碌的上班…

      Read more


    • 夏日清爽苦瓜丸湯

      夏日清爽苦瓜丸湯簡介:這道湯品結合了苦瓜的清熱解毒功效和肉丸的豐富蛋白質,在炎熱的夏天,既能消暑又能補充營養,…

      Read more


    • 金沙豆腐佐時蔬

      金沙豆腐佐時蔬簡介:以豆腐為主,搭配鹹蛋黃製成的金沙醬,鹹香可口,再配上當季時蔬,營養均衡,簡單易做。準備時間…

      Read more


    • 蒜蓉西蘭花炒蝦仁

      蒜蓉西蘭花炒蝦仁簡介:這道菜結合了西蘭花的健康營養與蝦仁的鮮美口感,加入蒜蓉爆香,簡單快手,非常適合忙碌的上班…

      Read more


    • 解暑醒胃五色蕎麥冷麵

      解暑醒胃五色蕎麥冷麵簡介:這道菜融合了蕎麥麵的健康、五色食材的營養與清爽的口感,特別適合炎熱的夏季。 加入少量…

      Read more