【台北訊，2024 年 5 月 8 日】世界領先開放原始碼軟體解決方案供應商 Red Hat 今日宣布推出 Red Hat Enterprise Linux AI （RHEL AI），此基礎模型平台賦能使用者更無縫地開發、測試與部署生成式 AI（GenAI）模型。RHEL AI 整合 IBM 研究院（IBM Research）開源授權的 Granite 大型語言模型（LLM）系列、基於 LAB（聊天機器人大規模對齊）方法的 InstructLab 模型對齊工具，以及透過 InstructLab 專案進行社群驅動的模型開發方法。全套解決方案整合為經優化且可啟用的 RHEL 映像檔，適用於跨混合雲的單一伺服器部署，同時也是 OpenShift AI—Red Hat 混合機器學習營運（MLOps）平台，可用於跨分散式叢集環境的大規模執行模型與 InstructLab。

Red Hat 資深副總裁暨產品負責人 Ashesh Badani 指出：「生成式 AI 為企業帶來革命性躍進，但其前提是科技公司要能用符合其特定商業需求的方式實際部署與使用 AI 模型。RHEL AI、InstructLab 專案與可擴展 Red Hat OpenShift AI 的整合，是為了降低生成式 AI 在混合雲中面臨的許多障礙，如從有限的資料科學技能到其所需的全面資源，同時推動企業部署及上游社群的創新。」

IBM 資深副總裁暨 IBM 研究院院長 Dario Gil 表示：「將真正開源創新帶入 AI 模型開發，並發揮廣泛社群的力量，將改變企業對於 AI 導入和規模化計劃的看法。IBM 一直是開源的強力支持者，支援 Linux、Apache 和 Eclipse 等具影響力的社群，與 Red Hat 的合作代表我們在建立安全、負責任和有效 AI 開放方法的一大進步。結合 RHEL AI 和 InstructLab，以及 IBM 的開源 Granite 系列模型，將為客戶提供新的價值和選擇，他們可因此利用自己的資料解決方案，在多樣化的混合雲環境中最大程度降低成本。」

推出 ChatGPT 致使人們對生成式 AI 產生極大興趣，從而加速創新步伐。企業已開始將目標從生成式 AI 服務的早期評估轉向建置 AI 應用程式。快速成長的開放式模型選項生態系刺激了 AI 進一步創新，也展現出「沒有一個模型能統治一切」的情況。客戶將能自一系列可解決特定需求的選擇中獲益，並將透過開放的創新方法進一步加速。

實踐 AI 策略所需的不僅是挑選一個模型。技術組織需具備專業知識以針對其特定應用情境調整特定模型，同時解決實踐 AI 所需的可觀成本。資料科學技能的稀缺加劇了包括以下重要費用在內的財務壓力：

採購 AI 基礎架構或消費性 AI 服務

針對特定業務需求微調 AI 模型的複雜流程

將 AI 整合至企業應用程式中

管理應用程式與模型的生命週期

要真正降低 AI 創新的進入門檻，企業需擴張可參與 AI 計畫的人員名單，同時控制成本。藉由 InstructLab 對齊工具、Granite 模型與 RHEL AI，Red Hat 旨在將真正的開源專案優勢—可自由存取、可重複利用、透明且開放貢獻—應用於生成式 AI，以排除障礙。

透過 InstructLab 公開建構AI

IBM 研究院創建了大規模對齊聊天機器人（Large-scale Alignment for chatBots，LAB）技術，此模型對齊方法運用了分類法引導的合成資料生成與新穎的多階段調整架構。該方法減少了對昂貴的人工註釋（annotation）與專有模型的依賴，因此 AI 模型開發可更加開放，並供所有使用者訪問。使用 LAB 方法可透過指定分類法相關的技能與知識、從該資訊大規模生成合成資料以及運用生成的資料進行模型訓練等方式來改善模型。

LAB 方法有助顯著提升模型效能，因此 IBM 與 Red Hat 決定攜手推出建構於 LAB 方法及 IBM 開源 Granite 模型上的開源社群 InstructLab，旨在賦能開發人員輕鬆參與 LLM 建置，如同為其他開源專案做出貢獻一樣簡單。

作為 InstructLab 發布中一環，IBM 也公開了一系列 Granite 英語語言及程式碼模型。這些模型是經 Apache 授權公布的，且用於訓練這些模型的資料集也是透明的。Granite 7B 英語語言模型已整合至 InstructLab 社群中，終端使用者可以像參與其他任何開源專案一樣，貢獻技能和知識，共同強化該模型。針對 InstructLab 中 Granite 程式碼模型的相似支援也即將推出。

奠基於可信賴的 Linux 開源 AI 創新

RHEL AI 奠基於開放的 AI 創新方法，藉由整合企業就緒版 InstructLab 專案、Granite 語言及程式碼模型和全球領先的企業級 Linux 平台，簡化混合基礎架構環境部署，創造一個將開源授權之生成式 AI 模型引進企業的基礎模型平台。RHEL AI 包括：

擁有 Red Hat 支援與擔保的開源授權 Granite 語言及程式碼模型。

支援生命週期的 InstructLab 發行版，不僅提供可擴展、具經濟效益的解決方案，還強化 LLM 功能，貢獻易取得的知識與技能給更廣泛的使用者。

透過 RHEL 映像檔模式，使用 Granite 模型及 InstructLab 工具包作為可啟用的 RHEL 映像檔模式之優化、可啟用模型執行個體，包括最佳化 Pytorch 執行函式庫以及針對 AMD Instinct™ MI300X、Intel、NVIDIA GPU 及 NeMo 架構之加速器。

Red Hat 完整企業支援與生命週期承諾從可信賴的企業產品發布開始，提供 24 小時全天候生產支援及擴展模型生命週期支援。

當企業在 RHEL AI 上實驗與調整全新 AI 模型，便已提供包含 RHEL AI 的 Red Hat OpenShift AI 匝道擴展 AI 模型的工作流程，如此一來不僅能充分利用 OpenShift 的 Kubernetes 引擎大量訓練與服務 AI 模型，還能利用 OpenShift AI 的整合 MLOps 功能管理模型的生命週期。OpenShift AI 與 RHEL AI 也將整合 IBM watsonx，為企業 AI 開發、資料管理及模型治理帶來更多功能。

- 新聞稿有效日期，至2024/06/08為止

上一篇：Red Hat OpenShiftAI擴混合雲預測性、生成式AI靈活性
下一篇：耐輻射 DC-DC 50W電源轉換器為新太空應用提供高可靠性解決方案