生成式 AI 本質上是一種混合工作負載，新應用程式通常在公有雲上構建；之後使用在地端的私有數據進行模型微調；而與業務邏輯最緊密關聯的推理部署，可能位於邊緣、地端或公有雲。這種分散、混合式的生成式AI工作流程可能會為企業帶來複雜度、資料隱私、安全性和成本方面的挑戰。

Nutanix Enterprise AI提供了一套統一的多雲操作模式，結合了NVIDIA NIM優化的推理微服務和來自Hugging Face的開放式基礎模型，能夠以簡單的方式安全地部署、擴展和運行LLM。這使客戶能夠建立日常營運、具有彈性、安全性的企業級GenAI基礎設施，以支持關鍵業務的應用程式在地端或AWS Elastic Kubernetes Service （EKS）、Azure Managed Kubernetes Service（AKS）和 Google Kubernetes Engine（GKE）等公有雲上的運行。

此外，相較於根據難以預測的使用量或基於token的定價模式，Nutanix Enterprise AI以基礎設施資源為基準，提供公開透明的定價模式，這對於希望最大化生成式AI投資獲回報的客戶來說非常重要。

Nutanix Enterprise AI是Nutanix GPT-in-a-Box 2.0的一部分。GPT-in-a-Box還包括 Nutanix雲端基礎架構、Nutanix Kubernetes平台和Nutanix統一儲存，並提供支持客戶配置和調整大小需求的服務，以進行地端的訓練和推論。對於希望在公有雲進行部署的客戶，Nutanix Enterprise AI可以部署在任何Kubernetes環境中，且運作與地端部署保持一致。
Nutanix產品管理資深副總裁Thomas Cornely表示：「透過Nutanix Enterprise AI，我們協助客戶以簡單且安全的方式在地端或公有雲上運行生成式AI應用程式。Nutanix Enterprise AI可在任何Kubernetes平台上運行，讓客戶能夠使用成本公開的模型並選擇安全的位置，運行其AI應用程式。」

Nutanix Enterprise AI可以與NVIDIA全端AI平台一起部署，並通過了NVIDIA AI Enterprise軟體平台驗證，其中包括NVIDIA NIM，這是一組易於使用的微服務，旨在安全可靠地部署高性能AI模型推理。Nutanix-GPT-in-a-Box也是通過NVIDIA認證的系統，確保了性能的可靠性。
NVIDIA企業AI副總裁Justin Boitano表示：「生成式AI工作負載本質上具有混合特性，訓練、客製化和推論過程均在公有雲、地端系統和邊緣位置上進行。將NVIDIA NIM整合至Nutanix Enterprise AI有助提供一套統一的多雲模式及安全的API，讓客戶能夠在不同環境中部署AI，同時確保關鍵業務應用程式所需的高效能和安全性。」

Nutanix Enterprise AI可以幫助客戶：
 解決AI技術人才短缺問題：簡易性、不同化的選擇及內建功能讓IT管理人員能輕鬆管理AI，協助資料科學家和開發人員利用最新的模型和NVIDIA加速運算，促進AI開發。
 消除障礙，建立AI就緒的平台：不少希望採用生成式AI的企業，在建立適合支援AI工作負載平台時都面臨挑戰，其中包括確保地端基礎架構與多個公有雲保持一致。Nutanix Enterprise AI透過簡單的UI支援工作流程解決這個問題，協助客戶在短時間内部署和測試大型語言模型（LLM）的推理端點。平台支援能在任何環境運行的NVIDIA NIM微服務，為客戶提供選擇，確保模型在雲端及地端環境中均可發揮最佳表現。該平台亦支持 Hugging Face及其他模型標準。此外，與Nutanix Kubernetes Platform的原生整合能夠確保與Nutanix雲端平台保持一致，讓客戶能選擇在任何Kubernetes執行環境上運行的選項，包括具備NVIDIA加速運算的 AWS EKS、Azure AKS 或 Google Cloud GKE。
 降低數據隱私和安全風險：Nutanix Enterprise AI讓客戶能自行控制運算資源上的運行模型和數據，有助降低隱私和安全風險。此外，Nutanix Enterprise AI還提供一目了然的儀表板提供客戶進行疑難排查、可觀測性和資源運用管理，並具備快捷且安全的角色型存取控制（RBAC），確保LLM的存取控制明確可控。對於需要鞏固安全的企業而言，他們亦能在隔離（air-gapped）或dark-site環境中的部署。
 為生成式AI工作負載提供企業級基礎架構：在Nutanix Cloud Platform運行關鍵業務應用程式的客戶現在可以將同樣高彈性、日常營運和安全應用於生成式AI工作負載，享受企業級基礎架構的體驗。

Nutanix Enterprise AI的主要客戶應用場景包括：透過分析客戶回饋和文件以生成式AI改善客戶體驗；利用人工智慧助手和文件處理以加快生成代碼和內容；在特定領域的數據上微調模型以加快生成代碼和內容；鞏固數據安全，包括利用AI模型進行詐騙檢測、威脅偵測、增強警報及自動生成政策；並透過在私人數據上微調模型以改善數據分析。

- 新聞稿有效日期，至2024/12/14為止

上一篇：ASRC 2024 年第三季電子郵件安全觀察
下一篇：Check Point 發佈 2024 年下半年資安數據統計