Tech

Google於《Cloud Next ‘24》大會展示多項AI技術

2024-04-10

2023年全世界才開始想像生成式AI將為企業帶來怎樣的轉變，如今這些轉變現正逐步展開。而Google一直著遵循著相同的原則：打造人人都能受惠的AI技術，盡力為更多人帶來更美好的生活。Google也於《Cloud Next ‘24》大會展示多項AI技術。

一個連結雲端、由AI驅動的虛擬服務專員（Agent）世界

藉由Google豐富多樣的AI產品組合，包含基礎架構、Gemini、多種模型與Vertex AI等，客戶與合作夥伴得以運用這些產品打造日漸精密的AI虛擬服務專員，以服務客戶、支援員工與創造內容等多項工作。出色的虛擬客服專員可以協助你的客戶透過包含網路、行動裝置、客服中心及銷售據點在內的多種管道，以及運用文字、語音等方式，與你的企業有更順暢的互動。

洲際酒店集團及渡假村將推出由生成式AI支援的旅行規劃功能，協助客戶輕鬆規劃下一趟度假行程。
Target正在優化其Target應用程式和Target.com上的優惠和路邊提貨（Curbside Pickup）功能。

員工使用的虛擬服務專員可協助你所有的員工工作更有效率，並促進團隊有更好的合作。例如：

Etsy使用Vertex AI訓練技術來優化他們的搜尋建議與廣告模型，為買家提供更好的商品推薦，並提升銷售額。
巴西企業Dasa協助醫師更快地偵測出檢測結果的相關發現。

創意虛擬服務專員能成為你強大的設計師與製作團隊，與你一同進行圖片與簡報等相關工作，並探索各種創意想法。Google提供最強大的平台與技術堆疊，協助你打造創意虛擬服務專員。例如：

Canva在自家產品Magic Design for Video採用Vertex AI，協助使用者在短短幾秒內製作出引人入勝的影片。
家樂福使用Vertex AI在不同社群網路建立動態行銷活動，並將作業時間從數個月縮減為數週。

以下是Google在Cloud Next ‘24大會上宣布的一系列產品創新，協助各種規模的組織在AI時代向前邁進。

運用AI優化的基礎架構實現規模化

生成式AI需要強大的基礎架構來加以支持，才可迅速推動轉型。為了能支援堆疊中每一階層的客戶，Google進行了多項重要改革：

A3 mega：

Google與NVIDIA合作，使用H100 GPU所開發的全新GPU的執行個體，現在已正式推出，其網路頻寬為A3執行個體的兩倍，能支援最嚴苛的工作負載。此外，Google也同步推出Confidential A3，客戶能夠在訓練和推理過程中更進一步保護敏感資料，並確保AI工作負載的機密性和完整性。

NVIDIA HGX B200與NVIDIA GB200 NVL72：

Google Cloud將於2025年初採用最新的NVIDIA Blackwell平台晶片，並提供HGX B200和GB200兩種選項。B200專為主流模型的訓練與運作所設計，而GB200 NVL72則適用於上兆參數規模模型的即時大型語言模型推理和大規模訓練。

TPU v5p：

Google宣布正式推出TPU v5p，這是Google最強大、最具擴充性且最靈活的AI加速器，可用於訓練和推理，且每個Pod的運算能力是上一代的4倍。Google也宣布支援TPU v5p的Google Kubernetes Engine（GKE）已經推出；過去一年，在GKE上運行的GPU和TPU使用量成長了超過900%。

AI優化的儲存選項：

Google透過Cloud Storage FUSE和Parallelstore全新的快取功能，加速訓練速度，這些功能可以將資料儲存在更接近客戶的TPU或GPU。Google也推出Hyperdisk ML（預覽版），這是新一代區塊儲存服務，與常見的替代方案相比，其模型載入時間加速達3.7倍。

動態工作負載排程（Dynamic Workload Scheduler）的新選項：

日曆模式可以協助並確保工作負載在指定時間開始執行，而彈性開始時間模式可提供最佳的經濟效益，協助客戶為複雜的訓練與推理工作有效管理資源。

Google正致力於將AI帶到更接近資料生成與運用的位置，包括邊緣、實體隔離（air-gapped）環境、Google主權雲端和跨雲環境。透過Google Distributed Cloud（GDC），Google在任何地方啟用AI，讓你可以選擇最符合機構特定需求的環境、設定與控制選項。例如，在26個國家及地區營運的行動通訊服務供應商Orange必須確保當地資料保留在所在國家或地區。他們在GDC上運用AI，以提升網絡性能及客戶體驗。

Google也宣布多項GDC的新功能：

在GDC上提供NVIDIA GPUs：

Google將為採用連線與實體隔離設定的GDC提供NVIDIA GPU，這兩種設定都將支援新的GPU型執行個體，能有效率地運行AI模型。

在GDC上提供GKE服務：

領先的AI公司在Google Cloud使用的GKE技術，也將於GDC上提供。

支援AI模型：

Google在GDC中支援多種開放式AI模型，包含Gemma、Llama等，為這些模型提供可在實體隔離與連線邊緣環境中執行。

在GDC上提供Vector Search：

Google也將於GDC導入Vector Search的功能，你可以針對私密與機密資料進行搜尋及資訊擷取，並享受極低的延遲時間。

主權雲端（Sovereign Cloud）：

為符合最嚴格的法規規定，Google提供採用完全實體隔離設定的GDC。這個產品能在本地作業並具備完整存續能力（survivability），可由Google或你自行選擇的合作夥伴代管，一切完全由你掌控，並且在法規變更時，Google也可以靈活反應，協助你快速應對。

雖然並非所有工作負載都屬於AI工作負載，但你在雲端中執行的每個工作負載都需要進行優化，且每個應用程式的技術需求也有所不同。因此，Google推出全新且通運的運算選項，協助客戶獲得最佳效能、確保應用程式之間的互通性，並在達成永續發展目標的同時，也能降低成本。

Google Axion：

是Google專為資料中心設計的第一個ARMⓇ 架構CPU，相較於目前最新一代的同等x86型執行個體，效能最高可提升50%、能源效率最高則可提升60%。

Google的一般用途VM系列也將推出兩個全新的機器系列：

N4與C4。C3機器系列將推出原生裸機機器類型。此外，Google也將正式推出Hyperdisk Advanced Storage Pools，以及更多新的產品。

Google也將Vertex AI上的生成式AI靜態資料儲存的資料駐留（Data Residency）服務範圍，擴大到11個新的國家及地區，包含澳洲、巴西、芬蘭、香港、印度、以色列、義大利、波蘭、西班牙、瑞士和台灣。

此外，客戶現在使用Gemini 1.0 Pro和Imagen時，可以將機器學習的運作限制在美國或歐盟境內。
與去年Google宣布開始服務的其他10個國家一樣，Google協助這些新開放的國家及地區的客戶方便控制資料的儲存位置和存取方式，讓客戶更能符合世界各地政府的監管及安全要求。

運用Vertex AI打造虛擬服務專員（Agents）

Google Cloud在Vertex AI上提供超過130種自家與第三方模型，而Google也將持續提供更多種的模型，為客戶提供最豐富的模型選擇：

Gemini 1.5 Pro：

Gemini 1.5 Pro提供兩種脈絡長度（context window）：12.8萬與1百萬個token，目前在公開預覽版階段。客戶現在可利用單一串流處理大量資訊，包含1小時的影片、11小時的音訊、超過30,000行的程式碼，或700,000個以上的字詞。

Claude 3：

Anthropic全新一系列的先進模型，目前已供客戶在Vertex AI上使用。

CodeGemma：

由Google DeepMind打造的Gemma，是具有輕量且最先進的開放模型。而CodeGemma，一款Gemma全新微調、專為程式碼生成與輔助程式碼編寫等使用場景所設計的模型，現已在Vertex AI開放使用。

Imagen 2：

這是Google最先進的文字轉圖像技術，具備多種圖像生成功能，協助企業打造符合品牌需求的客製化圖像。而全新的文字轉即時圖像的功能，讓行銷與創意團隊能輕易生成動畫圖像，例如GIF等的動畫圖像，並且配備安全篩選與數位浮水印。此外，Google也宣布推出進階相片編輯功能，包含圖像修復、圖像擴展，以及其他更多功能。

數位浮水印：

此功能由Google DeepMind的SynthID技術支援，此功能現在起正式應用於Imagen 2生成的AI圖像中。

客戶若使用企業數據來增強與連結（grounding）模型，可以發揮模型最大功效並獲取更多價值。今天，Google以兩種方式加強Vertex AI的連結資訊來源能力，使其功能更加完善：

Google搜尋：

以Google搜尋作為模型的資訊來源，能結合Google最新基礎模型的強大功能，以及存取最新、高品質資訊的能力，能夠大幅提升回應資訊的完整性與準確性。

你的資料：

運用企業應用程式，如Workday或Salesforce中的數據作為模型基礎，並輕鬆連結至Google資料庫，例如：AlloyDB和BigQuery。

當你挑選了合適的模型、加以調整並連結資訊來源後，Vertex還可以協助您部署、管理與監控模型。Google宣布推出更多機器學習運作營運功能：

提示管理工具：

這些工具讓你可在內建提示上進行協作，附上註解與目前狀況、追蹤變更紀錄，以及比較不同提示的回覆品質。

自動並排比對：

Auto SxS功能現已正式推出，可說明為何某個回應優於另一個，並提供確定性分數，有助於使用者瞭解評估的準確性。

快速評估功能：

此功能現已推出預覽版，可協助客戶在反覆設計提示時，運用較小的資料集來快速評估模型。

最後，Vertex AI Agent Builder整合了基礎模型、Google搜尋和其他開發者工具，讓你輕鬆建構和部署虛擬服務專員（agent）。它提供了無程式碼代理程式生成器控制台的便利性，以及強大的連結資訊來源、編排與擴增能力，使用Vertex AI Agent Builder，你現在可以快速地建立一系列利用Google搜尋和你的組織數據為基礎的生成式AI虛擬服務專員。

縮短開發時間

Gemini Code Assist是Google專為企業打造的AI程式碼編寫輔助功能解決方案。為支援開發人員，Google宣布推出以下項目：

Gemini Code Assist導入Gemini 1.5 Pro：

這項升級提供的脈絡長度極大，達1百萬個token，甚至在最大型的專案都帶來革命性程式碼編寫方式。Gemini Code Assist現在提供更準確的程式碼建議、更深入的洞察，以及精簡的工作流程。

Gemini雲端輔助功能：

此功能可在應用程式生命週期各階段提供AI輔助功能，讓使用者更輕鬆地設計、保護、操作與進行疑難排解，並優化應用程式效能與成本效益。

Google將Gemini Code Assist部署給一組Google內部的開發人員，發現完成一般開發工作所需的時間加快40%，以及編寫新程式碼的時間縮短55%。事實上，Gemini Code Assist支援位於任何位置的私人程式碼集，無論是地端部署、GitHub、GitLab、Bitbucket，甚至是多個位置。

結合資料，釋放龐大AI潛能

Google Cloud讓你可結合最佳的AI技術與你的企業資料，同時維持資料的隱私和安全性。Google現在宣布推出全新強化功能，協助組織打造絕佳的資料虛擬服務專員：

Gemini in BigQuery：Gemini in BigQuery運用AI技術來協助資料團隊準備、探索、分析和治理資料。此外，您將能透過新的BigQuery Data Canvas建立與執行資料管道，它結合自然語言與嵌入式圖表，提供了與筆記本類似的全新使用體驗，，兩種目前皆提供預覽版。

Gemini in Database：

你可輕鬆安全地將資料從舊系統中遷出，例如將資料庫轉成AlloyDB等現代雲端資料庫。

Gemini in Looker：

Google將推出數項預覽版的新功能，這些功能可輕鬆地將你的資料虛擬服務專員整合到你的工作流程中。Google還新增與Google Workspace整合的全新生成式AI功能，可讓您與業務資料進行對話。

運用AI技術提升網路安全

安全虛擬服務專員可在安全性生命週期的每個階段提供協助，因此生成式AI有潛力扭轉局勢，讓抵禦攻擊的一方占上風。Google Cloud安全性系列產品的創新功能可以提供更強大的安全成果，並使每個組織都能讓Google Cloud成為他們安全團隊一員，這些功能包括：

Gemini in Threat Intelligence：

使用自然語言技術，可以針對威脅發動者的行為提供深入的洞察。透過Gemini，Google能夠分析數量龐大的潛在威脅惡意程式碼樣本。Gemini擁有範圍更大的脈絡長度，能分析模組之間的互動，針對程式碼的真正意圖提供全新洞察。

Gemini in Security Operations：

全新輔助調查功能可以將自然語言轉換為啟動偵測、總結事件資料、建議採取的行動，並透過對話式聊天引導使用者在平台上操作。

運用Google Workspace提升生產力

透過Gemini for Workspace，企業可直接在Gmail、Google文件和試算表等產品中，使用內建的AI虛擬服務專員。今天，Google宣布推出Gemini for Workspace的下一波創新與功能強化，包含：

Google Vids：

這個由AI驅動的影片創作應用程式，結合影片創作、製作及編輯助理於一身，它可以自動生成一個分鏡圖（storyboard）讓你輕鬆編輯，當你選擇好風格後，它會將你的草稿與素材庫中的影音片段、圖片和背景音樂拼湊在一起。它還可以幫助你找到合適的旁白來傳遞訊息，可以選擇Google預設的旁白或是使用你自己的錄音。Vids將加入Google其他生產力工具的行列，例如：Google文件、Google試算表和Google簡報等。它擁有簡約且易於使用的介面，讓你能安全地透過瀏覽器協作和分享工作項目。Vids將於六月於Workspace Labs發布。