theNet by CLOUDFLARE

AI 的優劣取決於其基礎

打造以 AI 驅動之個人化體驗的準則

企業正競相採用 AI,以提升營運效率並取得競爭優勢。事實上,在一份近期調查中,有 71% 的受訪者表示,他們的組織已經在日常運作中定期使用生成式人工智慧 (GenAI)

除了運用現有的 GenAI 服務外,許多企業也正在自行開發具有 AI 功能的應用程式與AI 智慧體,以提供高度個人化的客戶體驗。他們認識到,打造能夠為全球客戶群提供精準客製化購買建議、產品資訊與支援的應用程式與智慧體,蘊藏著巨大的商機。

這種對高度個人化的重視,恰逢應用程式開發邁向新模式的轉變。開發人員越來越傾向將應用程式拆解為更小、具單一功能的元件,這些元件同時也能作為 AI 智慧體來運作。這種新模式讓開發人員能快速打造新的智慧體,同時提升其效能、韌性與安全性。

但這裡存在一個問題:開發人員通常仰賴超大規模雲端服務提供者來打造應用程式。然而,這些超大規模雲端服務提供者卻無法充分支援這種全新的應用程式開發模式。它們並非為了向數百萬個個別使用者提供個人化應用程式或智慧體而設計。

我們需要為這個 AI 時代建立新的基礎——一套用於開發與部署這些新一代應用程式與智慧體的全新基礎架構。尋找這樣的基礎,首先需理解應用程式開發中的關鍵轉變、釐清超大規模雲端服務提供者的侷限,然後定義必要的需求。一旦這個基礎到位,我們就能打造出符合商業目標、並滿足客戶期望的應用程式與智慧體。


AI 和奈米服務如何改變應用程式開發

那個打造大型、單體式應用程式,並為每位使用者提供相同體驗的時代,正在走向結束。目前有兩大關鍵趨勢正共同塑造應用程式開發的新典範:企業正運用 AI 來打造高度個人化的體驗,同時也採用一種全新的架構模式來開發與交付應用程式。

1. 將 AI 聚焦於高度個人化

開發應用程式的團隊,已無法再打造千篇一律、適用所有人的通用體驗,這種方式只會讓使用者淹沒在過量的資訊與不相關的推薦中。不論是在零售金融服務遊戲還是其他領域,如今的消費者都期望應用程式能提供引人入勝的體驗,並精準反映他們的個人偏好與興趣。

AI 應用程式與智慧體能協助提供那些高度個人化的體驗,而且能夠大規模地實現,無需團隊投入更多手動開發工作。

舉例來說,假設您的公司提供行事曆軟體。您可能希望讓客戶能排程特定類型的活動,例如孩子的足球比賽。每位使用者都能擁有一個專屬的 AI 智慧體,該智慧體可以從球隊聯盟的線上活動行事曆中收集比賽資訊,然後自動填入該使用者自訂的個人化行事曆中。透過運用 AI 智慧體,您可以將這種個人化的體驗提供給成千上萬甚至數百萬名客戶。

2. 轉向奈米服務

透過 AI 應用程式與智慧體打造高度個人化體驗的趨勢,獲益於軟體開發領域的一項重要轉變。在從單體式應用程式轉向微服務架構之後,開發人員如今正採用一種稱為「奈米服務」的新模式。此模式將應用程式功能拆解為更小、自包含、用途單一的元件——比微服務更細緻、也更獨立。與微服務架構類似,奈米服務有助於加速開發並提升應用程式的韌性;但它還能進一步實現高度個人化。

每個奈米服務元件都像是一個智慧體,執行一項非常特定且高度客製化的任務。這種架構不再只是打造一個服務數百萬使用者的單一應用程式,而是能夠為每一位使用者提供數百萬個獨特且量身打造的智慧體。

將 AI 整合至這種架構模式中,能讓您運用智慧體大規模地提供個人化體驗。您可以將使用者輸入的資料(例如提示詞、瀏覽紀錄或聊天互動內容)傳送至大型語言模型 (LLM),接著根據模型輸出的結果執行個人化的任務。您可以只執行一次該流程然後關閉,也可以將其執行數百萬次。

因此,將奈米服務與 AI 相互結合,能對您提供給使用者的體驗類型產生革命性的影響。然而,若僅依靠傳統的超大規模雲端服務提供者所提供的方案,要充分發揮奈米服務與 AI 的潛力將會非常困難。


識別超大規模雲端服務提供者在 AI 應用程式方面的局限性

超大規模雲端服務提供者成為開發與交付應用程式的首選平台,其實並不令人意外;相較於傳統的內部部署環境,它們通常更具彈性且更具成本效益。然而,由於存在擴展性限制、無狀態設計、安全性不足以及額外成本等問題,它們並非打造 AI 應用程式的最佳基礎。

可擴展性

超大規模雲端服務提供者在擴展單一應用程式方面表現出色:借助超大規模雲端服務提供者,您可以將同一款應用程式提供給成千上萬名使用者。然而,超大規模雲端服務提供者並未採用適合的應用程式架構,因此無法有效率地為數百萬名個別使用者提供數百萬個獨立的應用程式或智慧體。

此外,它們也缺乏能快速啟動(或關閉)這些應用程式與智慧體的自動化流程。舉例來說,當足球賽季開始時,可能會有成千上萬名使用者突然想要一個用來安排球賽的自訂 AI 智慧體。為了滿足這波需求,您需要在幾乎同一時間(以毫秒級的速度)啟動這些獨立的智慧體。而當賽季結束、需求下降時,您又得立即將這些應用程式關閉,以節省資源。

對於大多數超大規模雲端服務提供者而言,為單一應用程式佈建資源是一個耗時且需手動操作的過程。這樣的環境根本不是為了支援大量個別化、自訂的應用程式所設計的。

無狀態

超大規模雲端服務提供者無法提供執行 AI 智慧體所需的「具狀態性」。一個理想的 AI 智慧體應該能夠記住上下文、使用者偏好以及跨工作階段的互動紀錄。這種具狀態的特性,能讓使用者從上次中斷的地方繼續任務,而不必每次都從頭開始——即使中間已經有很長一段時間沒有使用。

然而,超大規模雲端服務提供者將擴展性與可靠性置於具狀態性之上。它們的設計初衷,是讓資源能夠根據需求變化輕鬆地增減,並在出現問題時迅速替換。這種無狀態的彈性,是以犧牲記憶體中的資料保存能力為代價的。

安全性

當您打造高度個人化的 AI 驅動應用程式與智慧體時,必須確保某一使用者的應用程式或智慧體中的資料,絕對無法被其他使用者存取。舉例來說,如果您正使用一個 AI 智慧體來追蹤您孩子的足球賽程,您絕對不希望其他人能存取您孩子所在的地點資訊。

由於超大規模雲端服務提供者並未提供針對奈米服務架構所設計的應用程式架構,因此它們無法為每一個智慧體提供充分的安全保障。如果您正在開發 AI 應用程式與智慧體,您同時也必須防範各種針對 AI 模型的威脅——從提示詞插入、不安全的輸出處理,到資料投毒以及供應鏈漏洞等。並非所有的超大規模雲端服務提供者都內建足夠的安全功能,能夠有效應對這些與其他潛在威脅。

此外,如果您的開發人員正在使用超大規模雲端服務提供者(及其 AI 模型進行所謂的「Vibe 編碼」(也就是讓 LLM 協助撰寫程式碼),您就必須確保該模型不會在不經意間引入安全漏洞。

成本

在超大規模雲端服務提供者上執行 AI 驅動的應用程式,其成本會迅速累積。這些服務商通常會針對每一次對 AI 模型的輸入與輸出進行收費。有些則是根據資源的配置時間來計費,即便這些資源當時並未實際處理任何請求,仍會產生費用。舉例來說,假設有一個用來追蹤足球賽程的 AI 智慧體,會反覆檢查球隊聯盟的線上行事曆,以查看比賽時間或地點是否有更新。在這種情況下,即使您的程式碼只是在等待使用者輸入,或是等待來自外部來源(例如球隊聯盟的線上行事曆)的回應,雲端服務提供商仍會針對所有已預留資源的時間向應用程式提供者收取費用。

您可能還會面臨高昂的資料輸出費用。當超大規模雲端服務提供者透過其他雲端供應商平台上的應用程式,將資料傳遞給使用者,或是將資料從他們的雲端環境轉移到另一個雲端時,就會收取這類費用。即使資料是在同一個雲端平台內進行傳輸,仍然有可能產生區域性的資料輸出費用。


AI 平台的四個主要標準是什麼?

在選擇用於簡直和執行 AI 驅動應用程式的雲端平台時,有四個主要要求。

1. 多對多可擴展性

首先,該平台必須提供一個應用程式層,專為支援「奈米服務」而設計——正是這些奈米服務,使得高度個人化的 AI 應用程式與智慧體成為可能。您需要能夠輕鬆地同時產出數百萬個精準客製化的應用程式與智慧體,並且所有這些服務都要能夠即時執行,而且要能夠在靠近使用者的邊緣位置進行交付。此外,您還應該能夠在毫秒級時間內,自動啟動或關閉這些應用程式。

2. 具狀態

該平台應能讓您打造具狀態的智慧體,使其能夠將上下文資訊保留在記憶體中,時間可長達數分鐘、數小時、數天,甚至數週。與傳統的無狀態無伺服器架構不同,具狀態的平台能讓智慧體在長時間中斷後仍可繼續之前的互動,並執行複雜、需長時間執行的任務。

3. 內建應用程式安全性

最佳的 AI 開發平台,應能讓您輕鬆將安全性內建至應用程式與智慧體之中。它能協助您打造安全、獨立運作的奈米服務,有效保護敏感資料。同時,該平台也將提供一系列工具,讓開發人員能夠安心地進 Vibe 編碼,同時防止資料外洩、提示詞插入攻擊,以及其他在將 AI 模型整合至應用程式時可能產生的潛在威脅。

4. 擺脫高昂費用

一個基礎的 AI 平台,必須提供多種方式來降低執行 AI 應用程式的成本。例如,透過快取 AI 模型的回應就可以減少權杖費用。如果使用者多次輸入相同的內容,您就不需要為多次呼叫 AI 模型而支付額外費用。

該平台也應讓您避免支付「等待時間」費用,也就是當您的應用程式與智慧體正在等待使用者輸入或外部回應時所產生的費用。平台應只針對您的應用程式實際執行運算時進行計費。此外,由於您可能需要將資料在不同儲存環境之間移動,該平台必須取消資料輸出費用,避免產生不必要的跨網路資料傳輸成本。


實作 AI 的基礎

Cloudflare 提供了一個可擴展、安全且具成本效益的基礎,用於建置、執行保護 AI 驅動的應用程式與智慧體。Cloudflare 提供了廣泛的服務組合,以簡化 AI 應用程式與 AI 智慧體的開發,包括一個用於加速 AI 開發的平台、一個用於建置 AI 驅動智慧體的 SDK、用於保護 AI 應用程式的安全服務,以及可用來儲存快速增長的資料集而無需支付輸出費用的物件儲存體。

重要的是,Cloudflare 平台的設計支援奈米服務模型,讓您能夠建置並擴展數百萬個高度個人化的應用程式與智慧體。它同時也提供了維持工作階段間上下文所需的具狀態性。而在其他超大規模雲端服務提供者要求您串接多個不同的服務來建置、保護與部署應用程式時的情況下,Cloudflare 透過單一、統一的全球連通雲平台來提供所有功能。Cloudflare 的全球網路讓您能夠將這些應用程式與智慧體部署在靠近個別使用者的位置,提供即時且低延遲的使用體驗。

以 Cloudflare 作為 AI 基礎架構,可以幫助您快速、安全且經濟高效地建立和交付創新且高度個人化的應用程式和智慧體。有了這個基礎架構,您就可以進一步提高 AI 為企業帶來的投資報酬率,同時降低風險。

Cloudflare 就影響當今技術決策者的最新趨勢和主題發表了一系列文章,本文為其中之一。



深入探討這個主題。

閱讀《確保安全 AI 做法:CISO 可擴展的 AI 策略制定指南》,瞭解如何在增強安全性的同時,支援企業 AI 計畫。





重點

閱讀本文後,您將能夠瞭解:

  • AI 與奈米服務如何改變應用程式開發

  • 為什麼超大規模雲端服務提供者無法為 AI 應用程式提供充分支援

  • 對 AI 應用程式開發平台的三大要求


相關資源


收到最熱門網際網路深入解析的每月回顧!