更新日期:2024 年 10 月 10 日|適合正在評估企業生成式 AI 導入、想了解 RAG 技術與 Google Cloud 資源的讀者
摘要 「我們投入了大量資源研究導入企業生成式 AI,但成效卻遠不如預期……」這是最近經常聽到的企業心聲。2022 年 ChatGPT 掀起的 AI 浪潮中,許多企業躍躍欲試,卻在實際應用時遭遇重重障礙。本文從 AI 發展脈絡談起,說明 RAG 技術如何協助企業以低成本方式導入專屬知識管理系統,並整理企業推動 AI 常見的五大挑戰,以及 Google Cloud 平台如何簡化導入流程。
目次
AI 的發展:從早期技術到生成式 AI 的突破
人工智慧(Artificial Intelligence,縮寫 AI)一詞並非現在才出現的,早在 1950 年代就誕生了。它經過了超過 60 年的發展,可以分成四次浪潮:
破解遊戲(1950’s)——AI 能夠按照指示破解遊戲,但現實問題還無法解決。
專家系統(1980’s)——好比一本專業工具書,裡面包含專家知識,但需要人去看和操作。
機器學習和深度學習(2010’s)——就像一位快速學習者,可以通過觀察大量數據來自己歸納規則。加上雲端科技的普及,讓大量數據可以隨時隨地被處理,這帶動了 AI 普及。
生成式 AI(2020’s)——比方說現在的 ChatGPT,就像一個隨時可以聊天、幫你回答問題的夥伴,能輕鬆理解你的需求。

從一開始只能控制簡單程序的傳統 AI,到解決智力測驗、遊戲,再到機器學習,最後發展到現在的深度學習,讓 AI 在不需要人為指導下,從複雜的數據中自動抓取特徵並生成結果。可以說,AI 的發展史也就是我們逐漸讓電腦「更懂人心」的過程。
近年生成式 AI 炙手可熱,導致大家常以為「AI 只有一種」,其實 AI 有不同分支,導入企業 AI 之前要先釐清需求,才能選對 AI 技術:
- 生成式 AI(Generative AI):生成類似訓練數據的內容(如文字、圖片等),例如自動生成報告、設計草圖、圖片或文章。
- 分辨式 AI(Discriminative AI):分析數據以分類或預測結果,例如檢測是否有異常資料(如財務異常)、分類客戶或產品。
- 大型語言模型(LLMs):能理解大量文本間的語言關係,回答問題或生成文本。
儘管這些 AI 功能強大,企業在導入時卻常面臨現實挑戰:大量數據、資金和時間,對於尚未做好準備的企業來說可能負擔過大。因此,首次嘗試企業 AI 建議從「低成本、較少數據需求」的 RAG AI 開始。
RAG 技術應用於企業 AI
現在,許多工作都開始依賴聊天機器人,如 Gemini 和 ChatGPT,這些機器人不僅能檢索網路上的資料,還能像人類一樣進行對話。這樣的變化改變了我們搜尋資料的方式:從傳統的搜尋引擎(如 Google、Yahoo)查詢關鍵字,轉變為直接向 AI 提問。甚至不只是查詢資料,連工作需要的郵件草稿、會議記錄整理、簡報製作,都開始借助 AI 技術,來加速我們的工作效率、激發創意。
但 ChatGPT 這樣的聊天機器人,背後使用的是網路上公開、人人皆可查詢的資料,企業若想查詢內部資訊則無法辦到。外加企業資料安全的考量,不能隨意將公司的機密資料放到開放式的聊天機器人應用程式內,讓這些外部模型學習企業的資料。若想擁有專屬的企業 AI,難道只能從頭開發?如果您擁有充沛的資金及專業的技術團隊,並已規劃時間及人力資源在研究及開發,那麼您可以自己來。但若您沒有這樣的環境,則可以選擇利用 RAG 技術來實現。
RAG 是指檢索增強生成(Retrieval-Augmented Generation)的技術,它同時具備檢索和生成的功能:在特定的資料來源中檢索,再透過大型語言模型(LLMs)生成答案,因此企業可以在非開放式的環境內上傳、檢索企業文件。因為 AI 的學習來源限縮在特定的資料,大幅降低了「亂回答」的窘境,讓企業能獲得精準可靠的回答。

延伸閱讀:RAG 是什麼?2024 企業必知的 AI 關鍵技術:檢索增強生成
企業 AI 應用案例:內部知識管理
以企業內部諮詢台來解釋 RAG 的運作原理,可以幫助您更好理解。您可以用標準作業程序、產品文件和過往案例等文件,讓 AI 在有限的範圍內檢索資訊,透過應用程式(例如 Google Chat、Line、網站等)向 AI 提出問題。此時 AI 會進入資料庫檢索相關資料,再透過自然語言組織答案回傳到應用程式,幾秒內就能獲得需要的資訊。

想像一下,如果您在工作中有一個內部諮詢台,您只需輸入問題,AI 便會在資料庫中迅速找到相關資訊,並用自然的語言回應您。幾秒鐘內,您就能獲得所需的答案,而無需中斷工作去尋找資料。
企業 AI 推動的五大挑戰
AI 就像無底洞,讓人愈挖愈深,原以為一切盡在掌握,卻發現 AI 如脫韁野馬般難以掌控。以下是企業在推動 AI 過程中常見的挑戰:
無法確定投資報酬——部署 AI 需要大量資源投入,但其效益難以量化,導致決策者在推動 AI 專案時猶豫不決。多數企業對 AI 的資訊來源是網路或外部分享,缺少企業內部的第一手資料,進一步增加了資源配置、成本估算及效益預測的難度。
缺乏技術人才——AI 專才稀缺且成本高昂,企業在導入初期難以確保投資回報,自然難以大手筆投入人力資源。然而,技術人才的不足意味著 AI 專案容易因技術問題停滯不前。
應用場景不明確——很多企業不確定 AI 可以應用在哪些工作場景,也不清楚 AI 的具體運作方式及其是否能滿足需求,這讓企業難以判斷應該將 AI 應用於何處。
訓練資料不足——資料是 AI 訓練的基礎,數據不足或品質不佳都會直接影響 AI 的學習效果和準確性。
優化瓶頸——在概念驗證(Proof of Concept,縮寫 PoC)階段,企業可能會發現即便使用內部資料,AI 回應也不夠精確,甚至會出現「幻覺」(hallucination)現象,生成看似合理但實則錯誤的內容。由於缺乏 AI 專業人員,企業無法有效優化資料和模型,導致難以提升 AI 的精準度。
這些挑戰在推動 AI 的企業頭上澆了一盆冷水,甚至有人提出「第四波 AI 浪潮即將結束」。若您的企業正面臨這些挑戰,Google Cloud 提供的 AI 平台或許能協助您突破難關,推動 AI 成為企業創新成長的加速器。
延伸閱讀:The state of AI in 2023: Generative AI’s breakout year
Google Cloud 如何簡化企業 AI 導入流程

Google Cloud 提供了易用、經濟、穩定的 AI 開發環境和工具,幫助中小企業降低技術門檻與成本,讓 AI 應用快速部署,進而提升業務效率與競爭力。平台上的 Vertex AI 整合多種工具與預建 AI 模型,包括 RAG 技術,使企業能更輕鬆地開發 AI。以下是 Google Cloud 的優勢:
預建 AI 模型——Google Cloud 提供多種已訓練好的 AI 模型,如影像辨識、語音識別等,企業無需從零開始訓練模型,能直接應用,大幅減少成本和時間,適合中小企業快速上手。
低門檻的機器學習工具——Google Cloud 提供 AutoML 等低代碼工具,讓非技術人員也能操作,快速完成 AI 模型的訓練和調整。即使沒有深入的技術背景,團隊成員也能參與 AI 開發,降低對技術人才的需求。
彈性費用模式——Google Cloud 採取按使用量付費的方式,企業可以根據實際需求靈活調整成本,避免不必要的資金壓力,特別適合需要控制預算的中小企業。
穩定的雲端基礎設施——Google Cloud 提供穩定的計算資源、存儲和數據庫等雲端服務,企業能在可靠的環境中運行 AI 應用,無需擔心基礎設施的技術負擔,能更專注於業務應用。
數據整合的無縫支援——Google Cloud 的數據工具(如 BigQuery)幫助企業有效管理和處理數據,並與 AI 模型互動,將數據資產轉化為洞見和決策依據。
Google Cloud 提供的一系列解決方案,降低了企業導入 AI 的技術門檻和資金負擔,讓中小企業也能以合理的投入享受 AI 帶來的業務提升。