生成式 AI 熱潮解析：破解 IT 領導者常見的 4 大迷思

Elastic 產品資訊 2025 年 7 月 21 日

不可否認，生成式 AI（Generative AI / GenAI）正在重塑 IT 的未來，甚至可能改變整個世界。根據 Forrester 於 2024 年進行的一項調查，有 67% 的 AI 決策者表示，組織計劃在未來一年加大對生成式 AI 的投資。

但問題來了：哪些只是「生成式 AI 熱潮」？又有哪些才是真正值得長期投入的技術？IT 與企業決策者又該如何分辨真實能力與過度期待之間的差異？

目前的熱潮既令人興奮，也引發不少質疑 ── 從生成式 AI 如何取得資料、安全機制是否完善，到它對 IT 架構與企業營運的實質影響，都有不同聲音。

生成式 AI 是否被過度炒作？

這取決於你的使用目的，以及這些生成式 AI 模型所依賴的資料來源。

有些場景其實並不需要生成式 AI，而是更適合使用傳統 AI 技術。例如：如果企業需要對出貨產品進行品質檢查，多半是依據明確標準來判定是否合格，這時使用具備規則判斷邏輯的傳統 AI 系統反而更有效率，也更實用。在這類流程單純的應用場景中，生成式 AI 的價值常常被過度高估。

另一方面，若能善用生成式 AI 來擴充知識範圍、輔助決策，那就可能是值得投資的方向。舉例來說，企業若能將內部專有資料（如內部 Wiki、HR 政策、簡報檔案等）整合進大型語言模型（LLM）中，透過自然語言提問讓員工自行查詢答案，生成式 AI 就能成為提升工作效率的助力。這不僅能節省大量尋找資料的時間，還能讓團隊將精力集中在更具策略性或複雜的工作上。

在 Elastic，我們導入了 ElasticGPT 內部生成式 AI 助理，每位員工每月平均能節省超過 5 小時的查找資訊時間，一年可達 63 小時，成效顯著。

至於生成式 AI 未來發展，根據 Gartner 的 Hype Cycle 預測，到了 2026 年，超過 80% 的企業將會使用生成式 AI API 或模型，並在實際環境中部署 GenAI 應用。相較於 2023 年不到 5% 的使用率，這是一個明顯的躍升。

因此，隨著各種應用情境不斷擴大，企業不應該只是追逐熱潮，而是要學會看穿生成式 AI 的噱頭，聚焦在能真正帶來影響的實際應用上。

迷思 1：生成式 AI 將取代人類

事實：AI 助理是輔助員工做出更有行動力的決策

生成式 AI 的角色是強化團隊的專業與工作流程，而非直接取代人。雖然生成式 AI 助理能提供洞察、處理重複性工作、提升回應速度，但人類的直覺與問題解決能力依然是不可或缺的。

像是 IT 分析師、資安團隊，他們對企業系統、威脅情勢與商業優先事項的掌握，仍仰賴人類特有的情境理解與判斷力。這是目前 AI 無法取代的部分。

AI 助理更適合負責重複性工作，讓員工能專注在更具挑戰性的專案上。根據 McKinsey 的估算，企業導入 AI 應用可釋出高達 4.4 兆美元的生產力潛力。例如，站台可靠性工程師（SRE）可以透過 AI 助理協助排查網路問題、找出根本原因。這樣的 AI 協作流程能加速處理系統中斷，進而提升整體穩定性。SRE 也能更專注於需要創造力的 IT 專案或複雜議題上，不再被日常雜務所拖累。

迷思 2：生成式 AI 不可靠，因為它只依賴公開資料

事實：透過 RAG 技術，企業可以將自有資料整合進生成式 AI 模型中，提升準確性與實用性

許多 AI 應用確實是以網路上的公開資料為基礎，但實際上，生成式 AI 模型也能安全地運用企業內部專有資料，提供更貼合業務需求的回應與應用場景。

這通常透過「檢索增強生成（Retrieval Augmented Generation, RAG）」實現，將內部資料與生成式能力結合，讓輸出結果更具上下文關聯性，並減少模型產生錯誤回答（hallucination）的風險，確保結果更貼近企業的實際需求，而非僅依賴網路上的資訊。

在資安作業中，團隊每天可能要面對數百甚至上千筆警報事件。

若能使用結合企業資料的生成式 AI 助理，資安分析師就能快速篩選出重要的警報，並透過智慧摘要與推薦的下一步行動，大幅縮短回應時間。 AI 助理還能保留使用者的提問脈絡，讓分析師在多輪互動中持續累積洞見，並輕鬆將發現的內容加入個案中。

更重要的是，這些互動過程中的新資料能透過 RAG 回饋給模型，持續優化生成結果，確保資安人員掌握的資訊始終是最新、最準確的。

推薦閲讀：什麼是 RAG（檢索增強生成）？

迷思 3：生成式 AI 無法控管資安與隱私

事實：經過妥善規劃的生成式 AI 系統可具備完善的資安機制，包含加密、權限控管與法規遵循

雖然資安與隱私風險值得關注，但這些挑戰並非無法克服。

企業可以，也應該在設計生成式 AI 系統時，納入強化的資安防護措施。像是透過 RAG 技術搭配權限控管，就能讓生成式 AI 從企業內部資料中安全擷取資訊，同時保有資料隱私權的主控權，並確保 AI 輸出的內容具備可靠性、角色對應性，以及符合組織脈絡。

IT 決策者也能部署專屬的私有 AI 模型，在企業內部環境中執行，並針對個資（PII）進行加密處理，進一步降低潛在風險。

考量到生成式 AI 過程中可能涉及大量敏感資訊的收集、儲存與訓練，許多國家也開始推動多項合規規範以保護使用者資料。例如：歐盟的《一般資料保護規則（GDPR）》、AI 法案、美國的資料監管規則，以及中國的《生成式人工智慧服務管理辦法》等，都是企業在導入 AI 技術時應納入的法規遵循範圍。

隨著生成式 AI 技術持續演進，相關法律規範也會不斷更新，因此企業有必要持續追蹤 AI 合規與風險管理策略。

Elastic 全球政府事務高級總監 Bill Wright 指出：「像是監理沙盒機制、獨立演算法稽核、以及負責任設計原則的導入，都是推動 AI 安全發展與落地的重要手段。」

迷思 4：生成式 AI 還不夠成熟

事實：目前已有安全且合規的方式，讓企業可以立即開始部署生成式 AI

有沒有想過，你的競爭對手可能早就在使用生成式 AI 了？

根據近期研究，93% 的 C-level 高階主管已經導入或計畫投資生成式 AI。這些領導者普遍認為，只要能即時擷取資料、善用資料分析工具輔助商業決策，並透過 AI 獲得資料驅動的洞察，他們的企業將能顯著提升年度營收。

McKinsey 的研究也指出，約三分之二的 IT 領導者早在一年以前就已啟動第一個生成式 AI 專案。史丹佛大學數位經濟實驗室與人本人工智慧研究中心主任 Erik Brynjolfsson 教授更直言：「現在正是你開始從 AI 中獲益的時候，並祈禱你的競爭對手還在試水溫。」

以下是幾個企業已經成功導入生成式 AI 的實例：

EY 建立了一套生成式 AI 體驗，幫助客戶從非結構化資料中擷取有價值的洞察。例如協助銀行整理 ESG 承諾的報告內容，從大量文件中提取重點資訊，提升效率。
IBM 利用生成式 AI 協助企業將內部文件與大型語言模型（LLM）結合，使 AI 輸出結果具備更完整的商業脈絡，對使用者更具參考價值。
Stack Overflow 則將生成式 AI 應用在 OverflowAI 工具中，這項工具結合了公開平台上的資料與企業私有 Stack Overflow 實例中的內容，提供更客製化的知識搜尋體驗。