（示意圖/取自pixabay）

2024即將結束，今年依然是AI發展突飛猛進的一年，市場前景也變得更加清晰。

最近，風投公司Menlo Ventures的三位合夥人和投資者發布了一報告，調查了600名美國企業IT決策者，全面揭示了AI產業的現狀。

報告連結：https://menlovc.com/2024-the-state-of-generative-ai-in-the-enterprise/

2023年報告：https://menlovc.com/2023-the-state-of-generative-ai-in-the-enterprise-report/

總體來說，2024年的人工智慧投資激增至138億美元，是2023年23億美元的六倍多，表明企業正在從實驗階段轉向執行階段，切實地將人工智慧嵌入到核心商業戰略中。

支出的激增也反映了組織的樂觀情緒：72%的決策者預計在不久的將來會更廣泛地採用生成式人工智慧工具，而且這些工具已經走入了軟體工程師、醫療保健等專業人員的日常工作中。

儘管前景樂觀且投資不斷增加，但許多決策者仍不清楚到底什麼是對自己企業有利的，超過三分之一的受訪者對於如何在其組織中實施生成式人工智慧沒有明確的願景。

我們仍處於大規模轉型的早期階段，企業領導者才剛剛開始認識到生成型人工智慧將對其組織產生的深遠影響。

應用層正在升溫

2024年，大部分AI大事件都發生在「應用程式」層，利用LLMs跨領域的能力來提升效率，投資者在全年面向應用層投入46億美元，比去年的6億美元成長了近8倍。

在公司側，企業家的目標也更高了，公司不僅增加了支出，想法也變多了，平均每個企業都確定了10個潛在用例，其中近四分之一（24%）被優先考慮在近期實施；只有少數用例在生產中，而其中三分之一仍處於原型設計和評估階段（33%）。

最有價值的用例

雖然AI應用仍然是一片實驗場，但部分應用場景下，已經證實了其能夠提高生產力和營運效率。

Code Copilots

以51%的採用率遙遙領先，也使得開發人員成為了AI領域最早的資深用戶。

GitHub Copilot的收入迅速攀升至3億美元，Codeium和Cursor等新興工具也在快速成長。

除了通用編碼助理之外，企業還會購買特定任務的編程助理應用，例如Harness的AI DevOps Engineer、可用於管道生成和測試自動化的QA助理，以及類似All Hands這樣能夠執行更多端到端操作的AI智慧體軟體開發。

Support chatbots

企業採用率為31%，可以為內部員工和外部客戶提供可靠、24/7、基於知識的支持，產品包括Aisera、Decagon和Sierra，能夠直接與終端客戶互動；Observe AI在通話期間為聯絡中心座席提供即時指導。

企業搜索/檢索+數據提取/轉換

採用率分別為28%和27%，企業需要利用上數據孤島中的寶貴知識。

Glean和Sana等解決方案可連接到電子郵件、即時通訊工具和文檔存儲，從而實現跨不同系統的統一語義搜尋，並提供基於AI的知識管理能力。

會議總結

在使用案例中排名第五，採用率為24%，通過自動化生成筆記和要點來節省時間並提高生產力。

產品包括Fireflies.ai、Otter.ai和Sana等，能夠捕獲並總結線上會議；Fathom從影片中提取關鍵點；Eleos Health將這一創新應用於醫療保健，自動化記錄時間並直接與EHR集成，以便醫療保健提供者可以專注於患者護理。

智慧體

當前的實踐模式表明，與完全自動化相比，用戶更傾向於輔助增強人工流程，但產業目前正在向更加自主、完全自動化的解決方案進行過渡。

現有工具包括金融後台工作流程Forge、Sema4，以及上市工具Clay，展現了「完全自主的生成式人工智慧系統」能夠改變傳統上以人類為主導的部門，有望走向未來「服務即軟體」（Services-as-Software）的時代。

自研還是買？

兩種方案的公司比例幾乎持平：47%的公司選擇內部開發，53%選擇供應商。

與2023年相比，變化相當明顯，當時80%的企業仍然依賴第三方生成式人工智慧軟體，表明現在的企業越來越有信心和能力建立自己的內部AI工具。

AI是一場長期遊戲

只有1%的買家將低價作為主要關注點，現在企業更關注那些能夠提供可衡量價值（30%）並具有獨特研發背景（26%）的AI工具。

不過，雖然價格不是主要考慮因素，但還是有不少買家（26%）低估了AI的使用成本，導致AI戰略失敗；數據隱私障礙 (21%) 和過低投資回報 (ROI) (18%) 是次要原因；在技術方面，主要影響因素是模型幻覺（15%）。

在規劃和選擇階段主動解決這些潛在陷阱，可以增加成功的可能性。

老牌公司不香了

雖然64%的客戶仍然更喜歡從老牌供應商那裡購買產品，理由是「信任」和「開箱即用」的功能，但趨勢已經開始發生變化。

18%的決策者對現有產品表示失望；40% 的受訪者質疑大公司當前的解決方案無法真正滿足需求，表明創新型新創公司有很大的機會介入，並提供更貼合用戶需求的服務。

AI生態破圈

除了更大的規模外，生成式AI已經開始破圈，企業內各個部門都開始增加了AI工具的預算。

不過技術部門仍然佔據了最大的支出佔率，其中 IT (22%)、產品+工程 (19%) 和數據科學 (8%) ，合計佔所有投資的近一半。

剩餘預算主要分配給面向客戶的職能部門，如支持 (9%)、銷售 (8%) 和行銷 (7%)、包括人力資源和財務在內的後台團隊（各 7%），以及較小的部門，如設計 ( 6%）和法律（3%）。

垂直AI應用興起

第一個生成式人工智慧應用是用於文本和圖像生成的橫向解決方案，但到了2024年，越來越多的垂直領域得到擴展。

醫療保健

以5億美元的企業支出引領生成式AI應用：Abridge、Ambience、Heidi和Eleos Health等環境抄寫器（aimbient scribes）已經成了醫生辦公室的主要產品；自動化解決方案也在整個臨床生命週期中不斷湧現，從分類和攝入（Notable ）到編碼（SmarterDx、Codametrix），再到收入週期管理（Adonis、Rivet）。

法律

歷來最抵制技術的法律產業，其企業人工智慧支出也達到3.5億美元，主要用生成式AI來管理大量非結構化數據並自動化複雜的、基於模式的工作流程，大致可以分為訴訟法和交易法。

Everlaw植根於訴訟，專注於法律保留、電子證據開示和審判準備；Harvey和Spellbook則通過合約審查、法律研究和併購解決方案推進交易法。

具體的實踐領域也有針對性的人工智慧創新：EvenUp專注於傷害法，Garden專注於專利和知識產權，Manifest專注於移民和就業法，Eve則重新發明（re-invent）從客戶接收到解決的原告案件工作。

金融服務

憑藉其複雜的數據、嚴格的法規和關鍵的工作流程，金融服務的支出也達到了1億美元。

Numeric和Klarity等新創公司正在徹底改變會計產業；Arkifi和Rogo通過先進的數據提取加速金融研究；Arch正在使用人工智慧來擾亂RIA和投資基金的後台流程；Orby和Sema4是從對帳和報告開始的，提供更廣泛的橫向解決方案；Greenlite和Norm AI提供即時合規性監控，以跟上不斷變化的法規。

媒體和娛樂

從好萊塢的大螢幕到智慧型手機，生成式 AI 正在重塑媒體和娛樂，支出達1億美元。

Runway已經是工作室級別的工具；Captions和Descript為獨立創作者提供了支援；Black Forest Labs、Higgsfield、Ideogram、Midjourney和Pika等平台讓普通人也能擁有專業的圖像和影片創作能力。

基礎設施和現代人工智慧堆疊

經過一年的快速發展，AI技術堆疊也逐漸趨於穩定。

基礎模型仍然佔主導地位，LLM層需要65億美元的企業投資。

通過反覆試驗，企業越來越瞭解數據腳手架（data scaffold）和複合架構方面的重要性，更重視在生產中可靠地執行，而不僅僅是一次性演示。

LLM趨勢：多模型策略盛行

企業不再依賴單一提供商，而是採用務實的多模型方法。

研究表明，組織通常在其人工智慧堆疊中部署三個或更多基礎模型，然後根據用例或結果路由到不同模型。

目前81%的市場方案為閉源模型，而開源替代方案（以Meta的Llama 3為首）穩定在19%，比2023年僅下降了1個百分點。

在閉源模型中， OpenAI的先發優勢有所削弱，企業市場佔有率從50%下降至34%，一些企業在選擇模型時從GPT-4轉向Claude 3.5 Sonnet，主要受益者Anthropic的企業佔有率從12%翻了一倍至24%

當選擇新模型時，企業的主要考慮因素包括安全 (46%)、價格 (44%)、性能 (42%) 和擴展功能 (41%) 。

設計模式：RAG，而非微調

企業人工智慧設計模式，用於建構高效、可擴展人工智慧系統的標準化架構，正在迅速發展。

RAG（檢索增強生成）目前以51%的採用率佔據主導地位，比去年的31%大幅上升；而之前常用的微調，尤其是在領先的應用程式提供商中，已經非常少見了，大約只有9%的生產模型進行了微調。

智慧體架構也開始發力，在12%的實踐場景中提供技術支援。

矢量數據庫、ETL和數據管道：RAG的基礎

為了支持 RAG，企業必須有效地儲存和訪問相關查詢知識。

雖然Postgres (15%) 和MongoDB (14%) 等傳統數據庫仍然很常見，但人工智慧原生矢量數據庫也開始普及，Pinecone已佔據18%的市場佔有率。

傳統ETL平台（如Azure 文檔智慧）仍佔部署的28%，但Unstructe等專用工具（處理PDF和HTML等文檔中非結構化數據）也佔據了16%的市場佔有率。

預測

智慧體將推動下一波AI架構轉型

智慧體自動化（agentic automation）可以處理複雜的多步驟任務，而這些任務無法被當前專注於「內容生成」和「知識檢索」的系統所解決。

Clay和Forge等平台的成功，證明了先進的智慧體可以擾亂4000億美元的軟體市場，並蠶食10兆美元的美國服務經濟。

但這種轉變需要新的基礎設施：智慧體身份驗證、工具集成平台、人工智慧瀏覽器框架以及人工智慧生成程式碼的專用運行時。

更多「上位者」倒台

ChatGPT今年戰績斐然：Chegg 的市值蒸發了85%，Stack Overflow的網路流量減半。

其他類別的顛覆時機也已經成熟，像Cognizan這樣IT外包公司和UiPath等傳統自動化公司也應該對AI顛覆做好準備。

隨著時間的推移，即使是Salesforce和Autodesk這樣的軟體巨頭也將面臨人工智慧原生的挑戰者。

沒有緩解的跡象：AI人才短缺加劇

隨著人工智慧系統的激增，且變得越來越複雜，產業目前還處於大規模人才短缺的邊緣，科技行業將面臨嚴重的稀缺。

不僅僅是數據科學家的短缺，能夠將先進的人工智慧能力與特定領域的專業知識連結起來的專家也嚴重不足。

人才庫已經低得危險。

本文為AI新智界授權刊登，原文標題為「2024年AI投資138億美元暴增6倍！OpenAI市場份額下降16%，Anthropic谷歌雙贏」