一、人工智能基礎層概念界定

人工智能基礎層定義

支撐各類人工智能應用開發與運行的資源和平臺

算力、算法、數據是人工智能產業發展的三大要素。據此，人工智能基礎層主要包括智能計算集群、智能模型敏捷開發工具、數據基礎服務與治理平臺三個模塊。智能計算集群提供支撐AI模型開發、訓練或推理的算力資源，包括系統級AI芯片和異構智能計算服務器，以及下游的人工智能計算中心等；智能模型敏捷開發工具模塊主要實現AI應用模型的生產，包括開源算法框架，提供語音、圖像等AI技術能力調用的AI開放平臺和AI應用模型效率化生產平臺；數據基礎服務與治理平臺模塊則實現AI應用所需的數據資源生產與治理，提供AI基礎數據服務及面向AI的數據治理平臺。AI基礎層企業通過提供AI算力、開發工具或數據資源助力人工智能應用在各行業領域、各應用場景落地，支撐人工智能產業健康穩定發展。

人工智能基礎層價值

AI基礎層是支撐AI應用模型開發及落地的必要資源

開發一項人工智能模型并上線應用大致需經歷從業務理解、數據采標及處理、模型訓練與測試到運維監控等一系列流程。過程中需要大量的AI算力、高質量數據源、AI應用算法研發及AI技術人員的支持，但大部分中小企業用戶并不具備在“算力、數據、算法”三維度從0到1部署的能力，而財力雄厚的大型企業亦需高性價比的AI開發部署方案。依靠AI基礎層資源，需求企業可降低資源浪費情況、規避試錯成本、提高部署應用速度。作為支撐AI模型開發及落地的必要資源，AI基礎層可在多環節提效AI技術價值的釋放；其工具屬性也標志著AI產業社會化分工的出現，AI產業正逐步進入低技術門檻、低部署成本、各產業深度參與雙向共建的效率化生產階段。

人工智能基礎層進階之路

粗放式單點工具向集約型、精細化資源演進

智能化轉型趨勢下，企業部署AI項目的需求正經歷著變化，對數據質量、模型生產周期、模型自學習水平、模型可解釋性、云邊端多樣部署方式、人力成本及資金投入、投資回報率等的要求都逐步走高。在上述需求特點及自動機器學習、AI芯片硬件架構等技術發展的共同推動下，AI基礎層資源的整體效能水平也在不斷進化，以有效降低需求企業的AI開發成本。大致涵蓋相互交融的三個階段：雛形期，算法/算力/數據各模塊多為粗放式的單點工具，新興產品及賽道逐步出現；快速發展期，各賽道活躍度顯著提升，參與者積極探索產品形態與商業模式，基礎層服務體系逐步完善、資源價值凸顯；最后則向成熟階段過渡，各賽道內企業競爭加劇，逐步跑出頭部企業。同時各賽道間企業生態合作增多，一站式工具平臺出現。

二、人工智能基礎層需求篇

基礎層初步成型是AI產業鏈成熟的標志

基礎層資源促進AI產業鏈各環節價值傳導順暢、分工明確

現階段，已初步成型的AI基礎層資源可有效緩解下游行業用戶逐漸增長的、從感知到認知多類型的AI應用模型開發及部署需求。細看基礎層內部，一方面，數據資源、算力資源和算法開發資源三者之間的分工更為明確和有序。數據基礎服務及治理平臺企業為AI產業鏈供應數據生產資料；智能計算集群產出高質效的生產力；智能模型敏捷開發工具則負責模型開發及模型訓練等，輸出AI技術服務能力，提高AI應用模型在各行業的滲透速率與價值空間。另一方面，基礎層廠商的數量保持增長、廠商業務范圍持續擴大，可提供專業定制化或一站式的基礎資源服務。由此，基礎層完成AI工業化生產準備，通過直接供應和間接供應的形式，將基礎層資源傳送到下游的AI應用需求端，產業鏈向順暢的資源輸送及價值傳導方向演進。

AI基礎層解決人工智能生產力稀缺問題

基礎層資源緩解甲方在對待人工智能投資上的“矛盾”

根據艾瑞2020年執行的CTO調研，2019年超過51%的樣本企業AI相關研發費用占總研發費用比重在10%以上，2020年65.9%的企業AI研發占比達到10%以上。一方面是甲方企業不斷增長的對智能化轉型的強勁需求，一方面則是在AI應用開發與部署過程中企業普遍面臨的數據質量(49%)、技術人才(51%)等基礎資源配置難點。且目前只有少數企業可以完成AI項目實施前設定的全部投資回報率（ROI）標準，因此甲方企業在投資AI項目時相對審慎。AI基礎層資源則可有效緩解甲方利用AI技術重塑自身業務時的投資矛盾，提升模型生產效率，降低部署成本：數據資源集群具備數據采標與數據治理能力，且一站式的數據平臺可對實時數據進行統一管理，提高數據利用率；高效的AI算力集群與調度系統可滿足模型訓練與推理需求，降低總擁有成本（TCO，TotalCost of Ownership）；基于算法開發平臺演化出的語音識別、計算機視覺、機器學習等專業的AI模型生產平臺，可提供高效、一站式的AI模型生產服務。

三、人工智能基礎層供給篇

人工智能基礎層產業圖譜

人工智能基礎層市場規模

AI企業業務突破、智能化轉型趨勢等多因素驅動產業規模增長

AI企業突破業務增長瓶頸的需求是人工智能基礎層發展的驅動力之一。當前人工智能核心產業規模保持線性增長態勢，且增速趨于平穩與常態化。為尋求產值增長突破點，AI企業發力探索開拓市場的有效手段。依托人工智能基礎層資源建設，AI企業可有效應對下游客戶的長尾應用需求，再將高頻應用轉化為新主營業務。此外“新基建”、半導體自主可控等相關政策扶持、傳統行業智能化轉型等因素也都在助推人工智能基礎層資源的發展。據艾瑞測算，2021-2025年，人工智能基礎層市場規模CAGR為38%，整體產業規模發展速度較快、空間較為廣闊，總體呈現持續增長的走勢。2020年，中國人工智能基礎層市場規模為497億元，為人工智能產業總規模的33%，市場規模相較去年同比增長76%，AI應用模型效率化生產平臺創收增長、AI芯片市場規模隨著云端訓練需求出現較高增長等是同比增速的主要拉動力；2021-2024年同比增速趨于平緩下降，市場開始恢復穩步增長態勢。到2025年，中國人工智能基礎層市場規模將達到2475億元，云端推理與端側推理芯片市場持續走高使得人工智能基礎層整體市場同比增速稍有抬升。

算力：超算/數據中心的存量與增量判斷

從算力需求與節能減排規定看存量替換與增量增長

現有的超算/數據中心以建設單位為標準，可分為兩類：1）以國家或地方為建設單位的G端超算中心，服務對象主要為國家牽頭的重點科研單位、高校研究院等，此類超算中心是解決國家安全、科學進步、經濟發展與國防建設等重大挑戰性問題的重要手段，近兩年受國家與地方的高度重視與扶持，建設與升級超算中心的趨勢愈加明朗。但由于數據網絡安全與計算精度要求高，建設周期較長，此類超算中心的數量在中短期內增長緩慢，長期來看則會成為替換存量與增量增長的貢獻主力之一。2）以智能云廠商或IDC服務商為建設供應主體的B端超算/數據中心，為互聯網公司、其他類型的企業或事業單位提供主機托管、資源出租、增值或應用服務，是存量與增量市場變化主要推力。

從市場變化趨勢來看：1）存量市場：日漸增加的AI計算負載需要處理力更強、能耗承受度更大的數據中心，同時，一系列有關控制數據中心PUE值的節能審查規定相繼出臺，一味盲目擴建、新建數據中心已難合時宜，促進老舊數據中心綠色化改造的減量替代方案因此誕生。微型、中小型數據中心會逐漸被改造為集約型的大型數據中心，符合節能減排相關標準、機柜數量與異構組合增多的集約型超算/數據中心將在存量市場中占據主流。2）增量市場：考慮到邊緣計算可分擔AI計算任務、兼具低延時優勢，管理邊緣計算中心則需要布局相應的大型云端數據中心，故增量市場會被異構的邊緣計算數據中心與云端超算或大型數據中心擴充。

算力：云化AI算力

開放共享虛擬AI算力資源，實現AI模型海量訓練與推理

AI是一種高資源消耗、強計算的技術，AI算力的強弱直接關聯到AI模型訓練的精度與實時推理的結果。若企業獨立部署AI算力，不僅需要建設或租用機房這類重資產與網絡寬帶資源，還需要購置物理機、內存、硬盤等硬件設備，而且購置設備存在采購周期不確定、硬件資源過度鋪張、專業管理團隊缺乏等問題。所以，獨立部署AI算力資源是一項耗時耗力的工作。將AI算力云化是一種高效能、低成本的有力解決方案。具備先天性業務優勢的云服務商搭建數據中心，先將AI服務器算力資源虛擬化，開放給AI模型開發者，做到按需分配，如給短視頻業務的開發者優先配備CPU+GPU方案，而后對算力資源的調度工作進行統一管理。由此，“物美價廉”的算力有序注入各行各業的AI模型中，減輕了井噴式數據爆發所帶來的模型訓練負擔，并能及時根據用戶使用情況彈性擴充或縮減虛擬算力資源空間，達到方便、靈活、降本增效的效果。

算力：端-邊-云的算力協同

端-邊-云實現AI算力泛在，加速AI模型訓練與推理

在人工智能與5G等技術的沖擊下，設備端產生大量實時數據，若直接上傳到云端處理，會對云端的帶寬、算力、存儲空間等造成巨大壓力，同時也存在延時長、數據傳輸安全性等問題。因此，為緩解云端的工作負載，云計算在云與端之間新增了若干個邊緣計算節點，從而衍生出端-邊-云的資源、數據與算力協同。在算力協同的業務模式下，靠近云端的云計算中心承擔更多的模型訓練任務，貼近端側的各設備主要進行模型推理，而二者之間的邊緣側則負責通用模型的轉移學習，幫助云端分散通用模型訓練任務、處理實時計算的同時，也解決了終端算力不足、計算功耗大的難題。未來，邊緣計算的發展會催生出更適宜邊緣計算場景的算力集群異構設計，其異構化程度將會高于傳統的數據中心，異構設計的突破將會進一步提高端-邊-云的整體計算效能，進而加速AI模型的訓練與推理。

算力：AI芯片市場規模

當前以訓練需求為主，推理需求將成為未來市場主要增長動力

AI芯片是人工智能產業的關鍵硬件，也是AI加速服務器中用于AI訓練與推理的核心計算硬件，被廣泛應用于人工智能、云計算、數據中心、邊緣計算、移動終端等領域。當前，我國的AI芯片行業仍處于起步期，市場空間有待探索與開拓。據艾瑞統計與預測，2020年我國AI芯片市場規模為197億元，到2025年，我國AI芯片市場規模將達到1385億元，2021-2025年的相關CAGR=47%，市場整體增速較快。從AI芯片的計算功能來看，一開始，因AI應用模型首先要在云端經過訓練、調優與測試，計算的數據量與執行的任務量數以萬計，故云端訓練需求是AI芯片市場的主流需求。而在后期，訓練好的AI應用模型轉移到端側，結合實時數據進行推理運算、釋放AI功能，推理需求逐漸取代訓練需求，帶動推理芯片市場崛起。2025年，云端推理與端側推理成為市場規模增長的主要拉動力，提升了逐漸下滑的AI芯片市場規模同比增速。

算法：智能模型敏捷開發工具商業價值分析

API規模經濟+AI應用模型效率化生產平臺的杠桿增效

智能模型敏捷開發工具的出現與驅動AI業務的外因以及企業自身的內因緊密相關。從外因看，規模化多場景的業務不斷衍生出長尾需求，原有的應用需及時更新；從內因看，囿于開發企業有限的經營成本與AI技術人才，其資源主要投放到現階段的主營業務，現有人員難以推動業務的智能化改造。對此，可有效解決AI應用模型設計與開發過程中通用或特有問題的智能模型敏捷開發工具逐步成為備選方案。AI開放平臺與AI應用模型效率化生產平臺作為其中的代表性工具，不僅能減少由0到1的開發成本，而且可降低人工智能市場的參與門檻，提升開發效果。AI開放平臺屬于API資源的一種，其可幫助技術領先企業開放AI能力與先進資源，從而延伸價值鏈，形成規模經濟與長尾經濟，利用開發者的創新應用來反哺開放平臺。AI應用模型效率化生產平臺可提供較為前沿的技術、經濟合理的模型生產經驗以及為實現敏捷開發而打包的數據、算力與算法資源。具體而言，其采用自動機器學習技術，很大程度上降低了機器學習的編程工作量、節約了AI開發時間、減輕了對專業數據科學家與算法工程師的依賴，讓缺乏機器學習經驗的開發者用上AI，加快開發效率。

算法：智能模型敏捷開發工具增長模型

API與定制方案共拓產業廣度與深度，AI柔性生產貼近需求

在人工智能產業發展的過程中，智能模型敏捷開發工具可持續拓寬與深挖AI業務的廣度和深度。從廣度講，AI開放平臺形成平臺效應，調用平臺API的開發者聚集創新，針對不同業務場景的開發成果數量逐漸增多，提高了技術產品的利用率，打造出輕量化的輸出模式、降低單位開發成本，并且構建出動態更新的服務池；與此同時，一站式AI應用模型效率化生產平臺逐步填充因場景多元化而衍生出的長尾業務模型，豐富模型供應市場的種類與數量。從深度講，二者均從業務前端發掘潛在或外顯的市場需求，針對剛需應用與高價值環節延伸出多條增量建設與運行需求業務線，瞄準市場風口的同時，敏捷、經濟地消化個性化或碎片化需求，根據需求柔性匹配生產。

算法：AI技術開放平臺市場規模

產業受API經濟帶動，主要收入貢獻來源為計算機視覺類

隨著數據量與AI算力的提升，可落地的場景與算法的交互變得愈加頻繁，二者結合開發出的AI應用模型就需要更大量地通過API調用AI技術開放平臺的AI技術能力。據艾瑞統計與預測，2020年我國AI技術開放平臺市場規模為225億元，到2025年，相應規模可達到730億元，2021-2025年的相關CAGR=26%。受API經濟興起的影響，2020年市場規模同比增速走高較快，2021年下滑后恢復平穩態勢。按AI技術能力劃分，計算機視覺類與語音技術類收入占比達72.2%，是收入的主要貢獻來源。人臉識別、人體識別、OCR文字識別、圖像識別等構成了計算機視覺類業務的主要技術能力，且計算機視覺類的技術價格相較于其他技術而言更高，應用領域也更為廣泛。現階段的市場集中度相對分散，未來，能持續投入成本、研發出強勁算法的廠商有望占領更多的市場份額，市場集中度亦會因此提升。

算法：AI應用模型效率化生產平臺市場規模

集成式的模型開發工具包，產業恰逢伊始，前景有待開拓

AI應用模型效率化生產平臺是全棧式的、可實現流水線開發的AI應用模型生產工具。假若每次開發模型都需要算法工程師單獨完成從生產到上線的全流程搭建，就會導致很多時間的耗損與AI模型開發成本的浪費。集成了數據、算法與算力的相應開發工具的模型開發工具包——AI應用模型效率化生產平臺應運而生。據艾瑞統計與預測，2020年我國AI應用模型效率化生產平臺市場規模為23億元；到2025年，相應規模可達到204億元，2021-2025年的相關CAGR=49%。2020年，AI應用模型效率化生產平臺相關業務拓展相對較快、產品恰逢創收伊始階段，故同比增速增幅較快。與此同時，因參與技術門檻偏高，具備能力的廠商較少，市場尚未形成穩定狀態，市場集中度偏高。

數據：人工智能數據基礎服務定義

以AI訓練與調優為目的提供的數據采集、標注與質檢等服務

人工智能基礎數據服務是指為各業務場景中的AI算法訓練與調優而提供的數據庫設計、數據采集、數據清洗、數據標注與數據質檢服務。整個基礎數據服務流程圍繞著客戶需求而展開，最終產出產品以數據集與數據資源定制服務為主，為AI模型訓練提供可靠、可用的數據。數據采集、數據標注與數據質檢是較為重要的三個環節。數據采集是數據挖掘的基礎，提供多源的一手數據和二手數據；數據標注對數據進行歸類與標記，為待標注數據增加標簽，生產滿足機器學習訓練要求的機器可讀數據編碼。數據質檢為數據的客觀性和準確性設置檢驗標準，從而為AI算法的性能提供保障。AI基礎數據服務商可著重在以上三個環節建立壁壘，以鞏固行業地位。

數據：AI基礎數據服務市場規模

行業規模穩步向前，圖像、語音類內容繼續向新興場景開拓

高質量的數據是提高AI應用模型訓練速度與精度的必要準備之一，而行之有效的AI基礎數據服務又為提高數據質量奠定了堅實的基礎。因而，提供通用化、精細化、場景化的AI基礎數據服務才能滿足日漸增長的AI應用模型訓練需求。據艾瑞統計與預測，2020年我國AI基礎數據服務市場規模（含數據采集與標注）為37億元，到2025年，相應規模可達到107億元，2021-2025年的相關CAGR=25%，整體增速呈現穩步提升的趨勢。從市場細分收入結構來看，圖像類與語音類收入占總收入規模的88.8%，是業務的主要構成部分；圖像類與語音類收入基本持平，圖像類業務以智能駕駛與安防為主，而語音類業務以中英大語種、中國本土方言以及外國小語種為主。目前，行業中也相應地分成了以圖像類或語音類為主的供應商陣營，各類供應商將會繼續立足于主營業務，深挖現有應用場景的業務細分需求，從而帶動未來收入的增長。

數據：面向人工智能的數據治理定義

產生于業務，圍繞于AI，追溯于治理

在大數據時代背景下，金融、零售、公安、工業等不同行業的業務場景衍生出諸多應用，多元的AI模型開發需求因此產生。AI模型開發的原材料是數據，但在挖掘模型數據時，往往面臨模型與數據無法拉齊的問題，所以需要溯源到前置環節，從一開始就把數據治理的工作做好，面向AI的數據治理這一概念也就由此出現。面向AI的數據治理是指，以具體業務產生的AI模型開發與訓練為目的，使用各個數據組件與人工智能技術，對數據進行針對性與持續性的診治與管理。相比于傳統的數據治理，其更新了數據接入、數據匯聚、數據分析的功能，并新增了AI模型開發與應用組件，以應對海量實時數據迸發、模型需及時對接數據等情形。面向AI的數據治理的特點在于，其對接企業現有的數據、積累新的AI數據而非重新進行AI數據的數據庫建設，而且提供針對實時數據的處理辦法、優先解決業務落地的困難，并持續挖掘具體業務的數據資產價值。

數據：面向AI業務的數據積累與治理模型

錨準方向，雙輪驅動為智能化轉型速度與質量賦能

在大數據應用的驅動下，具有相當數據規模的企業的多條業務條線往往會產生大量的結構化與非結構化數據，愈加需要企業內部的數據及時融通，但企業不可能完全拋棄現有的數據庫系統、更換一套完全符合面向AI業務開發的數據治理系統；另一方面，智能化轉型浪潮推動著企業的AI應用開發需求增長，但數據開發缺少統一標準、數據與業務場景割裂，讓面向AI的數據治理的工作面臨兩難的局面。對此，艾瑞認為面向AI的數據治理并非完全舍棄已有的數據治理結構，而是在原有的基礎上，進行數據治理結構的改造，讓治理工作更多為AI開發服務，從而完成AI業務數據的積累。面向AI的數據治理工作完成后，才能驅動AI應用模型開發高效、高質運行，而模型開發反過來會為面向AI的數據治理工作提供指導。業務系統與數據系統像兩個錨準工作方向的齒輪，共同滾動。符合業務場景需求的AI應用模型、ML\KG\NLP等AI技術加速促進兩個齒輪的轉動，使企業的業務系統運轉效率向高質高效發展，為企業帶來更可觀的智能化轉型業務發展速度與業務服務質量。

數據：面向AI的數據治理市場規模

存在數據中臺帶來的業務沖擊，后期恢復穩步爬坡態勢

在數字化轉型與智能化轉型的大趨勢下，數據治理工作一般伴隨著數據中臺的搭建以及AI應用模型的開發而展開。數據治理屬于數據中臺的構成組件，數據治理的工作與服務則屬于數據中臺建設、運營與維護中不可缺少的環節。與此同時，以AI應用模型所需的數據標準去治理數據，結合AI技術提升數據的可用度與模型的訓練效率，才能夠更好更快地為人工智能業務前端服務，改善供應商的業務流程與消費者的消費體驗。據艾瑞統計與預測，2020年我國面向AI的數據治理市場規模為14億元，到2025年，相應規模可達到50億元，2021-2025年的相關CAGR=28%。2018年，數據中臺概念興起，其規模在2020年處于爆發點，而數據治理作為數據中臺的組件，也于同期迎來增長爆發點，從而帶動面向AI的數據治理。2020年后，數據中臺市場規模增速開始降溫，數據治理也隨之回落，面向AI的應用模型開發業務在該過程中的帶動作用有限，故2021年的業務同比增速出現拐點。后期，面向AI的應用模型開發業務的帶動效應逐步凸顯，規模增速呈現穩步爬坡態勢。

四、人工智能基礎層發展洞察

一站式基礎層資源平臺

泛在需求下AI模型生產模式的變遷與資源集成

在人工智能由技術落地應用階段向效率化生產階段轉變的背景下，艾瑞認為人工智能基礎層的各模塊工具有望走向集約型的生產模式。該模式主要能賦予開發企業以下價值：1）開發方式改進：從客戶需求分析到解決方案部署形成獨立的閉環，構建端到端的工作流。在強大算力的支持下，完成數據采集、數據標注、數據治理、數據應用、模型設計、參數調優、模型訓練、模型測試、模型推理的全棧式流水線生產。2）管理效率提升：將數據、算法與算力委托給專業的服務商，實現一站式托管，打通三者之間的銜接壁壘，提高交互友好性，讓開發者專注于業務。3）部署成本降低：集成數據、算法、算力的各個軟件與硬件，企業可在一個平臺內按需選擇自己所缺失的模塊組件并自由搭配，有效避免因采購不同供應商的產品或服務而帶來的隱性成本損失與顯性成本損失。

基礎層全棧自主可控展望

自主可控穩步向前，內外兼修

信創產業涉及到核心技術問題，受到國家的大力扶持。比如，2020年12月，財政部、發改委、工信部等部門就聯合發布了《關于促進集成電路產業和軟件產業高質量發展企業所得稅政策的公告》，文中明確指出：國家鼓勵的集成電路線寬小于130納米(含)，且經營期在10年以上的集成電路生產企業或項目，第一年至第二年免征企業所得稅，可見國家對國產芯片的重視。在信創產業穩步推廣的的趨勢下，人工智能基礎層的各模塊也在逐個突破“卡脖子”的關鍵點，朝著全棧國產化的方向邁進。算法模塊相對其他兩個模塊而言，因開源框架協助，算法開發相對容易，但依然面臨開源框架商用版限制的潛在風險，同時，使用開源框架難以友好對接到AI企業的業務邏輯，基于這兩點，部分企業已開始自研開源框架并取得一定成效；數據模塊的各類操作系統與應用軟件在較大程度上仍以國外企業為主導，而國產的操作系統與數據庫等軟件配套設施正在穩步崛起，已存在相應的產品與服務可供客戶選擇；算力模塊的智能服務器的國產化率逐步提升，AI芯片雖然仍以英偉達的GPU為主導，但國內部分企業開始自研AI芯片，產生了一批針對通用GPU、ASIC與FPGA的先行玩家。總的來說，基礎層全棧的自主可控建設還處在萌芽階段，未來將在“可用”的建設要求上打好根基，向“好用”的狀態演變，并且從以政府政策引導為主的局面向以企業產品自由競爭的局面轉變。