世界最資訊丨風從云端吹向終端：混合 AI 未來可期

最近一年，以 ChatGPT 為代表的生成式 AI 以迅雷不及掩耳之勢霸占了全球互聯(lián)網(wǎng)的熱度，伴隨著全民嘗鮮 AI 的熱潮，國內外大廠也紛紛下場投身 AI 大模型的研發(fā)與應用。一時之間，生成式 AI 風頭無兩。

生成式 AI 革新移動端使用場景

生成式 AI 讓我們窺見了近未來，并且已經(jīng)在大量行業(yè)場景得到了具體應用。在移動端，我們實際上已經(jīng)能夠見到很多與 AI 相關的應用。例如在用戶拍照時，設備可以自動識別物品，根據(jù)環(huán)境和場景自動優(yōu)化畫面內容，實現(xiàn)更好的成像效果 ;AI 能夠根據(jù)用戶的生活工作習慣規(guī)劃日程，與語音助手相結合能夠實現(xiàn)私人助理一般的交互體驗 ;AI 還能夠幫助智能判斷設備的狀態(tài)、學習用戶的使用習慣，在自動分配性能到需要高算力、高負載的應用時，自動優(yōu)化充電與電池調用，讓設備的使用更加智能。

生成式 AI 已然改變了我們對于傳統(tǒng)意義上 AI 應用場景的理解。就拿目前已經(jīng)相當成熟的問答式 AI 來說，在結合各家智能語音助手以及搜素引擎之后，用戶可以像與人對話一樣直接與設備進行交互。不僅可以進行常規(guī)的提問 " 今天天氣如何 "" 高通是一家什么公司 "，還能夠直接調用互聯(lián)網(wǎng)海量信息，對用戶的問題進行針對性的回答。

(資料圖片僅供參考)

伴隨著如自然語言處理、機器學習等技術的發(fā)展，生成式 AI 技術更加全面和智能化，在端側具備廣闊的應用前景，可以實現(xiàn)更加復雜和高級的內容生成和創(chuàng)作。

在圖像生成領域，通過學習已有的圖像數(shù)據(jù)，AI 可以生成出與原始數(shù)據(jù)相似的新圖像。例如我們拍攝了一張照片，將身邊雜亂的場景裁切之后，使用生成式 AI 能夠基于已有的照片 " 補完 " 更大照片內容，人物也能完美融入其中。此外，生成式 AI 技術還可以應用于圖像的超分辨率、去噪和圖像修復等場景。

都說移動端進行文字創(chuàng)作不如別的大屏終端方便。有了生成式 AI，我們可以在移動端生成與人類寫作相似的文本。自動寫作、機器翻譯，生成式 AI 能極大提升移動終端側的生產力。在音頻處理領域，AI 可以幫助用戶進行通話降噪、優(yōu)化通話質量和收音效果。無論是游戲語音還是音視頻通話都很有作用。而有了生成式 AI 的加持，用戶可以在移動端生成出逼真的語音、音樂和音效，可以廣泛應用于配音、通話、游戲等場景。

生成式 AI 技術還應用于游戲開發(fā)領域，將極大地幫助游戲開發(fā)者。依靠 AI 自動生成游戲場景、道具和角色等元素，免除了重新建模、渲染的繁復步驟。節(jié)省時間、提高效率，用戶也能早日體驗到精彩的游戲內容。

夯實基礎 第二代驍龍 8 打造移動端 AI 核心

移動場景下的 AI 大有作為。目前我們能見到的生成式 AI 往往都聚集在 PC 端，運行 AI 大模型需要相當高的算力，需要 CPU、GPU 等硬件進行支持。在人工智能三要素中，無論是數(shù)據(jù)還是算法，都離不開算力的支撐，這也是行業(yè)的共識。

高通在移動硬件領域有著夯實的技術基礎。第二代驍龍 8 也是驍龍 AI 發(fā)展歷程中的里程碑。這一平臺從設計之初就與 AI 緊密結合，采用了分布式的 AI 設計，其集成的高性能高通 AI 引擎涵蓋多個軟硬件組件，包括高通 Hexagon 處理器、Adreno GPU 和 Kryo CPU，可以通俗地認為它并非只有一個 AI 處理單元，而是將 AI 處理單元其分布在各個需要 AI 提供助力的單元中。從硬件層面來看，高通 AI 引擎實現(xiàn)了高達 4.35 倍的算力提升，和 60% 的能效提升，并且率先支持 INT4 AI 精度格式 ; 而高通傳感器中樞則帶來了先進的 AI 處理能力，性能提升了 2 倍，同時內存提升了 50%。

高通為 Hexagon 處理器加入專用的供電系統(tǒng)，進一步提升芯片處理的能效比 ; 改進內存讀寫，降低能耗 ; 通過微切片的推理方式，將單個神經(jīng)網(wǎng)絡拆分成幾萬個微切片，然后將其分配到張量、標量、向量加速器上，從而提高整個神經(jīng)網(wǎng)絡的推理速度。

在第二代驍龍 8 身上，我們能夠看到 AI 全面參與芯片運行，幫助優(yōu)化用戶在使用設備的每一個場景、每一個細節(jié)。而對 AI 的應用遠不止于此，驍龍 X70 5G 調制解調器及射頻系統(tǒng)是全球首個和唯一一個配備 5G AI 處理器的調制解調器及射頻系統(tǒng)，利用其強大的 AI 功能支持在終端上實現(xiàn)突破性的連接速度。并配合高通 FastConnect 7800，第二代驍龍 8 將開啟 Wi-Fi 7 時代，高頻多連接并發(fā)技術能實現(xiàn) Wi-Fi 7 峰值速度高達 5.8Gbps，和低于 2 毫秒的時延。同時也帶來先進的雙藍牙技術，實現(xiàn)配對連接速度翻倍。在影像層面，AI 幫助第二代驍龍 8 實現(xiàn)了首個認知 ISP，實時運行 " 語義分割 "AI 照片編輯技術。運用經(jīng)過訓練的神經(jīng)網(wǎng)絡識別多種不同物體，并整個過程都能在強大的 ISP 里完成。具備實時分層像素處理和實時語義分割濾鏡的認知 ISP 和高通 AI 引擎勢必開啟下一代專業(yè)品質影像體驗。正如高通技術公司產品管理副總裁 Judd Heape 所言，" 實時語義分割技術具有開創(chuàng)性意義，這意味著攝像頭能夠真正實現(xiàn)對捕捉畫面的情景感知。"高通通過提升 AI 引擎并升級 Snapdragon Smart 特性賦能第二代驍龍 8，讓這些設備能夠提供用戶在當前所能切身體驗到的可能是最優(yōu)秀的 AI 場景應用。隨著今年 10 月的臨近，第三代驍龍 8 也即將與廣大消費者見面。相信在新一代的旗艦平臺上，高通會進一步提升 AI 算力，并針對 AI 進行持續(xù)優(yōu)化，進一步提升用戶在移動端的 AI 體驗。

全棧 AI 優(yōu)化引領終端側 AI 解決方案

今日，高通發(fā)布白皮書《混合 AI 是 AI 的未來》，為我們描繪了混合 AI 發(fā)展前景，高通是如何闡釋混合 AI 的？在高通的引領下，混合 AI 將走向何方？

高通認為混合 AI 是 AI 未來必經(jīng)之路。所謂混合式 AI 也就是傳統(tǒng)基于云端的 AI 與端側 AI 的結合，云端和終端共同處理 AI 計算，借助端側的即時感知、即時處理優(yōu)勢填補云端 AI 在延遲方面的短板，同時，云端的超高算力也能對端側 AI 性能不足的情況進行強有力的補充。

從高通的規(guī)劃來看，未來 AI 將在云端、邊緣云和終端側協(xié)同運行，構建混合 AI 架構。正如第二代驍龍 8 中 AI 對于 5G 的加成，5G 同樣是連接云端算力和終端應用的關鍵橋梁，也正是 5G 使整個混合 AI 系統(tǒng)中的計算和處理能力得以以最有效的方式分布，實現(xiàn)更強大、更便利、更高效、更優(yōu)化的 AI。

高通所推崇的混合 AI 解決方案是一個全棧優(yōu)化的整體解決方案。高通為應用、神經(jīng)網(wǎng)絡模型、算法、軟件和硬件進行了全棧 AI 研究和優(yōu)化。異構計算方法利用硬件 ( 比如 CPU、GPU 和 AI 加速器 ) 和軟件 ( 比如高通 AI 軟件棧 ) 來加速終端側 AI。從算法和模型開發(fā)到軟件和模型效率、從量化編譯到硬件加速，高通的全棧式 AI 優(yōu)化如同齒輪般精密嚙合，形成了如今我們看到的樣子。

隨著強大的生成式 AI 模型不斷縮小以及終端側處理能力的持續(xù)提升，混合 AI 的潛力將會進一步增長。驍龍移動平臺能夠支持超過 10 億參數(shù)的生成式 AI 模型，而在不久的將來，高通將很快在移動端實現(xiàn)部署 100 億參數(shù)的大語言模型，這在此前的移動端是難以想象的。

混合 AI 策略適用于幾乎所有生成式 AI 應用和終端領域，包括手機、筆記本電腦、XR 頭顯、汽車和物聯(lián)網(wǎng)。這一策略對推動生成式 AI 規(guī)模化擴展，滿足全球企業(yè)與消費者需求至關重要。

高通還以全球首個在安卓智能手機上運行的 Stable Diffusion 用例展示了混合 AI 在未來的應用。這是一種基于擴散過程的隨機演化模型，可以被用于生成真實感的人臉、頭發(fā)、服裝、環(huán)境場景等。在高通的演示中，處于飛行模式下的手機通過全棧 AI 優(yōu)化，Stable Diffusion 實現(xiàn)了完全的終端側運行，能夠在 15 秒內完成 20 步推理，生成飽含細節(jié)的圖像。值得一提的是通過端側 AI 計算，不僅節(jié)省了功耗，由于是端側運算，用戶隱私保證留在端側而非云端，因此也能降低信息泄露的風險。

高通在 AI 方面的研究應用起步非常早，甚至遠早于我們較為熟悉的驍龍 855 上的 "AI 加速器 "。早在 2007 年高通就在驍龍平臺上推出了首個 Hexagon 處理器，2015 年的驍龍 820 處理器則集成了首個專門面向移動平臺的高通 AI 引擎，支持圖像、音頻和傳感器的運算。深厚的技術積累、持續(xù)的創(chuàng)新優(yōu)化是高通對于混合 AI 未來大膽預測的基礎。

更便利的軟件棧讓開發(fā)者受益

除了為用戶提供更加智能便攜的 AI 使用場景，在推動 AI 用例的落地過程中，開發(fā)者是不可忽視的一環(huán)。在強大的 AI 算力都需要開發(fā)者將之很好地利用，形成用戶真正可以實際使用應用或服務。

目前，高通為應用、神經(jīng)網(wǎng)絡模型、算法、軟件和硬件進行全棧 AI 研究和優(yōu)化。高通 AI 軟件棧旨在幫助開發(fā)者實現(xiàn)一次開發(fā)，即可跨高通所有硬件運行 AI 負載。高通 AI 軟件棧全面支持主流 AI 框架，同時它還集成了推理軟件開發(fā)包 ( SDK ) ，包括面向 Android、Linux 和 Windows 的不同版本。高通開發(fā)者庫和服務支持最新編程語言、虛擬平臺和編譯器。在更底層，高通的系統(tǒng)軟件集成了基礎的實時操作系統(tǒng) ( RTOS ) 、系統(tǒng)接口和驅動程序。我們還支持廣泛的操作系統(tǒng) ( 包括 Android、Windows、Linux 和 QNX ) ，以及用于部署和監(jiān)控的基礎設施。高通 AI 軟件棧還集成了 Qualcomm AI Studio，支持從模型設計到優(yōu)化、部署和分析的完整工作流。這一工具相當于為開發(fā)者搭建了一個官方的 " 工具箱 "，在這個工具箱界面內，開發(fā)者可以自由選擇需要的工具，極大地降低開發(fā)難度，有助于縮短開發(fā)時間、提高開發(fā)效率，同時還支持開者實時查看模型開發(fā)進度。

在推進混合 AI 發(fā)展的路上，高通具備其他方案提供商所不具備的規(guī)模優(yōu)勢。驍龍平臺作為提升頂級 Android 體驗的領先移動平臺，目前已出貨 20 多億個具備 AI 能力的處理器。驍龍平臺在移動平臺 AI 基準測試中也處于領先地位，在行業(yè)知名的 AI Benchmark 中占據(jù)前 20 位。2023 年第二季度，市場調研公司 TechInsights 預測，高通技術公司將以超過 40% 的市場份額保持 AI 智能手機處理器出貨量的領導地位，遠遠超過蘋果 ( 25% ) 和聯(lián)發(fā)科 ( 24% ) 等其他公司。

寫在最后

生成式 AI 蔚然成風，而這股風很快就將席卷端側。高通高瞻遠矚地進行了全棧式的 AI 布局，利用技術研發(fā)優(yōu)勢與終端規(guī)模優(yōu)勢提出了混合 AI 的設想，并且正在穩(wěn)步推動混合 AI 的快速發(fā)展。

試想在不久的將來，我們能夠在手機、PC、汽車等多類型終端上感受到混合 AI 帶來的便利。這些設備能夠真正成為用戶輕松可用的人工智能工具，能夠處理更多具有專業(yè)性、針對性、重復性特征的任務，讓普通消費者也能隨時隨地享受 AI 帶來的對于生活生產方式的革新，而不是我們現(xiàn)在吐槽的 " 人工智障 "。云端運算與端側互補互助、相輔相成，在高通全棧 AI 優(yōu)化的加持下，從硬件到軟件，從架構到算法，從底層設計到開發(fā)者、再到高通眾多合作伙伴，整條 AI 產業(yè)鏈上下一新，生成式 AI 將迎來規(guī)模化擴展，為無數(shù)人的生活帶來積極影響。

相信在高通的引領下，混合 AI 未來可期。