正文

生成式AI邊緣計算（ai邊緣計算盒）

發(fā)布時間：2023-03-12 19:45:16 稿源：創(chuàng)意嶺閱讀： 75 問大家

大家好！今天讓創(chuàng)意嶺的小編來大家介紹下關于生成式AI邊緣計算的問題，以下是小編對此問題的歸納整理，讓我們一起來看看吧。

ChatGPT國內(nèi)免費在線使用，一鍵生成原創(chuàng)文章、方案、文案、工作計劃、工作報告、論文、代碼、作文、做題和對話答疑等等

只需要輸入關鍵詞，就能返回你想要的內(nèi)容，越精準，寫出的就越詳細，有微信小程序端、在線網(wǎng)頁版、PC客戶端

官網(wǎng)：https://ai.de1919.com

本文目錄:

1、基于海思3559A方案+Atlas 200 AI模塊_邊緣計算平臺開發(fā)及接口定義
2、浪潮AI服務器適用于邊緣計算場景嗎？
3、網(wǎng)絡進步下的產(chǎn)物——邊緣云計算
4、Intel推出更多5G網(wǎng)路應用處理器強化AI、邊緣運算與巨量吞吐連接效能

生成式AI邊緣計算（ai邊緣計算盒）

一、基于海思3559A方案+Atlas 200 AI模塊_邊緣計算平臺開發(fā)及接口定義

海思Hi3559A+Atlas200（升騰310）。

可以在端側(cè)實現(xiàn)大路數(shù)人臉識別、車牌識別、圖像分類、視頻結(jié)構(gòu)化處理，可廣泛應用于智慧公安、智慧交通、智慧金融、智慧電力、智慧社區(qū)、智能機器人、智能無人機等多種應用場景。

硬件配置

——————————————————————————————————

- 海思Hi3559AV100 CPU，雙核ARM Cortex A73@1.8GHz+雙核ARM Cortex A53@1.2GHz+單核ARM Cortex A53@1.2GHz

- 雙核ARM Mali G71@900MHz，支持OpenCL 1.1/1.2/2.0，支持OpenGL ES 3.0/3.1/3.2

- DDR (4GB/8GB可選) ，eMMC（8GB/16GB/32GB/64GB/128GB可選）

- 雙核NNIE@840MHz 神經(jīng)網(wǎng)絡加速引擎

- 四核 DSP@700MHz，32K I-Cache /32K IRAM/512KB DRAM

NNIE

——————————————————————————————————

- 支持 Alexnet、VGG16、Googlenet、Resnet18、Resnet50等多種分類神經(jīng)網(wǎng)絡

- 支持 Faster R-CNN、YOLO、SSD、RFCN 、YoloV2 等多種目標檢測神經(jīng)網(wǎng)絡

- 支持SegNet、FCN 等場景分割網(wǎng)絡

- 4.0Tops 神經(jīng)網(wǎng)絡運算性能

- 支持完整的 API 和工具鏈（編譯器、仿真器），易于適配客戶定制網(wǎng)絡

特性描述

——————————————————————————————————

Hi3559AV100支持8K@30fps/4K120fps視頻錄制下，提供硬化的6-Dof 數(shù)字防抖。集成了雙核A73和雙核A53，獨創(chuàng)性的大小核架構(gòu)和雙操作系統(tǒng)，使得功耗和啟動時間達到均衡。

Hi3559AV100集成了海思獨有的SVP平臺，提供了高效且豐富的計算資源，支撐客戶開發(fā)各種計算機視覺應用，如無人機、機器人等行業(yè)類應用，為邊緣計算提供優(yōu)秀的硬件平臺。

Hi3559AV100方案的邊緣計算主板開發(fā)，目前主要應用分布在，視頻監(jiān)控、黑白名單識別、陌生人識別、零售分析、無感考勤等方向；

邊緣計算主板開發(fā)

——————————————————————————————————

- 同時支持8-16路視頻的實時人臉檢測跟蹤

- 支持至多30W人臉底庫

- 提供多種抓拍參數(shù)（包括人臉遮擋，人臉清晰度，人臉角度）供用戶設置

- 支持自定義人臉庫和抓拍比對記錄搜索

- 開放盒子后端HTTP接口協(xié)議供用戶管理視頻分析盒子

- 支持實時上傳（FTP，HTTP）抓拍人臉圖和場景圖

- 支持ONVIF和RTSP協(xié)議

- 視頻流接入

二、浪潮AI服務器適用于邊緣計算場景嗎？

在2019年蘇州舉辦的GPU技術大會上，浪潮推出了邊緣計算服務器NE5260M5和NF5280M5。這兩款浪潮AI服務器都是專門為邊緣計算場景設計的。其中，浪潮AI服務器NE5260M5體積僅為標準2U服務器的1/2,可支持壁掛。尺寸雖小,但擴展性極佳,最高可配置6塊Tesla T4 GPU,其性能足以滿足各類邊緣側(cè)AI應用的需求,目前已經(jīng)在中國移動研究院的邊緣計算試點類和測試類業(yè)務場景中實現(xiàn)大規(guī)模應用。而浪潮AI服務器NF5280M5采用浪潮獨有的空間分層技術,配置極其靈活,通過獨特的IO擴展模塊,最高可配置8塊Tesla T4 GPU,適用于網(wǎng)絡邊緣復雜的計算密集型AI工作負載。

三、網(wǎng)絡進步下的產(chǎn)物——邊緣云計算

隨著虛擬人等應用不斷發(fā)展成熟，對于計算的容量和實時性的要求不斷提高。在這種趨勢下，我們認為，邊緣云計算有望成為元宇宙的重要支撐。作為云計算的延伸，邊緣云計算被視為新一輪科技革命中必不可少的驅(qū)動因素。我們認為，元宇宙對網(wǎng)絡傳輸提出了更大帶寬、更低時延、更廣覆蓋的要求，需要借助邊緣計算技術，以保障所有用戶獲得同樣流暢的體驗。

1.全球數(shù)據(jù)增長迅速，集中式云計算已無法全面應對，邊緣剛需場景涌現(xiàn)，目前中國物聯(lián)網(wǎng)連接量將從2019年的55億個增長至2023年的148億個，年復合增長率達到28.1%。物聯(lián)網(wǎng)感知數(shù)據(jù)量激增，數(shù)據(jù)類型愈發(fā)復雜多樣，IDC預測到2025年中國每年產(chǎn)生的數(shù)據(jù)量將增長48.6ZB。

2.芯片：FPGA同時滿足邊緣側(cè)對性能、能耗及延遲的要求與集中式云計算不同，邊緣云計算所處的物理環(huán)境復雜多樣，很多時候空間、溫度、電源系統(tǒng)都不是最佳的狀態(tài)。但同時，邊緣側(cè)又要求極高的實時性和計算性能，傳統(tǒng)CPU架構(gòu)難以勝任邊緣云的需求。英特爾、賽靈思等國際芯片巨頭持續(xù)加碼FPGA芯片，并推出支持CPU+FPGA異構(gòu)計算的硬件平臺，底層芯片產(chǎn)業(yè)的繁榮將支撐邊緣云計算在各領域的應用，并不斷迸發(fā)出新的活力。

3.5G技術的升級加碼，Wi-Fi在室內(nèi)場景形成互補，工信部數(shù)據(jù)顯示，截至2020年中國已開通5G基站超71.8萬個，實現(xiàn)地級以上城市及重點縣市的覆蓋。預計邊緣云計算也會隨著5G行業(yè)應用的普及分階段落地。此外，Wi-Fi技術也在向著更高的吞吐量、更大的覆蓋面積和更低的時延發(fā)展，Wi-Fi在室內(nèi)場景中的優(yōu)勢使其成為5G的重要補充，兩者將共同助力邊緣云應用。

4.云計算：企業(yè)上云常態(tài)化，云原生下沉實現(xiàn)云邊端一體化，近年來云原生的熱度持續(xù)高漲，包括容器、微服務、DevOps等在內(nèi)的云原生技術和理念強調(diào)松耦合的架構(gòu)和簡單便捷的擴展能力，旨在通過統(tǒng)一標準實現(xiàn)不同基礎設施上一致的云計算體驗。相比于虛擬主機，云原生更適合邊緣云計算的場景，可以為云邊端提供一體化的應用分發(fā)與協(xié)同管理，解決邊緣側(cè)大規(guī)模應用交付、運維、管控的問題。

5.“新基建”加碼，工業(yè)互聯(lián)網(wǎng)等標桿應用引領產(chǎn)業(yè)融合，“新基建”是十四五規(guī)劃的重點方向，通過優(yōu)化算力資源結(jié)構(gòu)，將高頻調(diào)用、低時延業(yè)務需求分配至邊緣數(shù)據(jù)中心，推動5G承載網(wǎng)絡的邊緣組網(wǎng)建設，為將算力和網(wǎng)絡下沉到邊緣創(chuàng)造條件。同時，工業(yè)互聯(lián)網(wǎng)、車聯(lián)網(wǎng)、遠程醫(yī)療等產(chǎn)業(yè)政策明確提及邊緣計算，推動關鍵技術研究、標準體系建設及軟硬件產(chǎn)品研發(fā)，促進邊緣云在典型產(chǎn)業(yè)的融合應用。

應用場景

1.視頻加速及 AR/VR 渲染

基于移動邊緣計算的智能視頻加速可以改善移動內(nèi)容分發(fā)效率低下的情況：于無線接入網(wǎng)移動邊緣計算服務器部署無線分析應用（Radio Analyticsapplication），為視頻服務器提供無線下行接口的實時吞吐量指標，以助力視頻服務器做出更為科學的 TCP（傳輸控制協(xié)議）擁塞控制決策，并確保應用層編碼能與無線下行鏈路的預估容量相匹配。另外，由于 AR/VR 信息（用戶位置及攝像頭視角）是高度本地化的，對這些信息的實時處理最好是在本地（移動邊緣計算服務器）進行而不是在云端集中進行，以最大程度地減小 AR 延遲/時延、提高數(shù)據(jù)處理的精度。

2.車聯(lián)網(wǎng)（智能交通）

將移動邊緣計算技術應用于車聯(lián)網(wǎng)之后，可以把車聯(lián)網(wǎng)云下沉至高度分布式部署的移動通信基站。移動邊緣計算應用直接從車載應用（APP）及道路傳感器實時接收本地化的數(shù)據(jù)，然后進行分析，并將結(jié)論（危害報警信息）以極低延遲傳送給臨近區(qū)域內(nèi)的其他聯(lián)網(wǎng)車輛，整個過程可在毫秒級別時間內(nèi)完成，使駕駛員可以及時做出決策。

3.工業(yè)互聯(lián)網(wǎng)

邊緣計算一直與工業(yè)控制系統(tǒng)有密切的關系，具備工業(yè)互聯(lián)網(wǎng)接口的工業(yè)控制系統(tǒng)本質(zhì)上就是一種邊緣計算設備，解決工業(yè)控制高實時性要求與互聯(lián)網(wǎng)服務質(zhì)量的不確定性的矛盾。在基礎設施層，通過工業(yè)無線和有線網(wǎng)絡將現(xiàn)場設備以扁平互聯(lián)的方式聯(lián)接到工業(yè)數(shù)據(jù)平臺中；在數(shù)據(jù)平臺中，根據(jù)產(chǎn)線的工藝和工序模型，通過服務組合對現(xiàn)場設備進行動態(tài)管理和組合，并與 MES等系統(tǒng)對接。工業(yè) CPS系統(tǒng)能夠支撐生產(chǎn)計劃靈活適應產(chǎn)線資源的變化，舊的制造設備快速替換與新設備上線。

4.IoT（物聯(lián)網(wǎng)）網(wǎng)關服務

采取邊緣計算技術，邊緣計算匯聚節(jié)點將被部署于接近物聯(lián)網(wǎng)終端設備的位置，提供傳感數(shù)據(jù)分析及低延遲響應。其中邊緣計算服務器的計算能力和存儲能力可為以下5個方面提供服務：業(yè)務的匯聚及分發(fā)；設備消息的分析；基于上述分析結(jié)果的決策邏輯；數(shù)據(jù)庫登錄；對于終端設備的遠程控制和接入控制。

市場規(guī)模

預計2025年規(guī)模將超500億元，年復合增長率達43.3%，信通院2020年5月調(diào)研數(shù)據(jù)顯示，中國企業(yè)中僅有不足5%使用了邊緣計算，但計劃使用的比例高達44.2%。可以見得，雖然邊緣云計算尚處在發(fā)展的萌芽期，但未來成長空間非常廣闊。根據(jù)艾瑞咨詢測算，2020年中國邊緣云計算市場規(guī)模為91億元，其中區(qū)域、現(xiàn)場、IoT三類邊緣云市場規(guī)模分別達到37億元、38億元及16億元。預計到2025年整體邊緣云規(guī)模將以44.0%的年復合增長率增長至550億元，其中區(qū)域邊緣云將憑借互動直播、vCDN、車聯(lián)網(wǎng)等率先成熟的場景實現(xiàn)增速領跑。2030年，中國邊緣云計算市場規(guī)模預計達到接近2500億元，2025年至2030年的年復合增長率相比前五年有所下降，現(xiàn)場邊緣云中工業(yè)互聯(lián)網(wǎng)、智慧園區(qū)、智慧物流等場景將在這一期間快速走向成熟。

相關上市公司

中興通訊

中興通訊面向運營商提供全場景MEC解決方案，打破傳統(tǒng)封閉的電信網(wǎng)絡架構(gòu)，將移動接入網(wǎng)與互聯(lián)網(wǎng)深度融合，在網(wǎng)絡邊緣滿足客戶的個性化需求。中興通訊Common Edge邊緣計算解決方案包括MEP能力開放平臺、輕量化邊緣云及面向邊緣的全系列服務器和邊緣加速硬件，提供通用硬件、專用集成硬件等多種硬件選擇，深度融合OpenStack與Kubernetes，為上層MEC應用提供統(tǒng)一的邊緣云管理系統(tǒng)，方便運營商因地制宜部署MEC。

網(wǎng)宿科技

公司的邊緣計算平臺以云主機、容器、函數(shù)計算和網(wǎng)絡四大平臺作為技術底座，在邊緣計算節(jié)點上部署邊緣云主機、邊緣云容器、邊緣云函數(shù)、SD-WAN、邊緣云安全等基礎服務，以及內(nèi)外部的各類應用模塊，結(jié)合客戶的業(yè)務場景及需求，嘗試進行解決方案的整合和輸出。

初靈信息

公司在 5G、AI 技術高速發(fā)展的背景下，持續(xù)構(gòu)建以固移智能連接（5G+Fixed）+數(shù)據(jù)處理（DPI）+AI 為代表的三大邊緣計算核心能力。公司多年深耕企業(yè)（行業(yè)）智能連接網(wǎng)絡、垂直行業(yè)邊緣應用型 DPI（安全、物聯(lián)網(wǎng)類）、視頻及其他行業(yè)（企業(yè)）的智能應用等技術，初步構(gòu)成“云邊端”協(xié)同的邊緣計算生態(tài)。在市場端，公司除聚焦傳統(tǒng)運營商市場外，積極拓展政企行業(yè)和大中企業(yè)市場，中標多個項目。公司三季度顯示，公司與中國聯(lián)通就邊緣計算展開合作，開展了CUNOS在5G環(huán)境下的承載能力測試。

引用內(nèi)容

1. 研報《中國邊緣云計算行業(yè)展望報告》

2. 研報《邊緣計算：算力網(wǎng)絡重要環(huán)節(jié)，產(chǎn)業(yè)方興未艾》

風險提示

1.底層相關技術發(fā)展緩慢，邊緣計算需求不及預期。

2.5G 進度不達預期。

四、Intel推出更多5G網(wǎng)路應用處理器強化AI、邊緣運算與巨量吞吐連接效能

Intel雖然放棄行動裝置端的5G連網(wǎng)產(chǎn)品應用布局，但仍強調(diào)本身在整個5G連網(wǎng)時代應用布局理念不會改變，強調(diào)從云端到邊緣裝置之間的運算架構(gòu)都會看見Intel旗下產(chǎn)品，借此推動更廣泛邊緣運算與人工智慧推理學習應用。

針對接下來的5G網(wǎng)路應用發(fā)展，Intel宣布將以旗下系列處理器產(chǎn)品因應伺服器端運算需求，同時也針對5G網(wǎng)路基站、邊緣運算需求，以及5G網(wǎng)路連接調(diào)配部分也會提供合適解決方案。

雖然不再于5G網(wǎng)路行動裝置端競爭，但Intel對于5G網(wǎng)路應用布局策略依然沒有改變，其中包含針對邊緣運算、人工智慧應用，以及云端架構(gòu)布署都仍準備以旗下產(chǎn)品對應建置需求。

一如透過XeonScalable可擴展處理器對應各類伺服器端運算需求，并且透過Optane記憶體加速運算存取效率，另外也借由旗下FPGA架構(gòu)產(chǎn)品對應不同運算需求，同時也預計加入即將推出的Xe顯示架構(gòu)提升更高運算效能。

而在各個運算節(jié)點之間的網(wǎng)路封包傳遞，Intel也同樣提出更快的網(wǎng)路傳輸介面，借此提升整體云端運算效能。

依照此次公布產(chǎn)品，其中包含應用在伺服器端的第二代XeonScalable可擴展處理器產(chǎn)品陣容，不僅增加核心數(shù)量、運算線程數(shù)量增加、快取數(shù)量提升，更讓最高運算時脈提升可達3.9GHz，在整體運算效能方面則提升36%，相當每一美元所反應效能表現(xiàn)提升42%。

同時，在人工智慧應用項目運算方面，Intel更強調(diào)對比競爭對手(應該就是AMDEPYC)提供6倍以上運算效能，并且與阿里云、美國紅十字協(xié)會、亞信科技、AWS、百度云、云從科技、格靈深瞳、海鑫科金、kakao、微軟、東軟集團(Neusoft)、上海交通大學、西門子醫(yī)療設備、德州先進計算中心與騰訊云合作采用。

而在處理5G網(wǎng)路資料龐大吞吐量的應用部分，Intel則是與CenturyLink、中國移動、SKTele、Sprint與T-Mobile在內(nèi)業(yè)者合作采用第二代XeonScalable可擴展處理器，借此提升高達58%的網(wǎng)路功能虛擬化處理效率。

Intel強調(diào)，借由XeonScalable可擴展處理器特性，將可對應各類云端運算、虛擬化、巨量數(shù)據(jù)分析等運算需求，同時借由可選解決方案更可對應安全、分析、人工智慧、混合云、網(wǎng)路運算及超算使用需求。

至于在5G網(wǎng)路服務中扮演重要角色的基站部分，Intel在去年CES2019中宣布推出代號「SnowRidge」、10nm制程設計的5G網(wǎng)路系統(tǒng)晶片，目前則確定正式名稱為AtomP5900，其中可在網(wǎng)路數(shù)據(jù)封包處理效率提升3.7倍(相比一般軟體處理方式)，而相比先前推出的AtomC3000則可在整數(shù)運算提升1.8倍，另外比起以軟體運算的加密處理方式，更可提升5.6倍處理效率。

由于與Ericsson、Nokia與中興通訊合作，因此Intel更將原本預及在2022年才會普及應用的時間，提前至2021年。

另外，針對5G網(wǎng)路基站應用方面，Intel在先前也曾提及以FPGA達成運算客制化應用，進而推動更多5G網(wǎng)路應用服務，此次更宣布推出代號「DiamondMesa」的結(jié)構(gòu)化ASIC處理器，相比前一代產(chǎn)品提升2倍運算效能，并且節(jié)省一半電力損耗，在虛擬化網(wǎng)路節(jié)點應用部分更與諸多電信業(yè)者、電信產(chǎn)業(yè)單位，以及系統(tǒng)供應商合作。

針對端點運算需求部分，Intel也準備在今年第二季推出Ether700系列網(wǎng)路卡，預計以此提升各個節(jié)點端的邊緣運算傳輸效率，借此對應更多節(jié)點端的運算產(chǎn)生資料承載傳輸需求。

雖然去年在蘋果與Qualm恢復和解，促使Intel決定放棄行動裝置端的5G連網(wǎng)產(chǎn)品應用布局，但仍強調(diào)本身在整個5G連網(wǎng)時代應用布局理念不會改變，強調(diào)從云端到邊緣裝置之間的運算架構(gòu)都會看見Intel旗下產(chǎn)品，借此推動更廣泛邊緣運算與人工智慧推理學習應用。

另外，在軟體運作部分也相容Intel既有以開源架構(gòu)打造，針對邊緣運算應用軟體框架OpenNESS，以及同樣以開源架構(gòu)打造，應用在人工智慧推理學習的OpenVINO框架。

目前包含中國聯(lián)通、騰訊在內(nèi)業(yè)者都已經(jīng)導入Intel提出應用解決方案，并且用于旗下智慧城市、虛擬云端運算等發(fā)展項目。

依照Intel的作法，期望能在接下來即將大幅普及的5G連網(wǎng)應用中扮演重要解決方案提供者，并且滿足各類5G網(wǎng)路基礎架構(gòu)，以及垂直整合應用需求，另外也與市場多數(shù)業(yè)者緊密合作，同時透過開源架構(gòu)相容更多第三方應用解決方案。

Tagged5G,Intel,Xeon

以上就是關于生成式AI邊緣計算相關問題的回答。希望能幫到你，如有更多相關問題，您也可以聯(lián)系我們的客服進行咨詢，客服也會為您講解更多精彩的知識和內(nèi)容。