HOME 首頁(yè)
SERVICE 服務(wù)產(chǎn)品
XINMEITI 新媒體代運(yùn)營(yíng)
CASE 服務(wù)案例
NEWS 熱點(diǎn)資訊
ABOUT 關(guān)于我們
CONTACT 聯(lián)系我們
創(chuàng)意嶺
讓品牌有溫度、有情感
專注品牌策劃15年

    gpt 大模型(GPT大模型概念股)

    發(fā)布時(shí)間:2023-05-27 18:52:29     稿源: 創(chuàng)意嶺    閱讀: 104        

    大家好!今天讓創(chuàng)意嶺的小編來(lái)大家介紹下關(guān)于gpt 大模型的問(wèn)題,以下是小編對(duì)此問(wèn)題的歸納整理,讓我們一起來(lái)看看吧。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    開始之前先推薦一個(gè)非常厲害的Ai人工智能工具,一鍵生成原創(chuàng)文章、方案、文案、工作計(jì)劃、工作報(bào)告、論文、代碼、作文、做題和對(duì)話答疑等等N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    只需要輸入關(guān)鍵詞,就能返回你想要的內(nèi)容,有小程序、在線網(wǎng)頁(yè)版、PC客戶端和批量生成器N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    問(wèn)友Ai官網(wǎng):https://ai.de1919.com。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    本文目錄:N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    gpt 大模型(GPT大模型概念股)N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    HAOMO發(fā)布自動(dòng)駕駛生成式大模型DriveGPTN7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    【TechWeb汽車】4月12日消息,在HAOMO AI DAY上,HAOMO發(fā)布業(yè)內(nèi)首個(gè)自動(dòng)駕駛生成式大模型DriveGPT,中文名“雪湖•海若”,毫末智行CEO顧維灝表示,DriveGPT將重塑汽車智能化技術(shù)路線。據(jù)介紹,DriveGPT雪湖•海若首發(fā)車型是新摩卡DHT-PHEV,即將量產(chǎn)上市。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    毫末智行董事長(zhǎng)張凱表示:“2023年智駕產(chǎn)品進(jìn)入全線爆發(fā)期,大模型開啟在車端的落地應(yīng)用,車主的使用頻率和滿意度成為產(chǎn)品競(jìng)爭(zhēng)力的重要衡量標(biāo)準(zhǔn)?!?span style="display:none">N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    顧維灝介紹,DriveGPT通過(guò)引入駕駛數(shù)據(jù)建立RLHF(人類反饋強(qiáng)化學(xué)習(xí))技術(shù),對(duì)自動(dòng)駕駛認(rèn)知決策模型進(jìn)行持續(xù)優(yōu)化,現(xiàn)階段主要用于解決自動(dòng)駕駛的認(rèn)知決策問(wèn)題,終極目標(biāo)是實(shí)現(xiàn)端到端自動(dòng)駕駛。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    目前,毫末DriveGPT雪湖•海若實(shí)現(xiàn)了模型架構(gòu)與參數(shù)規(guī)模的升級(jí),參數(shù)規(guī)模達(dá)到1200億,預(yù)訓(xùn)練階段引入4000萬(wàn)公里量產(chǎn)車駕駛數(shù)據(jù),RLHF階段引入 5萬(wàn)段人工精選的困難場(chǎng)景接管Clips。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    DriveGPT雪湖•海若的底層模型采用GPT(Generative Pre-trained Transformer)生成式預(yù)訓(xùn)練大模型,與ChatGPT使用自然語(yǔ)言進(jìn)行輸入與輸出不同,DriveGPT輸入是感知融合后的文本序列,輸出是自動(dòng)駕駛場(chǎng)景文本序列,即將自動(dòng)駕駛場(chǎng)景Token化,形成“Drive Language”,最終完成自車的決策規(guī)控、障礙物預(yù)測(cè)以及決策邏輯鏈的輸出等任務(wù)。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    顧維灝進(jìn)一步闡釋,DriveGPT雪湖•海若具有三個(gè)能力:N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    1. DriveGPT雪湖•海若可以按概率生成很多個(gè)場(chǎng)景序列,每個(gè)場(chǎng)景都是一個(gè)全局的場(chǎng)景,每個(gè)場(chǎng)景序列都是未來(lái)有可能發(fā)生的一種實(shí)際情況;N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    2.在所有場(chǎng)景序列都產(chǎn)生的情況下,DriveGPT雪湖•海若能把場(chǎng)景中最受關(guān)注的自車行為軌跡量化出來(lái),也就是生成場(chǎng)景的同時(shí),會(huì)產(chǎn)生自車未來(lái)的軌跡信息;N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    3. 有了自車未來(lái)的軌跡信息之后,希望這條軌跡是可解釋的,而GPT模型最擅長(zhǎng)的領(lǐng)域便是對(duì)話和推理,DriveGPT雪湖•海若也很好地繼承了這種特性,在生成場(chǎng)景序列、軌跡的同時(shí),也會(huì)把整個(gè)決策邏輯鏈給輸出。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    顧維灝介紹,毫末在2023年1月發(fā)布的中國(guó)自動(dòng)駕駛行業(yè)最大的智算中心MANA OASIS(雪湖• 綠洲)此次從算力優(yōu)化等層面升級(jí)了三大能力,進(jìn)一步支持DriveGPT雪湖•海若的算力。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    首先,毫末與火山引擎全新搭建了“全套大模型訓(xùn)練保障框架”,實(shí)現(xiàn)了異常任務(wù)分鐘級(jí)捕獲和恢復(fù)能力,可以保證千卡任務(wù)連續(xù)訓(xùn)練數(shù)個(gè)月沒(méi)有任何非正常中斷,有效保證了大模型訓(xùn)練穩(wěn)定性;N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    其次,毫末研發(fā)出以真實(shí)數(shù)據(jù)回傳為核心的增量學(xué)習(xí)技術(shù),并將其推廣到了大模型訓(xùn)練,構(gòu)建了一個(gè)大模型持續(xù)學(xué)習(xí)系統(tǒng),自主研發(fā)任務(wù)級(jí)彈性伸縮調(diào)度器,分鐘級(jí)調(diào)度資源,集群計(jì)算資源利用率達(dá)到95%;N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    最后,MANA OASIS通過(guò)提升數(shù)據(jù)吞吐量來(lái)降本增效,滿足Transformer大模型訓(xùn)練效率,通過(guò)引入火山引擎提供的Lego算子庫(kù)實(shí)現(xiàn)算子融合,端到端吞吐提升84%。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    談到DriveGPT雪湖•海若的實(shí)現(xiàn)過(guò)程,顧維灝介紹稱,首先在預(yù)訓(xùn)練階段通過(guò)引入量產(chǎn)駕駛數(shù)據(jù),訓(xùn)練初始模型,再通過(guò)引入駕駛接管Clips數(shù)據(jù)完成反饋模型(Reward Model)的訓(xùn)練,然后再通過(guò)強(qiáng)化學(xué)習(xí)的方式,使用反饋模型去不斷優(yōu)化迭代初始模型,形成對(duì)自動(dòng)駕駛認(rèn)知決策模型的持續(xù)優(yōu)化。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    DriveGPT雪湖•海若的一個(gè)關(guān)鍵設(shè)計(jì),就是場(chǎng)景的Token化表達(dá),顧維灝把這種方式叫做Drive Language。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    同時(shí),DriveGPT雪湖•海若還會(huì)根據(jù)Drive Language輸入端的提示語(yǔ)以及毫末CSS自動(dòng)駕駛場(chǎng)景庫(kù)的決策樣本去訓(xùn)練模型,讓模型學(xué)習(xí)推理關(guān)系,從而將完整駕駛策略拆分為自動(dòng)駕駛場(chǎng)景的動(dòng)態(tài)識(shí)別過(guò)程,完成可理解、可解釋的推理邏輯鏈生成。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    另外,顧維灝提到,DriveGPT雪湖•海若可以逐步應(yīng)用到城市NOH、捷徑推薦、智能陪練以及脫困場(chǎng)景中。有了DriveGPT雪湖•海若的加持,車輛行駛會(huì)更安全;動(dòng)作更人性、更絲滑,并有合理的邏輯告訴駕駛者,車輛為何選擇這樣的決策動(dòng)作。對(duì)于普通用戶來(lái)說(shuō),車輛越來(lái)越像老司機(jī),用戶對(duì)智能產(chǎn)品的信任感會(huì)更強(qiáng),理解到車輛的行為都是可預(yù)期、可理解的。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    當(dāng)前,毫末在使用數(shù)據(jù)過(guò)程中,逐步建立起一套基于4D Clips駕駛場(chǎng)景識(shí)別方案,具備極高性價(jià)比。在行業(yè)上,給出正確的標(biāo)注結(jié)果,一張圖片需要約5元;如果使用DriveGPT雪湖•海若的場(chǎng)景識(shí)別服務(wù),一張圖片的價(jià)格將下降到0.5元。單幀圖片整體標(biāo)注成本僅相當(dāng)于行業(yè)的1/10。接下來(lái),毫末會(huì)將圖像幀及4D Clips場(chǎng)景識(shí)別服務(wù)逐步向行業(yè)開放使用,這將大幅降低行業(yè)使用數(shù)據(jù)的成本,提高數(shù)據(jù)質(zhì)量,從而加速自動(dòng)駕駛技術(shù)的快速發(fā)展。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    目前,毫末DriveGPT雪湖•海若已正式對(duì)外開放,開啟對(duì)限量首批客戶的合作,北京交通大學(xué)計(jì)算機(jī)與信息技術(shù)學(xué)院、高通、火山引擎、華為云、京東科技、四維圖新、魏牌新能源、英特爾等已經(jīng)加入。毫末DriveGPT雪湖•海若大模型的成果將首發(fā)落地在搭載毫末HPilot3.0的新摩卡DHT-PHEV上。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    顧維灝表示,毫末DriveGPT雪湖•海若將攜手生態(tài)伙伴率先探索四大應(yīng)用能力,包括智能駕駛、駕駛場(chǎng)景識(shí)別、駕駛行為驗(yàn)證、困難場(chǎng)景脫困。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    【本文來(lái)自易車號(hào)作者TechWeb,版權(quán)歸作者所有,任何形式轉(zhuǎn)載請(qǐng)聯(lián)系作者。內(nèi)容僅代表作者觀點(diǎn),與易車無(wú)關(guān)】N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    gpt人工智能模型全稱N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

      GPT模型的全稱為“生成式預(yù)訓(xùn)練模型”,它是OpenAI公司的一個(gè)研究項(xiàng)目,旨在提高自然語(yǔ)言處理的效率和準(zhǔn)確性。它是一種基于深度學(xué)習(xí)的人工智能模型,可用于各種自然語(yǔ)言處理任務(wù),如文本分類、文本生成和翻譯。
      GPT模型使用了一種稱為Transformer的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),其中包含了多個(gè)編碼器和解碼器,用于處理輸入文本和生成輸出文本。該模型使用了大量的預(yù)訓(xùn)練數(shù)據(jù)集來(lái)訓(xùn)練模型參數(shù),從而使其能夠更好地理解自然語(yǔ)言。此外,GPT模型還使用了一種稱為“自回歸”的生成方法,這種方法可以保證生成的文本連貫、流暢。
      由于其高效的處理能力和出色的性能,GPT模型已經(jīng)在各種自然語(yǔ)言處理任務(wù)中被廣泛使用。例如,它可以用于生成自然語(yǔ)言文本,如文章摘要、新聞報(bào)道和小說(shuō)章節(jié)。此外,GPT模型還可以用于文本分類、情感分析和機(jī)器翻譯等任務(wù)。
      總之,GPT模型是一種出色的人工智能模型,它為自然語(yǔ)言處理任務(wù)提供了高效、準(zhǔn)確的解決方案。隨著技術(shù)的不斷發(fā)展,GPT模型在未來(lái)可能會(huì)成為更多自然語(yǔ)言處理任務(wù)的首選算法。

    當(dāng)GPT遇到自動(dòng)駕駛,毫末首發(fā)DriveGPTN7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    GPT之于自動(dòng)駕駛意味著什么?N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    文丨智駕網(wǎng) 黃華丹N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    ChatGPT帶火了AI,那么,當(dāng)GPT遇到自動(dòng)駕駛,又會(huì)發(fā)生怎樣的化學(xué)反應(yīng)?N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    GPT全稱Generative Pre-trained Transformer,即生成式預(yù)訓(xùn)練Transformer。簡(jiǎn)單概括即是一種基于互聯(lián)網(wǎng)可用數(shù)據(jù)訓(xùn)練的文本生成深度學(xué)習(xí)模型。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    4月11日,在第八屆毫末AI DAY上,毫末CEO顧維灝正式發(fā)布了基于GPT技術(shù)的DriveGPT,中文名雪湖·海若。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    DriveGPT能做到什么?又是如何構(gòu)建的?顧維灝在AI DAY上都做了詳細(xì)解讀。此外,AI DAY還展示了毫末自動(dòng)駕駛數(shù)據(jù)體系MANA的升級(jí)情況,主要是其在視覺感知能力上的進(jìn)展。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    01.N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    什么是DriveGPT?能實(shí)現(xiàn)什么?N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    顧維灝首先講解了GPT的原理,生成式預(yù)訓(xùn)練Transformer模型本質(zhì)上是在求解下一個(gè)詞出現(xiàn)的概率,每一次調(diào)用都是從概率分布中抽樣并生成一個(gè)詞,這樣不斷地循環(huán),就能生成一連串的字符,用于各種下游任務(wù)。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    以中文自然語(yǔ)言為例,單字或單詞就是Token,中文的Token詞表有5萬(wàn)個(gè)左右。把Token輸入到模型,輸出就是下一個(gè)字詞的概率,這種概率分布體現(xiàn)的是語(yǔ)言中的知識(shí)和邏輯,大模型在輸出下一個(gè)字詞時(shí)就是根據(jù)語(yǔ)言知識(shí)和邏輯進(jìn)行推理的結(jié)果,就像根據(jù)一部偵探小說(shuō)的復(fù)雜線索來(lái)推理兇手是誰(shuí)。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    而作為適用于自動(dòng)駕駛訓(xùn)練的大模型,DriveGPT雪湖·海若三個(gè)能力:N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    1.可以按概率生成很多個(gè)這樣的場(chǎng)景序列,每個(gè)場(chǎng)景都是一個(gè)全局的場(chǎng)景,每個(gè)場(chǎng)景序列都是未來(lái)有可能發(fā)生的一種實(shí)際情況。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    2.是在所有場(chǎng)景序列都產(chǎn)生的情況下,能把場(chǎng)景中最關(guān)注的自車行為軌跡給量化出來(lái),也就是生成場(chǎng)景的同時(shí),便會(huì)產(chǎn)生自車未來(lái)的軌跡信息。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    3.有了這段軌跡之后,DriveGPT雪湖·海若還能在生成場(chǎng)景序列、軌跡的同時(shí),輸出整個(gè)決策邏輯鏈。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    也就是說(shuō),利用DriveGPT雪湖·海若,在一個(gè)統(tǒng)一的生成式框架下,就能做到將規(guī)劃、決策與推理等多個(gè)任務(wù)全部完成。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    具體來(lái)看,DriveGPT雪湖·海若的設(shè)計(jì)是將場(chǎng)景Token化,毫末將其稱為Drive Language。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    Drive Language將駕駛空間進(jìn)行離散化處理,每一個(gè)Token都表征場(chǎng)景的一小部分。目前毫末擁有50萬(wàn)個(gè)左右的Token詞表空間。如果輸入一連串過(guò)去已經(jīng)發(fā)生的場(chǎng)景Token序列,模型就可以根據(jù)歷史,生成未來(lái)所有可能的場(chǎng)景。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    也就是說(shuō),DriveGPT雪湖·海若同樣像是一部推理機(jī)器,告訴它過(guò)去發(fā)生了什么,它就能按概率推理出未來(lái)的多個(gè)可能。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    一連串Token拼在一起就是一個(gè)完整的駕駛場(chǎng)景時(shí)間序列,包括了未來(lái)某個(gè)時(shí)刻整個(gè)交通環(huán)境的狀態(tài)以及自車的狀態(tài)。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    有了Drive Language,就可以對(duì)DriveGPT進(jìn)行訓(xùn)練了。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    毫末對(duì)DriveGPT的訓(xùn)練過(guò)程首先是根據(jù)駕駛數(shù)據(jù)以及之前定義的駕駛嘗試做一個(gè)大規(guī)模的預(yù)訓(xùn)練。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    然后,通過(guò)在使用過(guò)程中接管或者不接管的場(chǎng)景,對(duì)預(yù)訓(xùn)練的結(jié)果進(jìn)行打分和排序,訓(xùn)練反饋模型。也就是說(shuō)利用正確的人類開法來(lái)替代錯(cuò)誤的自動(dòng)駕駛開法。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    后續(xù)就是用強(qiáng)化學(xué)習(xí)的思路不斷優(yōu)化迭代模型。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    在預(yù)訓(xùn)練模型上,毫末采用Decode-only結(jié)構(gòu)的GPT模型,每一個(gè)Token用于描述某時(shí)刻的場(chǎng)景狀態(tài),包括障礙物的狀態(tài)、自車狀態(tài)、車道線情況等等。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    目前,毫末的預(yù)訓(xùn)練模型擁有1200億個(gè)參數(shù),使用4000萬(wàn)量產(chǎn)車的駕駛數(shù)據(jù),本身就能夠?qū)Ω鞣N場(chǎng)景做生成式任務(wù)。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    這些生成結(jié)果會(huì)按照人類偏好進(jìn)行調(diào)優(yōu),在安全、高效、舒適等維度上做出取舍。同時(shí),毫末會(huì)用部分經(jīng)過(guò)篩選的人類接管數(shù)據(jù),大概5萬(wàn)個(gè)Clips去做反饋模型的訓(xùn)練,不斷優(yōu)化預(yù)訓(xùn)練模型。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    在輸出決策邏輯鏈時(shí),DriveGPT雪湖·海若利用了prompt提示語(yǔ)技術(shù)。輸入端給到模型一個(gè)提示,告訴它“要去哪、慢一點(diǎn)還是快一點(diǎn)、并且讓它一步步推理”,經(jīng)過(guò)這種提示后,它就會(huì)朝著期望的方向去生成結(jié)果,并且每個(gè)結(jié)果都帶有決策邏輯鏈。每個(gè)結(jié)果也會(huì)有未來(lái)出現(xiàn)的可能性。這樣我們就可以選擇未來(lái)出現(xiàn)可能性最大,最有邏輯的鏈條駕駛策略。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    可以用一個(gè)形象的示例來(lái)解釋DriveGPT雪湖·海若的推理能力。假設(shè)提示模型要“抵達(dá)某個(gè)目標(biāo)點(diǎn)”,DriveGPT雪湖·海若會(huì)生成很多個(gè)可能的開法,有的激進(jìn),會(huì)連續(xù)變道超車,快速抵達(dá)目標(biāo)點(diǎn),有的穩(wěn)重,跟車行駛到終點(diǎn)。這時(shí)如果提示語(yǔ)里沒(méi)有其他額外指示,DriveGPT雪湖·海若就會(huì)按照反饋訓(xùn)練時(shí)的調(diào)優(yōu)效果,最終給到一個(gè)更符合大部分人駕駛偏好的效果。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    02.N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    實(shí)現(xiàn)DriveGPT毫末做了什么?N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    首先,DriveGPT雪湖·海若的訓(xùn)練和落地,離不開算力的支持。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    今年1月,毫末就和火山引擎共同發(fā)布了其自建智算中心,毫末雪湖·綠洲MANA OASIS。OASIS的算力高達(dá)67億億次/秒,存儲(chǔ)帶寬2T/秒,通信帶寬達(dá)到800G/秒。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    當(dāng)然,光有算力還不夠,還需要訓(xùn)練和推理框架的支持。因此,毫末也做了以下三方面的升級(jí)。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    一是訓(xùn)練穩(wěn)定性的保障和升級(jí)。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    大模型訓(xùn)練是一個(gè)十分艱巨的任務(wù),隨著數(shù)據(jù)規(guī)模、集群規(guī)模、訓(xùn)練時(shí)間的數(shù)量級(jí)增長(zhǎng),系統(tǒng)穩(wěn)定性方面微小的問(wèn)題也會(huì)被無(wú)限放大,如果不加處理,訓(xùn)練任務(wù)就會(huì)經(jīng)常出錯(cuò)導(dǎo)致非正常中斷,浪費(fèi)前期投入的大量資源。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    毫末在大模型訓(xùn)練框架的基礎(chǔ)上,與火山引擎共同建立了全套訓(xùn)練保障框架,通過(guò)訓(xùn)練保障框架,毫末實(shí)現(xiàn)了異常任務(wù)分鐘級(jí)捕獲和恢復(fù)能力,可以保證千卡任務(wù)連續(xù)訓(xùn)練數(shù)月沒(méi)有任何非正常中斷,有效地保障了DriveGPT雪湖·海若大模型訓(xùn)練的穩(wěn)定性。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    二是彈性調(diào)度資源的升級(jí)。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    毫末擁有量產(chǎn)車帶來(lái)的海量真實(shí)數(shù)據(jù),可自動(dòng)化的利用回傳數(shù)據(jù)不斷的學(xué)習(xí)真實(shí)世界。由于每天不同時(shí)段回傳的數(shù)據(jù)量差異巨大,需要訓(xùn)練平臺(tái)具備彈性調(diào)度能力,自適應(yīng)數(shù)據(jù)規(guī)模大小。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    毫末將增量學(xué)習(xí)技術(shù)推廣到大模型訓(xùn)練,構(gòu)建了一個(gè)大模型持續(xù)學(xué)習(xí)系統(tǒng),研發(fā)了任務(wù)級(jí)彈性伸縮調(diào)度器,分鐘級(jí)調(diào)度資源,集群計(jì)算資源利用率達(dá)到95%。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    三是吞吐效率的升級(jí)。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    在訓(xùn)練效率上,毫末在Transformer的大矩陣計(jì)算上,通過(guò)對(duì)內(nèi)外循環(huán)的數(shù)據(jù)拆分、盡量保持?jǐn)?shù)據(jù)在SRAM中來(lái)提升計(jì)算的效率。在傳統(tǒng)的訓(xùn)練框架中,算子流程很長(zhǎng),毫末通過(guò)引入火山引擎提供的Lego算之庫(kù)實(shí)現(xiàn)算子融合,使端到端吞吐提升84%。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    有了算力和這三方面的升級(jí),毫末可對(duì)DriveGPT雪湖·海若進(jìn)行更好的訓(xùn)練迭代升級(jí)。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    03.N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    MANA大升級(jí),攝像頭代替超聲波雷達(dá)N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    毫末在2021年12月的第四屆AI DAY上發(fā)布自動(dòng)駕駛數(shù)據(jù)智能體系MANA,經(jīng)過(guò)一年多時(shí)間的應(yīng)用迭代,現(xiàn)在MANA迎來(lái)了全面的升級(jí)。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    據(jù)顧維灝介紹,本次升級(jí)主要包括:N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    1.感知和認(rèn)知相關(guān)大模型能力統(tǒng)一整合到DriveGPT。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    2.計(jì)算基礎(chǔ)服務(wù)針對(duì)大模型訓(xùn)練在參數(shù)規(guī)模、穩(wěn)定性和效率方面做了專項(xiàng)優(yōu)化,并集成到OASIS當(dāng)中。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    3.增加了使用NeRF技術(shù)的數(shù)據(jù)合成服務(wù),降低Corner Case數(shù)據(jù)的獲取成本。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    4.針對(duì)多種芯片和多種車型的快速交付難題,優(yōu)化了異構(gòu)部署工具和車型適配工具。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    前文我們已經(jīng)詳細(xì)介紹了DriveGPT相關(guān)的內(nèi)容,以下主要來(lái)看MANA在視覺感知上的進(jìn)展。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    顧維灝表示,視覺感知任務(wù)的核心目的都是恢復(fù)真實(shí)世界的動(dòng)靜態(tài)信息和紋理分布。因此毫末對(duì)視覺自監(jiān)督大模型做了一次架構(gòu)升級(jí),將預(yù)測(cè)環(huán)境的三維結(jié)構(gòu),速度場(chǎng)和紋理分布融合到一個(gè)訓(xùn)練目標(biāo)里面,使其能從容應(yīng)對(duì)各種具體任務(wù)。目前毫末視覺自監(jiān)督大模型的數(shù)據(jù)集超過(guò)400萬(wàn)Clips,感知性能提升20%。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    在泊車場(chǎng)景下,毫末做到了用魚眼相機(jī)純視覺測(cè)距達(dá)到泊車要求,可做到在15米范圍內(nèi)達(dá)測(cè)量精度30cm,2米內(nèi)精度高于10cm。用純視覺代替超聲波雷達(dá),進(jìn)一步降低整體方案的成本。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    此外,在純視覺三維重建方面,通過(guò)視覺自監(jiān)督大模型技術(shù),毫末不依賴激光雷達(dá),就能將收集的大量量產(chǎn)回傳視頻轉(zhuǎn)化為可用于BEV模型訓(xùn)練的帶3D標(biāo)注的真值數(shù)據(jù)。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    通過(guò)對(duì)NeRF的升級(jí),毫末表示可以做到重建誤差小于10

    【本文來(lái)自易車號(hào)作者智駕網(wǎng),版權(quán)歸作者所有,任何形式轉(zhuǎn)載請(qǐng)聯(lián)系作者。內(nèi)容僅代表作者觀點(diǎn),與易車無(wú)關(guān)】N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    gpt 大模型(GPT大模型概念股)N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    GPT模型是什么?它們真的會(huì)走進(jìn)千家萬(wàn)戶嗎?N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    一款叫GPT的新軟件火爆全球,GPT 是 OpenAI 開發(fā)的一種語(yǔ)言模型,它能夠通過(guò)大量文本數(shù)據(jù)的預(yù)訓(xùn)練,掌握語(yǔ)言規(guī)律并生成文本。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    GPT分別是三個(gè)單詞(Generative 生成型 Pre-trained 預(yù)訓(xùn)練 Transformer 轉(zhuǎn)換模型),即生成式預(yù)訓(xùn)練模型。它的本質(zhì)是通過(guò)預(yù)訓(xùn)練的方式對(duì)大量文本數(shù)據(jù)進(jìn)行學(xué)習(xí),從而達(dá)到精準(zhǔn)預(yù)測(cè)和生成文本的目的。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    當(dāng)前GPT還只是應(yīng)用在聊天領(lǐng)域的日常辦公,未來(lái)很可能人工智會(huì)輻射至各行各業(yè),從搜索引擎到辦公軟件、從社交媒體到游戲開發(fā),AI的發(fā)展很快就會(huì)以病毒傳播式的速度普及到我們的日常生活中。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    最近一段時(shí)間,全世界知名的互聯(lián)網(wǎng)企業(yè)全都開始涌入AI市場(chǎng),資本的涌入和技術(shù)的迭代勢(shì)必會(huì)讓AI的發(fā)展急劇加速。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司


    目前,GPT技術(shù)已經(jīng)在多個(gè)領(lǐng)域得到了應(yīng)用,包括:N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    1. 語(yǔ)言翻譯:GPT可以將一種語(yǔ)言翻譯成另一種語(yǔ)言,從而幫助人們跨越語(yǔ)言障礙。目前chatGPT支持95種語(yǔ)言,再加上人工智能學(xué)習(xí),效果比傳統(tǒng)翻譯工具更優(yōu)質(zhì)!
    N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    2. 內(nèi)容生成:GPT可以生成高質(zhì)量的文章、新聞報(bào)道、小說(shuō)等文本內(nèi)容,為媒體和出版行業(yè)提供了巨大的幫助。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    3. 語(yǔ)音識(shí)別:GPT也可以用于語(yǔ)音識(shí)別,其原理與文本生成類似。使用GPT進(jìn)行語(yǔ)音識(shí)別的一個(gè)好處是可以進(jìn)行語(yǔ)音到文本的轉(zhuǎn)化,從而將語(yǔ)音轉(zhuǎn)化為可觀看的文本內(nèi)容。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    4. 智能客服:GPT可以幫助企業(yè)開發(fā)智能客服系統(tǒng),為客戶提供更快速、更準(zhǔn)確的服務(wù)。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    5. 自然語(yǔ)言理解:GPT可以幫助機(jī)器更好地理解人類語(yǔ)言,從而實(shí)現(xiàn)更智能的人機(jī)交互。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司


    可能很多人都沒(méi)有注意到,在過(guò)去的短短三十年內(nèi),人類已經(jīng)經(jīng)歷了三次技術(shù)的迭代,每一次都是以不起眼的形式出現(xiàn),并迅速顛覆了我們的日常生活方式:
    N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    第一次出現(xiàn)的互聯(lián)網(wǎng)跨越了現(xiàn)實(shí)空間,將全世界的網(wǎng)友鏈接在一起;N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    第二次是智能手機(jī),便攜的移動(dòng)端解放了我們的業(yè)余時(shí)間,讓我們可以隨時(shí)隨地進(jìn)行網(wǎng)絡(luò)互動(dòng),而隨著ChatGPT的發(fā)布;N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    第三次技術(shù)革命已經(jīng)開始,而且速度比我們想象中快的多。
    N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    gpt的出現(xiàn)標(biāo)志著人類生產(chǎn)力的又一巨大進(jìn)步!未來(lái),隨著GPT技術(shù)的不斷發(fā)展和完善,它將在更多領(lǐng)域得到應(yīng)用,如智能教育、智能醫(yī)療、智能家居、數(shù)字營(yíng)銷等等??傊珿PT技術(shù)未來(lái)的趨勢(shì)和運(yùn)營(yíng)場(chǎng)景非常廣泛,并將持續(xù)改變?nèi)藗兊纳a(chǎn)和生活方式。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司

    以上就是關(guān)于gpt 大模型相關(guān)問(wèn)題的回答。希望能幫到你,如有更多相關(guān)問(wèn)題,您也可以聯(lián)系我們的客服進(jìn)行咨詢,客服也會(huì)為您講解更多精彩的知識(shí)和內(nèi)容。N7y創(chuàng)意嶺 - 安心托付、值得信賴的品牌設(shè)計(jì)、營(yíng)銷策劃公司


    推薦閱讀:

    硬盤格式改為MBR轉(zhuǎn)為GPT

    CHATgpt寫論文技巧

    ChatGPT的改進(jìn)(grabcut改進(jìn))

    吉林大米vi設(shè)計(jì)廠家(吉林大米品牌建設(shè))

    鄭州抖音seo搜索排名推廣