設(shè)想一下，在未來(lái)世界里，人工智能（AI）能夠像人類一樣閱讀、交流，甚至在各種環(huán)境中自主學(xué)習(xí)和成長(zhǎng)。但現(xiàn)在這已不再是科幻小說(shuō)的專利，而是RockAI（巖芯數(shù)智）的端側(cè)大模型正在做的事情。

植入Yan1.3多模態(tài)大模型的無(wú)人機(jī)、機(jī)器人、PC等各類終端，可以實(shí)時(shí)識(shí)別環(huán)境、準(zhǔn)確理解用戶的模糊指令和意圖，像人一樣進(jìn)行思考，并據(jù)此控制其機(jī)械軀體高效完成各類復(fù)雜任務(wù)。

在全球數(shù)字化轉(zhuǎn)型浪潮中，端側(cè)大模型正以高效、安全、個(gè)性化等特點(diǎn)，展現(xiàn)出巨大的應(yīng)用潛力和市場(chǎng)需求。

“真端側(cè)”最強(qiáng)大腦

9月26日，RockAI（巖芯數(shù)智）發(fā)布了Yan1.3多模態(tài)大模型，即群體智能單元大模型，能夠在高中低等不同算力設(shè)備上無(wú)損運(yùn)行。

相較于今年1月首發(fā)的Yan1.0大模型，Yan1.3具備了強(qiáng)大的多模態(tài)能力，可高效處理圖文及語(yǔ)音等多模態(tài)信息。此外，Yan1.3進(jìn)一步優(yōu)化了底層神經(jīng)網(wǎng)絡(luò)架構(gòu)，并以基于仿生神經(jīng)元驅(qū)動(dòng)的選擇算法達(dá)成模態(tài)分區(qū)激活，實(shí)現(xiàn)了大模型在更廣泛設(shè)備端上的離線無(wú)損部署，即便是普通電腦的CPU上也能流暢運(yùn)行。

在智能能力方面，3B參數(shù)的Yan1.3大模型，其表現(xiàn)已經(jīng)超越了8B參數(shù)Llama3的性能水平，具備更低算力消耗和更高效訓(xùn)練及推理效率。

RockAI還演示了Yan1.3多模態(tài)大模型在無(wú)人機(jī)、機(jī)器人、PC等各類終端上的超強(qiáng)能力。

以飛龍無(wú)人機(jī)為例，區(qū)別于大多數(shù)云邊端協(xié)同控制的無(wú)人機(jī)，飛龍無(wú)人機(jī)的智能大腦Yan1.3直接部署于設(shè)備端，對(duì)關(guān)鍵信息及突發(fā)狀況能做出即時(shí)判斷和處理。同時(shí)，其多模態(tài)處理能力能夠像人一樣“聽(tīng)、說(shuō)、看”，在城市治理及工業(yè)應(yīng)用方面，部署了Yan1.3的飛龍無(wú)人機(jī)可支持各類環(huán)境下的智能巡檢，高效適配電力巡檢、安全監(jiān)控、環(huán)境監(jiān)測(cè)等復(fù)雜場(chǎng)景。

RockAI介紹，與某廠商合作的無(wú)人機(jī)項(xiàng)目可以解決5G-A成本高的痛點(diǎn)。通常無(wú)人機(jī)拍攝收集到的畫面畫質(zhì)較高，為了快速響應(yīng)，一般會(huì)使用5G-A的方式傳回飛控中心，這也導(dǎo)致高昂的流量傳輸費(fèi)用。在將Yan1.3模型部署到無(wú)人機(jī)后，設(shè)備可自行判斷哪些信息是值得傳回匯報(bào)的，哪些是可以自行處理的，降低成本并建立生態(tài)。

面向個(gè)人用戶的飛龍無(wú)人機(jī)同樣大有用處，可廣泛運(yùn)用于AI拍攝、旅游、山地越野等戶外場(chǎng)景，在勘探環(huán)境、規(guī)劃行程的同時(shí)，還能夠解放雙手，做“拍照搭子”，自動(dòng)捕捉最佳角度并挑選出最佳照片。

據(jù)了解，群體智能來(lái)源于對(duì)以螞蟻、蜜蜂等為代表的社會(huì)性昆蟲(chóng)的群體行為研究，主要指通過(guò)多個(gè)個(gè)體的協(xié)作和交互，形成的集體智慧和決策能力。群體是去中心化的，具有自組織性，通過(guò)個(gè)體間的信息共享和集體行動(dòng)來(lái)做出決策或完成任務(wù)。個(gè)體的智能化程度越高，群體智能的表現(xiàn)能力越強(qiáng)，繼而反哺群體中的每一個(gè)體，使得其智能水平提升。

RockAI借鑒了生物界的群體智能，形成了以Yan架構(gòu)打造群體智能單元大模型的技術(shù)路線，為每一臺(tái)設(shè)備注入屬于自己的智能基因。

端側(cè)AI浪潮來(lái)襲

端側(cè)AI的興起，是技術(shù)與市場(chǎng)需求雙重推動(dòng)的結(jié)果。在云端大模型日益復(fù)雜的背景下，高昂的算力成本、數(shù)據(jù)隱私安全的考量以及個(gè)性化服務(wù)的迫切需求，共同催生了端側(cè)AI的發(fā)展。

端側(cè)AI大模型是指運(yùn)行在設(shè)備端的大規(guī)模人工智能模型，通常部署在本地設(shè)備上，如智能手機(jī)、I0T、PC、機(jī)器人等設(shè)備。相較于傳統(tǒng)的云端AI大模型，端側(cè)AI大模型的參數(shù)量更小，能夠減少對(duì)網(wǎng)絡(luò)的依賴，保護(hù)用戶隱私，同時(shí)降低數(shù)據(jù)傳輸和處理的延遲。

在過(guò)去幾年間，端側(cè)AI經(jīng)歷了從理論探索到實(shí)際應(yīng)用的轉(zhuǎn)變，目前全球范圍內(nèi)的端側(cè)大模型發(fā)展迅速。去年上半年，谷歌推出了可在移動(dòng)設(shè)備上離線運(yùn)行的PaLM2輕量級(jí)模型“壁虎”， 打響了端側(cè)大模型“第一槍”。

此后，法國(guó)創(chuàng)企Mistral AI發(fā)布Mixtral 8x7B模型。微軟緊隨其后，推出了高性價(jià)比的Phi-3系列小語(yǔ)言模型。Google的Gemma模型與Meta的Llama-2大模型形成競(jìng)爭(zhēng)態(tài)勢(shì)，蘋果也在積極推進(jìn)端側(cè)AI的發(fā)展。

國(guó)內(nèi)廠商，如面壁智能推出的MiniCPM-Llama3-V2.5和商湯的SenseChat-Lite，都在端側(cè)AI領(lǐng)域展現(xiàn)出強(qiáng)大的競(jìng)爭(zhēng)力。

盡管端側(cè)大模型具有多重優(yōu)勢(shì)，但其部署仍面臨諸多挑戰(zhàn)，尤其是模型量化、壓縮、裁剪等帶來(lái)的性能損失和學(xué)習(xí)能力受限問(wèn)題，更有可能直接導(dǎo)致卡住不動(dòng)、死機(jī)等運(yùn)行不穩(wěn)定的情況。

例如，大熱的AIPC就是把Transformer架構(gòu)的模型通過(guò)量化壓縮部署到了個(gè)人電腦，而70億參數(shù)的大模型還需要定制的PC芯片提供算力。因此，如何在保證精度的同時(shí)提高模型的效率，是端側(cè)AI走向落地應(yīng)用的一大障礙。

隨著技術(shù)進(jìn)步和市場(chǎng)需求多元化，端側(cè)AI不再僅僅追求輕量化和低功耗，而是向著高效、個(gè)性化和安全可控的方向發(fā)展。

在這場(chǎng)風(fēng)起云涌的革新浪潮中，RockAI以獨(dú)樹(shù)一幟的創(chuàng)新技術(shù)與實(shí)踐，為端側(cè)AI走向更廣闊的應(yīng)用場(chǎng)景開(kāi)辟了新路徑。

面對(duì)端側(cè)AI的挑戰(zhàn)，RockAI采取的策略核心在于徹底革新傳統(tǒng)架構(gòu)。今年1月，RockAI發(fā)布的Yan1.0模型，是國(guó)內(nèi)首個(gè)非Attention機(jī)制的通用大模型，它摒棄了Transformer架構(gòu)，采用計(jì)算量更小的Yan架構(gòu)，不僅在模型效率和成本控制上取得突破，而且在推理吞吐量上實(shí)現(xiàn)了顯著提升。

經(jīng)過(guò)迭代，RockAI在7月推出的Yan1.2大模型可以“原生無(wú)損”地以6+tokens/s的速度運(yùn)行于算力僅普通電腦八分之一的樹(shù)莓派上。

在樹(shù)莓派等低端設(shè)備上的成功運(yùn)行，證明了RockAI的端側(cè)模型可在保持高性能的同時(shí)，適應(yīng)更為廣泛的硬件環(huán)境，實(shí)現(xiàn)真正的“為設(shè)備而生”。

更關(guān)鍵的是，RockAI的端側(cè)大模型還將用戶隱私保護(hù)和個(gè)性化服務(wù)提升到了新層次。在AI技術(shù)日益普及的今天，用戶對(duì)數(shù)據(jù)隱私的關(guān)注達(dá)到了前所未有的高度。RockAI的端側(cè)部署策略，讓數(shù)據(jù)處理發(fā)生在本地，極大增強(qiáng)了用戶數(shù)據(jù)的安全性。

近年來(lái)，隨著計(jì)算能力的提升和AI技術(shù)的發(fā)展，端側(cè)AI開(kāi)始在智能手機(jī)、智能家居、自動(dòng)駕駛等領(lǐng)域發(fā)揮重要作用。RockAI也在加速推動(dòng)端側(cè)AI的商業(yè)化進(jìn)程，探索端側(cè)大模型的適配和應(yīng)用。

跨域融合深度賦能

RockAI選擇設(shè)備端是為了探索模型的下限，證明其在中低端設(shè)備上的運(yùn)行能力，同時(shí)實(shí)現(xiàn)大模型的商業(yè)化落地和普惠。因此，一開(kāi)始就選擇了在算力極低的樹(shù)莓派上部署Yan模型，而后面一些設(shè)備端適配的需求則大多來(lái)自合作伙伴和客戶。

例如，胖虎機(jī)器人具備強(qiáng)大的多模態(tài)認(rèn)知能力，可在離線的情況下準(zhǔn)確理解模糊指令，并由Yan1.3“大腦”控制軀體高效完成各類復(fù)雜任務(wù)，展現(xiàn)“七步成詩(shī)”、“詠春拳法”等。該機(jī)器人搭載的核心硬件是以低算力著稱的樹(shù)莓派第五代芯片，在極低算力的設(shè)備上實(shí)現(xiàn)了強(qiáng)大的多模態(tài)能力。目前，RockAI給文娛企業(yè)做的導(dǎo)覽機(jī)器人，具有引導(dǎo)介紹、場(chǎng)景描述、問(wèn)答自由交流等基本功能。

RockAI現(xiàn)場(chǎng)展示的迅兔智能助手（AIPC）可以在離線模式下聽(tīng)懂“人話”、看懂圖片并快速搜圖，準(zhǔn)確完成“幫我錄音并整理會(huì)議記錄”“把所有橘貓圖片都刪掉”等模糊指令，保護(hù)用戶隱私安全的同時(shí)，精準(zhǔn)理解所需內(nèi)容。

在今年7月舉行的WAIC 2024上，RockAI研發(fā)的智能機(jī)器人“小智”，也展示了令人驚嘆的多模態(tài)交互能力。例如，對(duì)于“讓一讓，我要放東西”這樣的模糊指令，小智能夠識(shí)別并做出避讓動(dòng)作。甚至對(duì)于需要大腦和軀干協(xié)調(diào)完成、復(fù)雜程度翻倍的任務(wù)，如“在四步之內(nèi)創(chuàng)作出以楓葉為主題的一首古詩(shī)”這類復(fù)雜任務(wù)，也能出色完成。

這些能力的背后，是RockAI在將大模型無(wú)損部署到端側(cè)設(shè)備的過(guò)程中，除了對(duì)大模型基礎(chǔ)架構(gòu)進(jìn)行“破壞式”創(chuàng)新，還采用了多種突破性技術(shù)手段。

RockAI首創(chuàng)了“同步學(xué)習(xí)”理念，這一機(jī)制允許模型在推理過(guò)程中即時(shí)學(xué)習(xí)和更新，無(wú)需“返廠”進(jìn)行再次更新或預(yù)訓(xùn)練，從而使得大模型可以像人類學(xué)習(xí)一樣建立自己獨(dú)有的知識(shí)體系。

RockAI的這一突破有望為端側(cè)AI大模型賦予“自主學(xué)習(xí)”的能力，讓每個(gè)設(shè)備都能根據(jù)用戶需求和環(huán)境變化進(jìn)行實(shí)時(shí)優(yōu)化，形成真正意義上的個(gè)性化智能。

為了實(shí)現(xiàn)樹(shù)莓派等更多更低端設(shè)備的無(wú)損適配，RockAI基于自研的Yan架構(gòu)，進(jìn)一步尋找人工神經(jīng)網(wǎng)絡(luò)最底層的反向傳播算法的更優(yōu)解，力圖實(shí)現(xiàn)Yan模型的降本增效。

同時(shí)在算法側(cè)，受人腦神經(jīng)元分區(qū)激活的啟發(fā)，采用基于仿生神經(jīng)元驅(qū)動(dòng)的選擇算法，實(shí)現(xiàn)了類腦分區(qū)激活的工作機(jī)制，使大模型可以根據(jù)學(xué)習(xí)的類型和知識(shí)的范圍分區(qū)激活，減少數(shù)據(jù)訓(xùn)練量，發(fā)揮多模態(tài)的潛力。因此，當(dāng)模型迭代到1.2版本，已經(jīng)可以實(shí)現(xiàn)在PC端、手機(jī)端、樹(shù)莓派端和機(jī)器人端等設(shè)備上的無(wú)損運(yùn)行。

在未來(lái)的應(yīng)用場(chǎng)景方面，我們可以進(jìn)行一番設(shè)想：在智能家居領(lǐng)域，端側(cè)AI可以融入家庭設(shè)備，根據(jù)家庭成員的習(xí)慣和需求，實(shí)時(shí)學(xué)習(xí)和調(diào)整設(shè)備的運(yùn)行模式，實(shí)現(xiàn)智能化的家居控制；在教育領(lǐng)域，端側(cè)AI可以成為學(xué)生的學(xué)習(xí)伙伴，根據(jù)學(xué)生的學(xué)習(xí)進(jìn)度和特點(diǎn)，提供個(gè)性化的學(xué)習(xí)內(nèi)容和指導(dǎo)；在醫(yī)療領(lǐng)域，端側(cè)AI可以輔助醫(yī)生進(jìn)行診斷和治療，通過(guò)對(duì)大量醫(yī)療數(shù)據(jù)的學(xué)習(xí)和分析，為患者提供健康管理和康復(fù)指導(dǎo)等。

可以預(yù)見(jiàn)，RockAI的端側(cè)AI機(jī)器人及其背后的Yan系列大模型，正在以強(qiáng)大的技術(shù)創(chuàng)新能力和跨域融合優(yōu)勢(shì)，為智能設(shè)備提供“大腦”，為“人工智能+”深度賦能各行各業(yè)做準(zhǔn)備。

加速群體智能涌現(xiàn)

以往，群體智能的發(fā)展方向更多是簡(jiǎn)單的智力組合，疊加形成的是一種隨智能體數(shù)量呈線性增長(zhǎng)的群體智能。比如，利用多個(gè)無(wú)人機(jī)的拼裝組合，來(lái)提升原本單個(gè)無(wú)人機(jī)的裝載能力等。

而當(dāng)前，RockAI所尋求的群體智能更多是智力協(xié)同，強(qiáng)調(diào)不同個(gè)體的特長(zhǎng)互補(bǔ)，組合在一起形成的協(xié)同效應(yīng)可使群體智能呈指數(shù)級(jí)增長(zhǎng)。因此，RockAI的目標(biāo)是致力于打造群體智能，而非OpenAI等公司傾向的“造神式”超級(jí)智能。

RockAI CEO劉凡平表示：“群體智能才是通往通用人工智能的關(guān)鍵路徑，因此RockAI以Yan架構(gòu)打造群體智能單元大模型，不單是為了提升某個(gè)設(shè)備的能力，更是為機(jī)器注入一種新的、本質(zhì)性的智能基因，使其擁有超強(qiáng)的環(huán)境適應(yīng)力和自主學(xué)習(xí)能力。屆時(shí)，每個(gè)部署了Yan模型的設(shè)備都將成為一個(gè)智能單元，通過(guò)它們的不斷協(xié)同、交互，最終激發(fā)群體智能的涌現(xiàn)。”

當(dāng)群體智能發(fā)生后，人與機(jī)器之間的協(xié)作方式就會(huì)發(fā)生更大變化，使機(jī)器服務(wù)于人類去做更多事情，同時(shí)機(jī)器與機(jī)器之間也可以協(xié)商如何完成任務(wù)，而不是一臺(tái)機(jī)器去完成，所以群體智能未來(lái)可能打開(kāi)的東西比想象中更多。

在一系列技術(shù)革新與應(yīng)用探索的背后，RockAI不僅在技術(shù)層面實(shí)現(xiàn)了突破，更是在商業(yè)應(yīng)用和生態(tài)構(gòu)建上重新定義了大模型在智能時(shí)代的核心價(jià)值。

目前，RockAI已在B端業(yè)務(wù)落地，拓展Yan架構(gòu)大模型在醫(yī)療、金融、能源、通信等重點(diǎn)領(lǐng)域的落地及深度賦能。同時(shí)，Yan模型商業(yè)化的重心正逐漸從B端部署到C端，以軟硬件結(jié)合的方式搶占C端藍(lán)海市場(chǎng)的先機(jī)。

基于Yan架構(gòu)大模型“無(wú)損適配”全線終端設(shè)備的核心優(yōu)勢(shì)，RockAI也與芯片廠商及終端廠商達(dá)成初步合作意向，突破硬件限制，打造越來(lái)越多基于Yan架構(gòu)的智能單元，讓更多消費(fèi)者能夠平等地享受到“真正的端側(cè)智能”。

對(duì)于Yan模型的未來(lái)，RockAI希望以Yan架構(gòu)為基礎(chǔ)打造通用人工智能操作系統(tǒng)，讓Yan模型成為像Windows、Android或IOS一樣的存在，使所有開(kāi)發(fā)商都能基于此開(kāi)發(fā)應(yīng)用。

當(dāng)Yan模型部署到智能手機(jī)、機(jī)器人以及其他多樣化設(shè)備后，會(huì)更像每個(gè)人的貼身伴侶，伴隨著個(gè)人的習(xí)慣去進(jìn)行學(xué)習(xí)和服務(wù)，越來(lái)越具備個(gè)性化的價(jià)值，讓手機(jī)、電腦、電視、音響等智能家居都能展現(xiàn)出更強(qiáng)的適應(yīng)力與高度個(gè)性化的交互能力，個(gè)性化適配到每個(gè)人，最終形成諸如群體智能等可交互的多樣性智能生態(tài)。

與此同時(shí)，同步學(xué)習(xí)的深入實(shí)施、全模態(tài)融合的挑戰(zhàn)以及如何在保持個(gè)性化的同時(shí)確保數(shù)據(jù)安全和隱私保護(hù)等，這些也都是RockAI未來(lái)需要攻克的難關(guān)。但也正是這些挑戰(zhàn)，構(gòu)成了人工智能進(jìn)化的動(dòng)力，推動(dòng)著RockAI和整個(gè)行業(yè)不斷向前，一個(gè)更加智能、更加個(gè)性化的AI時(shí)代正悄然來(lái)臨。

       原文標(biāo)題 : 群體智能，加速現(xiàn)實(shí)“科幻化”