在電影《飛屋環(huán)游記》中,男主人公用一大堆氣球?qū)⒆约旱男∧疚輲�上天�?并通過增減氣球、手動施力來改變氣球的飛行方向,去實(shí)現(xiàn)他未曾實(shí)現(xiàn)的夢想．．．．．．

當(dāng)然,電影世界具有一定的幻想色彩。但是,如今還真有這樣一種巨型氣球,它雖然不能帶著小木屋飛上天空,卻更加智能、用處更大——讓全自動環(huán)境實(shí)時監(jiān)測成為可能。

平流層氣球(stratospheric balloon),又稱高空氣球,可以在大氣平流層中自主飛行數(shù)月,具有低成本、高效益的特點(diǎn),這使其成為通信、地球觀測、收集氣象數(shù)據(jù)和許多其他應(yīng)用的寵兒。但是,如何實(shí)現(xiàn)高空氣球的自主導(dǎo)航,一直是科學(xué)研究的一個難題。

近日,來自谷歌研究院(Google Research )和 Alphabet 旗下公司 Loon 的研究人員組成的科研團(tuán)隊(duì),成功開發(fā)出的一種基于深度強(qiáng)化學(xué)習(xí)的高性能人工智能控制器,能讓高空氣球一連數(shù)周待在原地,并根據(jù)環(huán)境因素進(jìn)行實(shí)時決策并實(shí)現(xiàn)自主導(dǎo)航。這一研究結(jié)果提高了全自動環(huán)境監(jiān)測成為現(xiàn)實(shí)的可能性,代表深度強(qiáng)化學(xué)習(xí)向現(xiàn)實(shí)世界應(yīng)用邁進(jìn)了非常重要的一步。

該研究成果以“Autonomous navigation of stratospheric balloons using reinforcement learning”為題,于 12 月 3 日在線發(fā)表在頂級期刊 Nature 上。

(來源:Nature)

續(xù)航瓶頸,無法滿足需求

高空氣球中應(yīng)用最廣泛的當(dāng)屬“超壓”氣球,氣球內(nèi)填充氦氣,常被用來在高層大氣開展實(shí)驗(yàn)。這些氣球遇到氣流風(fēng)時,往往會偏離航道,之后便只能返回地面駐點(diǎn)。而此次研究所采用的深度強(qiáng)化學(xué)習(xí)方法,可以訓(xùn)練人工智能系統(tǒng)進(jìn)行實(shí)時決策。對于超壓氣球來說,這些決策包括采取哪些行動來保持其在空中的位置不變。

Loon 超壓氣球是谷歌于 2013 年成立的高空氣球項(xiàng)目的成果之一,旨在將其作為通信中繼平臺,為還未接入互聯(lián)網(wǎng)的偏遠(yuǎn)地區(qū)提供一種相對廉價的通信服務(wù)。傳統(tǒng)上,Loon 的上下垂直飛行通過泵出固定體積的氣囊來實(shí)現(xiàn),而左右水平運(yùn)動則由氣球所處位置的風(fēng)向所決定。因此,為了實(shí)現(xiàn)導(dǎo)航目的,飛行控制器必須通過上升和下降的方式,以找到并跟隨對其有利的氣流。

然而,這種簡單的導(dǎo)航方式無法滿足氣球長時間(有時長達(dá)幾個月)控制的目標(biāo)。例如,傳統(tǒng)“控位法”(Station-keeping)需要將氣球固定在某個地面位置的正上方。為了完成這一任務(wù),氣球就必須不斷地通過風(fēng)場變化采取間接飛行路徑,以保證位置不變。

圖|通過“控位法”保持超壓氣球位置。a) 超壓氣球在風(fēng)場航行的原理圖。氣球通過不斷移動來保持在離駐點(diǎn)較近的地方。其高度范圍用上下虛線表示;b) 氣球飛行路徑平面示意圖。藍(lán)色區(qū)域表示駐點(diǎn)方圓 50 公里范圍。陰影箭頭代表風(fēng)場。風(fēng)場不斷變化,要求氣球?qū)崟r規(guī)劃路線。(來源:Nature)

不僅如此,氣球還需要在晝夜交替中管理自身電力,由于氣球下降時會使用存儲在電池中的太陽能,一旦電力不夠,氣球也就無法再自主控制飛行。另外,一個好的飛行控制器必須能夠權(quán)衡收集目標(biāo)觀測結(jié)果的性價比。因此,上述傳統(tǒng)控制技術(shù)本身非智能化的性質(zhì)就限制了其最終表現(xiàn)。

AI 賦能,帶來質(zhì)的飛躍

為提高超壓氣球的續(xù)航能力,論文作者之一、谷歌研究院科學(xué)家 Marc Bellemare 及其合作者訓(xùn)練了一種人工智能控制器,這種控制器能根據(jù)風(fēng)的歷史記錄、預(yù)報(bào)、局部風(fēng)向觀測以及氦氣損失和電池疲勞等其他因素,來實(shí)時決定氣球是否需要移動。

首先,研究人員將 StationSeeker 算法用于這一人工智能控制器中。該算法為控制器提供了較好的“洞察力”,StationSeeker 會憑借風(fēng)向與駐點(diǎn)形成的銳角來跟蹤風(fēng)向,只要?dú)馇蛱幱隈v點(diǎn)范圍內(nèi),它就會主動去尋找移動較為緩慢的氣流。

而后,研究人員對該控制器進(jìn)行了模擬訓(xùn)練,在模擬試驗(yàn)中使用強(qiáng)化學(xué)習(xí)來訓(xùn)練飛行控制器。強(qiáng)化學(xué)習(xí)擅長自動產(chǎn)生控制策略,可以處理高維度的異質(zhì)數(shù)據(jù),并在需要長期觀測時優(yōu)化對應(yīng)的控制策略。

為了獲得最先進(jìn)的控制器,研究人員結(jié)合了深度強(qiáng)化學(xué)習(xí)領(lǐng)域的最新進(jìn)展,即強(qiáng)調(diào)在學(xué)習(xí)過程中使用深度神經(jīng)網(wǎng)絡(luò)。該控制器使用的神經(jīng)網(wǎng)絡(luò)分為 7 層、每層具有 600 個校正線性單元,而且試驗(yàn)證明,使用較小的網(wǎng)絡(luò)或非分布算法會使得性能降低。

圖|神經(jīng)網(wǎng)絡(luò)規(guī)模對 TWR50(氣球位于駐點(diǎn) 50 公里以內(nèi)范圍時節(jié)省的時間)的影響(來源:Nature)

此次模擬試驗(yàn)包括對超壓氣球控制器在一個固定的位置上進(jìn)行兩天模擬,在此期間,控制器以 3 分鐘的間隔接收輸入數(shù)據(jù)和發(fā)出命令。因此,飛行控制器能夠置身于晝夜循環(huán)場景中,這意味著氣球必須從艱難的夜間條件中恢復(fù)工作,且最終產(chǎn)生的飛行路徑則會接近真實(shí)場景。

最后,作者將該技術(shù)應(yīng)用到分布于全球各地的 Loon 氣球上,包括一項(xiàng)在太平洋上空進(jìn)行的為期 39 天的受控實(shí)驗(yàn)(共 2884 飛行小時)。分析結(jié)果證明,受到 StationSeeker 控制的氣球能夠成功實(shí)現(xiàn)自主導(dǎo)航,一旦被吹偏航道,它們能以比傳統(tǒng)控制器控制的氣球更快的速度回到駐點(diǎn)。

其中,控制器最佳表現(xiàn)達(dá)到 55．1% TWR50。要知道,1% 的性能提升相當(dāng)于節(jié)省 14．4 分鐘的返回時間,因此,這一差異相當(dāng)于每 24 小時內(nèi)的返回時間平均減少 3．5 小時。

毫無疑問,此次研究成功將人工智能強(qiáng)化學(xué)習(xí)方法應(yīng)用到了超壓氣球與環(huán)境的實(shí)時交互之中,拓寬了其在現(xiàn)實(shí)科學(xué)研究中的應(yīng)用。

正如牛津大學(xué)物理系教授 Scott Osprey 所說:“Marc Bellemare 和同事的成果代表了強(qiáng)化學(xué)習(xí)在現(xiàn)實(shí)世界應(yīng)用的一次巨大進(jìn)步�！�