【歐洲AI要聞盤點:開發(fā)NAIS-Net新型神經(jīng)網(wǎng)絡架構,訓練深度比以往強10到20倍】歐洲人工智能創(chuàng)業(yè)公司NNAISENSE的研究人員已經(jīng)發(fā)布了關于NAIS-Net(非自動輸入——輸出穩(wěn)定網(wǎng)絡)的詳細信息,這是一種新型的神經(jīng)網(wǎng)絡架構,他們宣稱這種架構的訓練深度是其他網(wǎng)絡(如殘差網(wǎng)絡、Highway網(wǎng)絡)的10到20倍,同時能夠保證穩(wěn)定性。
物理+人工智能:這個網(wǎng)絡的設計靈感來源于控制理論和物理學,它們的結合讓設計人員構建出一個能保證適應不同類型的輸入數(shù)據(jù),針對特定任務進行更深收斂訓練的系統(tǒng)。NAIS-Nets縮小了標靶的尺寸,能夠快速完成訓練,這讓網(wǎng)絡訓練過程中的發(fā)方差變小,以及可重復性提高成為可能。
規(guī)模:“在不增加網(wǎng)絡參數(shù)總數(shù)的情況下,NAIS-Nets也可以比ResNet深10到20倍,并且通過堆疊多個穩(wěn)定的NAIS-Net模塊,進行圖形處理深度相關的模型可以在不需要任何正則化的前提下進行訓練?!毖芯咳藛T寫道。
結果:經(jīng)過對CIFAR-100進行測試,研究人員發(fā)現(xiàn)NAIS-Net與殘差網(wǎng)絡的性能相當,但方差顯然更低。該架構尚未在更大、更像是評估模型黃金標準的ImageNet上進行測試。
為什么重要:目前,人工智能技術中的一個未解決的難題是,我們并不真正了解它們工作的原理,這從我們以往的經(jīng)驗中可以看到,我們在壓縮過程中很難保證方差、概括和性能損失。像NAIS-Nets這樣的方法似乎可以減少我們在這些領域的一些不確定性,這表明,我們在設計具有足夠豐富的數(shù)學證明的系統(tǒng)方面有了進步,可以更好地保證一些性能參數(shù)。此外,這還意味著我們能夠創(chuàng)建出機制更透明的系統(tǒng),這似乎是未來構建更精細系統(tǒng)的必要基礎。
歐洲國家加入AI革命,避免錯過云計算革命的歷史重演
25個歐洲國家已經(jīng)簽署了一封合約,宣布有意“聯(lián)合起來”開發(fā)人工智能。這封信的內容大意是,簽署方均承諾會在實施各自的國家發(fā)展計劃時與其他成員國進行協(xié)作。
“合作將側重于加強歐洲人工智能研究中心建設,在歐洲各地的研發(fā)和資助計劃中發(fā)揮協(xié)同作用,并就人工智能對社會和經(jīng)濟的影響交換意見。此聯(lián)盟成員國將與作為協(xié)調人的委員會保持對話,”歐洲委員安德魯斯·阿斯普和瑪麗亞·加布里爾說道。
為什么重要:由于中國和美國的規(guī)模大(數(shù)億人使用同一種語言進行口頭和書面交流),以及擁有開展國家級研究的充足資金,中美兩國都具有發(fā)展人工智能的結構性優(yōu)勢。單個歐洲國家無法與其投資能力相提并論,因此需要聯(lián)合在一起,否則就會像錯過云計算革命一樣,最終不能形成一家大型AI公司,導致他們在AI時代下缺乏政治和經(jīng)濟影響力。
人工智能的未來是SpatialAI,這對于機器人、無人機等意味著什么?
SLAM研究員AndrewDavison發(fā)表了一篇論文,研究SLAM(即時定位與地圖構建)技術的現(xiàn)狀,并根據(jù)當前的算法趨勢預測未來其將如何演變?,F(xiàn)有的人工智能系統(tǒng)想要實現(xiàn)預設的功能,它們需要具備'空間人工智能'(SpatialAI)的功能,以及機器需要對周遭環(huán)境進行理解和歸類的一系列認知能力,以便可以有效地采取行動。他假設,這個空間人工智能系統(tǒng)將成為未來真實世界人工智能的核心,因為它可以“實時地,主要以可視化輸入和可量化的性能為指標,逐步構建、維護一個通用的、接近度量的場景表示”,這讓人們可以開發(fā)更豐富的AI應用程序。
現(xiàn)狀與空間AI之間的差距:隨著學習方法和關鍵功能手寫規(guī)則的應用,今天的SLAM系統(tǒng)正在發(fā)生著變化,尤其是構建周圍環(huán)境地圖的系統(tǒng)。未來的空間人工智能系統(tǒng)可能會具備更多的學習功能,特別是在解決模糊性或預測世界變化方面,并且需要在各種不同的芯片架構上實現(xiàn)這一點,以最大限度地提高性能。
許多“空間人工智能”制作的全球共享地圖:一旦世界上出現(xiàn)少數(shù)具有這種空間人工智能功能的系統(tǒng),它們可能會將其對世界的insight集中到一張全球共享的地圖中,該地圖將通過所有連接的設備不斷更新。這意味著,一旦系統(tǒng)識別出它的位置,可能不需要執(zhí)行很多的設備處理,因為它可以從云中獲取上下文信息。
這樣的設備長什么樣?相機和傳感器設備將根據(jù)目標而變化,例如,“未來的家用機器人可能在機身中央安裝一個導航相機,并在手腕上安裝一個專用相機輔助操作。”這些相機將包含一個全球模型,為系統(tǒng)提供持續(xù)更新的位置信息以及周圍世界的語義信息。系統(tǒng)還將用前向預測場景模型不斷檢查新的信息,以幫助其對環(huán)境中的變化做出預測和反應。在計算上,這些系統(tǒng)將標記周圍的世界并跟蹤,將所有內容映射到同一個空間,進行自我監(jiān)督學習,以整合新的感官輸入數(shù)據(jù)。最終,如果這個全球模型變得足夠好,那么系統(tǒng)只需要從其傳感器采集與預測不同的信息,從而進一步提高效率。
測試:這個想法引發(fā)的一個棘手問題是,我們如何評估這種空間AI系統(tǒng)的性能。SLAM基準測試往往具有局限性,一些研究人員傾向于對SLAM進行主觀的、定性的評估。Davison建議使用像SlamBench這樣的基準測試,它可以測量各種不同處理器平臺的精度和計算成本方面的性能。在SLAM系統(tǒng)部署的平臺上對SLAM性能進行測試也很有必要,因此同一系統(tǒng)在無人機或機器人上部署需要進行不同的測試。未來,在同一系統(tǒng)內用不同參數(shù)來評估性能將是一件好事,例如分割對象、跟蹤環(huán)境變化、評估電源使用情況、測量重定位穩(wěn)健性等。
為什么很重要:這樣的論文對特定AI領域進行了整體概述。SLAM功能對于在現(xiàn)實世界中部署AI系統(tǒng)至關重要,很可能許多當代AI組件將被用于未來的SLAM系統(tǒng)中,這些系統(tǒng)的設計?·也將越來越專業(yè)化、學習能力更強,并將應用于異構計算機基板上。