2020年11月7日下午,2020中國自動化大會專題論壇之“智能計算與機器學習”在上海國際會議中心成功召開。智能計算與機器學習是目前實現人工智能最主要的途徑和方式,也是人工智能中最具智能特征、最前沿的研究領域之一,是綜合自動化、計算機科學、數學、生物學、神經科學等多學科的新興交叉領域。此次專題論壇面向未來通用人工智能發展的趨勢,展示智能計算與機器學習領域最新的研究成果,包括機器學習的公理化、頓悟的人工智能模型、面向開放環境的魯棒模式識別、非監督增強匹配、遷移性對抗攻擊、標記增強以及神經網絡訓練等。
此次論壇由中國工程院王天然院士與清華大學周杰教授共同擔任論壇主席。論壇由周杰教授主持。
論壇主席王天然院士
論壇主席周杰教授
中國科學院自動化研究所劉成林研究員做了題為《面向開放環境的魯棒模式識別》的報告。劉成林研究員首先對該領域的相關工作做出了總體的介紹,然后介紹了深度學習在其中取得的豐碩成果,同時詳細分析了傳統模式識別分類器在開放集中學習效果不佳的原因。并由此提出了基于卷積原型學習的開放集分類方法,該方法使用卷積神經網絡提取圖像特征后,基于最近距離規則在特征空間對其分類。最后,劉成林研究員介紹了該方法在異常模式拒識以及小樣本學習模型泛化領域取得的最新進展。
劉成林:面向開放環境的魯棒模式識別
清華大學張長水教授在報告《圖像的非監督增強匹配》中介紹了關于圖像的非監督增強匹配方法研究的有關進展和一些思考。張教授首先說明當前在使用深度神經網絡識別圖像時,需要標注大量圖像,而這需要耗費大量的人力和時間。對于這一問題,他給出的解決方案是:給定一些物體的標準圖像,對大量未標注的圖像實現自動的圖像標注。然后介紹了圖像非監督增強匹配算法的一些研究進展與相關結果。最后,張教授以文字識別和交通標示識別問題為例,介紹了其課題組設計的新方法,實驗結果表明所提方法較好地完成了這些圖像的自動標注。
張長水:圖像的非監督增強匹配
北京大學林宙辰教授帶來報告:《Training Neural Networks by Lifted Proximal Operator Machines》。報告介紹了一種用于訓練全連接前饋神經網絡的Lifted Proximal Operator Machines(LPOM)方法。LPOM只使用激活函數本身,不需要梯度步驟,從而避免了基于梯度的方法中梯度消失或爆炸的問題。它還可以處理各種非遞減的Lipschitz連續激活函數。此外,LPOM的內存效率幾乎與SGD一樣,而且它的參數調優非常容易。報告中指出,林教授及其團隊進一步實現并分析了LPOM的并行解,同時驗證了LPOM在各種網絡架構和數據集上的優勢。最后林教授介紹了一些最新研究進展和思考。
林宙辰:Training Neural Networks by Lifted Proximal Operator Machines
上海交通大學楊杰教授的報告《第一類對抗攻擊與注意力的攻擊機制研究》,從注意力攻擊的角度介紹了神經網絡的第一類對抗攻擊問題。由于基于神經網絡的人工智能技術逐步在社會中展開應用,其安全性問題成為學者關注的重點。楊杰教授首先介紹了神經網絡對抗攻擊的背景,并提出了利用對抗攻擊生成統計學第一類錯誤的方法。同時從注意力機制切入,結合其它遷移性增強方法,提出了一種具有高度遷移特性的神經網絡攻擊方法。通過實驗結果表明,當前的主流深度神經網絡在不加以防御的情況下準確率均無法達到實用要求。
楊杰:第一類對抗攻擊與注意力的攻擊機制研究
北京交通大學于劍教授做了題為《機器學習的公理化研究》的報告。盡管目前機器學習已在圖像識別、語音處理及工業系統領域取得了豐碩的成果,但在其中很難看到基礎學科(例如數學、物理學)那種貫穿始終的體系。于教授首先介紹了機器學習的國內外教材與流派,從而引出了關于機器學習的公理化的思考。然后,類比人類與機器的學習,從認知假設、類表示與類表示公理與歸類公理等方面介紹了機器學習的公理化的前沿進展、主要技術進展及發展趨勢。
于劍:機器學習的公理化研究
之后是東南大學耿新教授進行報告,報告名為《“標記增強”-釋放標記空間的威力》。現有的大部分數據集,示例的標記均采用0/1標記,即用0表示不相關,1表示相關。與之相異,現實世界中不存在如此清晰的分別,如何給予物體適合的標簽成為提升機器學習性能的關鍵技術之一。耿教授提出了標記增強的概念,介紹了標記增強與模糊聚類、知識蒸餾、標記分布的內在關聯與相關研究進展。最后,耿教授介紹了課題組在標記增強解釋方面取得的最新進展。標記增強能夠通過挖掘出訓練樣本中隱含的標記重要性差異信息,將邏輯標記轉化為標記分布,從而有效地提升預測精度。耿教授指出,將標記分布學習方法與標記增強配合,能夠有效匹配大多數監督學習問題。
耿新:標記增強”-釋放標記空間的威力
論壇的最后,浙江大學吳飛教授帶來報告《數據驅動與知識引導相互結合智能計算》。經典人工智能理論框架建立在以遞歸可枚舉為核心的演繹邏輯和語義描述基礎方法之上,使得算法難以事先預設好智能算法能夠處理的所有情況,因此智能算法在處理不確定性、開放性和動態性等問題時難以發揮作用。吳教授首先介紹了數據驅動下歸納、知識指導中演繹、行為探索中頓悟的人工智能新模型和新方法。然后介紹了數據驅動與知識引導在經濟、教育、司法判案、疾病診斷方面的應用。吳教授指出,有效利用涌現數據、先驗知識和行為交互,推動人工智能具備“學會學習(learning to learn)”能力是未來人工智能發展的趨勢。
吳飛:數據驅動與知識引導相互結合智能計算
此次論壇反響熱烈,參會老師、學者以及研究生進行了積極提問和討論,從中受益匪淺。
來源:大會組委會