報告題目:基于重整化群的深度神經網絡可解釋性研究
報 告 人: 鞏馥洲 研究員 中國科學院數學與系統科學研究院
報告時間: 2024年8月8日 10:00-11:00
報告地點: 數學樓一樓第二報告廳
校内聯系人:韓月才 hanyc@jlu.edu.cn
報告摘要:
将深度神經網絡的輸入數據集看成一個統計物理系統,并将其輸出的重要特征量看成輸入數據集這一統計物理系統的宏觀特征。基于統計物理中的重整化群理論,将深度神經網絡的随機梯度下降算法等求解算法視為一種粗粒化型重整化過程,證明了它與輸入數據集的典則重整化過程的等效性。由此知,深度神經網絡有能力提取到輸入數據集的宏觀特征,從理論上給出了深度神經網絡的可解釋性。本報告将首先簡單介紹重整化群理論的基本思想及所研究的深度神經網絡,其次将分别介紹關于一維伊辛模型和一類指數族分布函數描述的輸入數據集的研究結果,最後将介紹未來進一步的研究。
報告人簡介:
鞏馥洲,中國科學院數學與系統科學院研究員,博士生導師。曾任中國科學院數學與系統科學研究院副院長、應用數學研究所所長,國家基金委創新研究群體學術帶頭人、中科院随機複雜結構與數據科學重點實驗室主任,第九與十屆中國數學會副理事長、秘書長兼法人代表,笫十三屆中國數學會黨委書記、副理事長、秘書長兼法人代表,中國工業與應用數學學會副理事長。證明了環路空間上的加權龐加萊不等式與帶位勢項的對數Sobolev不等式, 解決了Gross猜測;證明了伊藤空間上Malliavin分析的拟不變性。參加和負責了國家973計劃、國家基金委基礎科學中心項目、創新研究群體、傑出青年基金、傑出青年基金B類、重點項目等多項科研項目。