2023年3月9日上午。學院邀請了湖南大學信息科學與工程學院胡玉鵬教授在線下為永利yl23411官網(wǎng)師生帶來了一場題為“矛與盾：人工智能范式下的安全系統(tǒng)與系統(tǒng)安全”的學術講座。
胡玉鵬教授是教育部普通高等學校本科教育教學評估專家、中國工程教育認證專家、湖南大學現(xiàn)代工程訓練中心副主任，入選湖南省杰青、芙蓉學者、湖湘青年英才。目前已主持國家保密科研B類重點項目、國家自然科學基金面上項目等國家和省部級課題三十余項，以及華為等高新技術企業(yè)的技術攻關項目十余項。在ACM CSUV、IEEE TDSC、IEEE TCAD、IEEE TC、IEEE TCC、IEEE IoT-J、IEEE/IFIP DSN、CODES+ISSS、IEEE CLUSTER等發(fā)表論文80余篇，包括獲得ACM SIGBED國際旗艦會議CODES+ISSS 2022最佳論文提名、第六屆中國科協(xié)優(yōu)秀科技論文獎等。
隨著近期ChatGPT的出現(xiàn)，人工智能的安全問題也再次受到了人們的關注。胡玉鵬教授就人工智能范式下安全系統(tǒng)存在的內(nèi)生安全缺陷進行了詳細的介紹，并強調(diào)了這些缺陷所帶來的安全風險。由于人工智能模型的復雜性，潛在攻擊者可以惡意修改訓練或測試數(shù)據(jù)的分布以破壞模型結(jié)構(gòu)。這種內(nèi)生的安全隱患所引發(fā)的安全問題日益突出，因此構(gòu)建對抗機器學習攻擊的安全系統(tǒng)顯得尤為重要。
胡玉鵬教授首先以基于深度學習的智能語義分析在稀疏敏感文本挖掘和系統(tǒng)代碼漏洞挖掘中的應用實踐為例，介紹了人工智能技術在構(gòu)建安全系統(tǒng)方面的一些應用研究，闡述了人工智能技術在構(gòu)建安全系統(tǒng)方面的前景和應用場景。接著，胡教授對AI系統(tǒng)的數(shù)據(jù)收集、數(shù)據(jù)預處理、模型訓練、模型推理、系統(tǒng)集成全生命周期的安全問題展開了深入的探討。針對機器學習攻擊技術（如對抗樣本攻擊、投毒攻擊、后門攻擊等）所帶來的安全風險，闡述了最新的攻擊與防御技術，并探討了如何利用高效的混淆技術構(gòu)建能有效對抗機器學習攻擊的PUF系統(tǒng)，以保障人工智能系統(tǒng)內(nèi)部安全結(jié)構(gòu)不被機器學習技術推測。
會上，胡玉鵬教授不僅介紹了人工智能技術在構(gòu)建安全系統(tǒng)方面的最佳實踐，也對未來的研究發(fā)展方向給出了展望，加深了同學們對人工智能技術的認識和理解。
永利yl23411官網(wǎng)
2023年3月12日
當前位置：