2024年6月18日星期二上午10點(diǎn)，應(yīng)永利官網(wǎng)方勇教授邀請(qǐng)，南洋理工大學(xué)劉楊教授在永利yl23411官網(wǎng)江安校區(qū)多學(xué)科交叉創(chuàng)新研究大樓919學(xué)術(shù)報(bào)告廳作了題為“A Road Towards an Interaction between Cyber Security and AIGC”的學(xué)術(shù)講座。本場(chǎng)講座由黃誠(chéng)副教授主持。
在本次講座中，劉楊教授深入討論生成式人工智能（Artificial Intelligence Generated Content，AIGC）與網(wǎng)絡(luò)安全之間的關(guān)系，特別是如何在軟件開發(fā)過(guò)程的相關(guān)階段系統(tǒng)地整合安全測(cè)試。
劉楊教授重點(diǎn)介紹利用大語(yǔ)言模型（Large Language Model，LLM）在應(yīng)用安全領(lǐng)域的最新努力，涵蓋漏洞分析的完整生命周期：漏洞檢測(cè)、診斷、概念驗(yàn)證（Proof of concept，POC）的生成和漏洞修復(fù)。LLM的強(qiáng)大自然語(yǔ)言處理能力使其能夠高效地識(shí)別代碼中的潛在漏洞，并提供詳細(xì)的診斷報(bào)告，幫助開發(fā)人員快速理解問(wèn)題所在。LLM還能提出相關(guān)方案，指導(dǎo)開發(fā)人員如何修復(fù)漏洞，從而確保系統(tǒng)的安全性。除了漏洞分析，劉楊教授還展示了有關(guān)LLM攻擊面的最新研究成果，包括針對(duì)提示注入的黑盒和白盒攻擊生成、針對(duì)多模態(tài)模型的攻擊、后門攻擊以及可能的防御機(jī)制。
劉楊教授將上述兩個(gè)方面整合起來(lái)，開發(fā)了一個(gè)用于應(yīng)用安全分析的AI支持平臺(tái)。這一平臺(tái)旨在充分利用LLM的強(qiáng)大能力，系統(tǒng)提升應(yīng)用安全分析的效率和效果，從而為軟件開發(fā)過(guò)程中的安全測(cè)試提供有力支持。通過(guò)自動(dòng)化和智能化的安全分析，顯著減少開發(fā)人員的負(fù)擔(dān)，提高安全問(wèn)題的發(fā)現(xiàn)和解決效率。此外，這一平臺(tái)還將集成最新的攻擊檢測(cè)和防御機(jī)制，確保LLM應(yīng)用的安全性和可靠性。
AIGC與網(wǎng)絡(luò)安全的結(jié)合在軟件開發(fā)過(guò)程中具有重要的現(xiàn)實(shí)意義。通過(guò)引入LLM等先進(jìn)技術(shù)，可以更早、更準(zhǔn)確地發(fā)現(xiàn)并解決安全問(wèn)題，提升軟件的整體安全性和可靠性。在未來(lái)的發(fā)展中，劉楊教授將繼續(xù)探索這一領(lǐng)域，推動(dòng)技術(shù)進(jìn)步，保障信息安全，為社會(huì)和產(chǎn)業(yè)的發(fā)展做出貢獻(xiàn)。報(bào)告結(jié)束后，劉楊教授與在場(chǎng)師生進(jìn)行了深入交流，并詳細(xì)解答了同學(xué)們提出的問(wèn)題。
永利yl23411官網(wǎng)
2024年6月19日
當(dāng)前位置：