報(bào)告人：LIU YANG教授
報(bào)告時(shí)間：2024年6月18日上午10點(diǎn)-11點(diǎn)30
報(bào)告地點(diǎn)：江安校區(qū)多學(xué)科交叉研究創(chuàng)新大樓九樓919報(bào)告廳
報(bào)告內(nèi)容：
AIGC與網(wǎng)絡(luò)安全涉及在軟件開(kāi)發(fā)過(guò)程的所有階段系統(tǒng)地整合安全測(cè)試。其目的是通過(guò)使用工具來(lái)自動(dòng)化人類專家的安全專業(yè)知識(shí)，從而在開(kāi)發(fā)生命周期的早期階段就能早期識(shí)別和解決安全問(wèn)題。然而，其有效性在很大程度上依賴于智能工具模擬或潛在替代安全專家的能力。隨著大型語(yǔ)言模型（LLM）的出現(xiàn)，現(xiàn)在提供了實(shí)現(xiàn)這一目標(biāo)的新手段。在這次演講中，我將討論利用LLM在應(yīng)用安全領(lǐng)域的最新努力，涵蓋漏洞分析的完整生命周期：漏洞檢測(cè)、診斷、POC生成和修復(fù)。另一方面，確保AI應(yīng)用成功部署，LLM的安全性同樣重要。在這個(gè)方向上，我們將展示有關(guān)LLM攻擊面的最新研究成果，包括針對(duì)提示注入的黑盒/白盒攻擊生成、針對(duì)多模態(tài)模型的攻擊、后門攻擊以及可能的防御機(jī)制。最后，我們正在考慮整合這兩個(gè)方面，以開(kāi)發(fā)一個(gè)用于應(yīng)用安全分析的AI支持平臺(tái)。
報(bào)告人簡(jiǎn)介：
LIU YANG博士南洋理工大學(xué)教授，網(wǎng)絡(luò)安全研究中心執(zhí)行主任、CyberSG研發(fā)項(xiàng)目辦公室（CRPO）執(zhí)行主任。2019年授予南洋理工大學(xué)大學(xué)領(lǐng)導(dǎo)論壇講席教授職位，2024年被授予校長(zhǎng)講席教授職位。
LIU YANG博士專長(zhǎng)于軟件工程、網(wǎng)絡(luò)安全和人工智能。他的研究成功地彌合了程序分析、數(shù)據(jù)分析和AI在理論和實(shí)際使用方面的差距，以評(píng)估軟件的設(shè)計(jì)和實(shí)施以實(shí)現(xiàn)高保證和安全性。他的許多研究已經(jīng)成功商業(yè)化。截至目前，在頂級(jí)會(huì)議和期刊上發(fā)表了超過(guò)500篇論文，并獲得了27個(gè)最佳論文獎(jiǎng)和一個(gè)在頂級(jí)軟件工程會(huì)議上的最具影響力系統(tǒng)獎(jiǎng)。他還領(lǐng)導(dǎo)了幾個(gè)主要的研究中心，包括Cysren、CRPO、南洋理工大學(xué)的可信AI中心（TAICeN）和與ICL合作的CREATE中心，專注于醫(yī)療設(shè)備安全。他獲得了多個(gè)高聲望獎(jiǎng)項(xiàng)，包括微軟亞洲研究院獎(jiǎng)學(xué)金、TRF獎(jiǎng)學(xué)金、南洋助理教授、陳振傳獎(jiǎng)學(xué)金、南洋研究獎(jiǎng)、ACM杰出演講者、國(guó)家研究基金會(huì)調(diào)查員獎(jiǎng)和南洋理工大學(xué)創(chuàng)新者（創(chuàng)業(yè)）獎(jiǎng)。
永利yl23411官網(wǎng)
2024年6月12日
當(dāng)前位置：