10月29日下午，信息科學(xué)與工程學(xué)院“新技術(shù)新應(yīng)用系列講座”之“人工智能安全”專題分享會在C中301教室順利舉行。本次講座由芮立副教授主講，聚焦AI時(shí)代的安全風(fēng)險(xiǎn)與防護(hù)前沿，吸引了學(xué)院相關(guān)專業(yè)師生參與。
講座伊始，芮立副教授以《人工智能安全報(bào)告》數(shù)據(jù)切入：2023年基于AI的深度偽造欺詐暴增3000%、釣魚郵件增長1000%，更有國家背景APT組織利用AI實(shí)施十余起網(wǎng)絡(luò)攻擊。他指出，大模型技術(shù)的普及讓AI成為“雙刃劍”，其惡意使用已對政治、網(wǎng)絡(luò)、物理安全形成多重威脅，“AI安全不是技術(shù)問題，更是關(guān)乎產(chǎn)業(yè)與社會的系統(tǒng)性挑戰(zhàn)”。
在“AI時(shí)代的數(shù)據(jù)安全”板塊，芮立副教授梳理了傳統(tǒng)CIA三要素（保密性、完整性、可用性）向“隱私保護(hù)+算法安全+倫理合規(guī)”的擴(kuò)展邏輯。他結(jié)合多模態(tài)數(shù)據(jù)融合、模型逆向攻擊等實(shí)例，解析當(dāng)前行業(yè)面臨的“數(shù)據(jù)維度爆炸”“算法黑箱風(fēng)險(xiǎn)”“隱私效用博弈”三大核心矛盾，并強(qiáng)調(diào)：“AI數(shù)據(jù)安全的本質(zhì)，是在數(shù)據(jù)價(jià)值挖掘與個(gè)體隱私保護(hù)間尋找動(dòng)態(tài)平衡。”
談及未來趨勢，芮立副教授重點(diǎn)介紹了“AI+零信任”的破局路徑。他引用Gartner報(bào)告指出，依賴殺毒軟件與防火墻的“拼湊式防御”已失效，而AI驅(qū)動(dòng)的零信任體系可通過三大技術(shù)實(shí)現(xiàn)升級：一是自適應(yīng)訪問控制，實(shí)時(shí)分析用戶行為、設(shè)備狀態(tài)等信息調(diào)整權(quán)限；二是智能威脅檢測與響應(yīng)，建立行為基線識別數(shù)據(jù)外泄等異常；三是零知識證明（ZKP）技術(shù)，在金融、醫(yī)療等領(lǐng)域?qū)崿F(xiàn)數(shù)據(jù)真實(shí)性驗(yàn)證與原始信息保護(hù)的兼顧。
芮立副教授現(xiàn)就讀于陸軍工程大學(xué)網(wǎng)絡(luò)空間安全一級學(xué)科博士學(xué)位，參與國家自然科學(xué)基金項(xiàng)目，研究成果發(fā)表于《通信學(xué)報(bào)》等頂級期刊。講座中，他既分享了前沿技術(shù)動(dòng)態(tài)，也結(jié)合高校科研與產(chǎn)業(yè)應(yīng)用的實(shí)際場景，與在場師生就AI安全人才培養(yǎng)、倫理規(guī)范落地等問題展開交流。
參會學(xué)生表示，講座不僅厘清了AI安全的技術(shù)框架，更讓大家認(rèn)識到專業(yè)學(xué)習(xí)與產(chǎn)業(yè)安全需求的緊密關(guān)聯(lián)，為后續(xù)學(xué)習(xí)與實(shí)踐提供了方向指引。
