2023 年6月21日，CSIG圖像圖形中國行來到深圳大學(xué)，本次研討會旨在定位于人工智能安全威脅與知識產(chǎn)權(quán)保護(hù)等前沿技術(shù)，展示該領(lǐng)域最新的研究成果，并討論研究中面臨的難題與挑戰(zhàn)。活動主辦單位包括中國圖象圖形學(xué)學(xué)會（CSIG）、廣東省圖象圖形學(xué)會，承擔(dān)單位包括CSIG 數(shù)字媒體取證與安全專委會、深圳大學(xué)電子與信息工程學(xué)院（廣東省智能信息處理重點(diǎn)實(shí)驗(yàn)室）、中山大學(xué)網(wǎng)絡(luò)空間安全學(xué)院。本次會議得到了廣泛關(guān)注，吸引了來自香港城市大學(xué)、重慶郵電大學(xué)、海南大學(xué)、灣區(qū)大學(xué)、中山大學(xué)、深圳大學(xué)等高校師生前來參會。 會議開幕式由深圳大學(xué)李斌教授主持，深圳大學(xué)電子與信息工程學(xué)院執(zhí)行院長黃磊特聘教授致開幕詞。李斌教授、陳昌盛副教授、楊文元助理教授分別為來訪專家主持學(xué)術(shù)報(bào)告。 
圖 1 李斌教授主持開幕式  圖 2 黃磊教授致辭  圖 3 陳昌盛副教授主持報(bào)告  圖 4 楊文元助理教授主持報(bào)告  圖 5 微眾銀行范力欣博士作報(bào)告 來自微眾銀行范力欣博士作了題目為“模型版權(quán)認(rèn)定——進(jìn)展與挑戰(zhàn)”的報(bào)告。報(bào)告回顧了人工智能模型的發(fā)展，展示了生成模型的結(jié)果，以及AI生成侵害版權(quán)的案例，并由此引出了模型版權(quán)認(rèn)定的機(jī)遇與挑戰(zhàn)。報(bào)告主要集中在模型生命周期與知識產(chǎn)權(quán)保護(hù)這個(gè)主題上。范力欣博士首先介紹了模型版權(quán)保護(hù)系統(tǒng)包含的實(shí)體，分析了各個(gè)實(shí)體之間在模型版權(quán)保護(hù)過程中扮演的角色。報(bào)告還引出了模型版權(quán)保護(hù)的一些存在的問題，包括可證明安全缺失、全生命周期測試框架缺失、AIGC模型版權(quán)保護(hù)挑戰(zhàn)、聯(lián)邦學(xué)習(xí)版權(quán)保護(hù)挑戰(zhàn)、Trade-off:惡意投毒或者水印嵌入、LLM版權(quán)版權(quán)保護(hù)挑戰(zhàn)、IPR功能多樣化挑戰(zhàn)以及法律社會相關(guān)等。  圖 6 暨南大學(xué)夏志華教授作報(bào)告 暨南大學(xué)夏志華教授作了題目為“人工智能隱私與取證”的報(bào)告。報(bào)告從人工智能數(shù)據(jù)隱私角度出發(fā)，介紹了AI隱私相關(guān)技術(shù)以及協(xié)議，由此引出了基于秘密共享的非線性函數(shù)sigmoid和tanh的安全兩方協(xié)議，基于此提出基于分治策略的指數(shù)協(xié)議，并將其應(yīng)用于sigmoid和tanh函數(shù)中；接著夏志華老師介紹了魯棒GAN模型水印方案，從已有的GAN模型水印工作出發(fā)，引出了夏教授團(tuán)隊(duì)的基于預(yù)訓(xùn)練水印解碼器的GAN模型水印方法；以及ChatGPT生成摘要檢測方法等相關(guān)工作。  圖 7 清華大學(xué)深圳國際研究生院夏樹濤教授作報(bào)告 清華大學(xué)深圳國際研究生院夏樹濤教授作了題目為“信息論、機(jī)器學(xué)習(xí)與AI 安全初探”的報(bào)告。報(bào)告回顧了深度學(xué)習(xí)的發(fā)展歷史，引出了第三次AI浪潮下模型大規(guī)模應(yīng)用面臨的機(jī)遇和挑戰(zhàn)。接著夏教授介紹了機(jī)器學(xué)習(xí)與信息論的關(guān)系，闡述了信息論相關(guān)知識對機(jī)器學(xué)習(xí)模型安全的啟示和指導(dǎo)。夏教授重點(diǎn)介紹了AI數(shù)據(jù)壓縮存在的問題，并提供了相關(guān)的解決思路和方法，主要采用了非對稱壓縮和邊信息技術(shù)提升了數(shù)據(jù)壓縮效率，相比JPEG壓縮提升了壓縮率。最后，夏教授介紹了糾錯(cuò)碼在AI模型安全中的應(yīng)用。  圖 8 哈爾濱工業(yè)大學(xué)（深圳）陳斌助理教授作報(bào)告 哈爾濱工業(yè)大學(xué)（深圳）陳斌助理教授作了題目為“面向多媒體檢索系統(tǒng)的安全與版權(quán)保護(hù)”的報(bào)告。報(bào)告首先介紹了多媒體檢索的背景知識和相關(guān)方法，主要包括最近鄰搜索及其替代方案。接著從香農(nóng)信息論出發(fā)介紹了信源編碼的原理，引出了基于深度學(xué)習(xí)的多媒體檢索方法，具體包括了深度量化和深度哈希兩類方法。此外，報(bào)告對多媒體檢索方法抵抗對抗攻擊的能力進(jìn)行了分析，探討了對抗噪聲在視頻檢索的版權(quán)保護(hù)中可能的應(yīng)用。報(bào)告最后總結(jié)了深度檢索系統(tǒng)未來面臨的機(jī)遇和挑戰(zhàn)。  圖 9 南京航空航天大學(xué)薛明富副教授作報(bào)告 南京航空航天大學(xué)薛明富副教授作了題目為“深度學(xué)習(xí)模型的主動授權(quán)控制”的報(bào)告。報(bào)告從深度模型版權(quán)保護(hù)的角度出發(fā)，對相關(guān)方法根據(jù)嵌入主體和嵌入方式等角度進(jìn)行了分類。報(bào)告接著介紹了主動式模型版權(quán)保護(hù)的概念、需要解決的問題以及注意事項(xiàng)。報(bào)告具體對基于參數(shù)擾動加密的模型版權(quán)保護(hù)方法、基于多觸發(fā)模型的后門攻擊方法、基于隱蔽后門和用戶身份認(rèn)證的主動授權(quán)方法、罕見對抗樣本作為模型指紋的方法、基于樣本相關(guān)后門的主動授權(quán)控制以及用戶指紋追蹤方法和基于可逆空間域?qū)箻颖镜臄?shù)據(jù)集授權(quán)控制方法。最后對面向主動授權(quán)控制的模型版權(quán)保護(hù)方法進(jìn)行了總結(jié)。  圖 10 香港中文大學(xué)（深圳）吳保元副教授作報(bào)告 香港中文大學(xué)（深圳）吳保元副教授作了題目為“對抗機(jī)器學(xué)習(xí)的統(tǒng)一視角和最新進(jìn)展”的報(bào)告。報(bào)告首先介紹了對抗機(jī)器學(xué)習(xí)的概念和機(jī)理，包括對抗樣本攻擊、后門攻擊和權(quán)重攻擊的區(qū)別和聯(lián)系；并且對對抗機(jī)器學(xué)習(xí)范式進(jìn)行了定義。報(bào)告接著對后門攻擊方法進(jìn)行了分類總結(jié)和歸納，從一種不可見后門攻擊方法出發(fā)，介紹了一種魯棒的后門攻擊方法；另外，針對目標(biāo)跟蹤任務(wù)，介紹了相應(yīng)的后門攻擊方法，并且取得了很好的視覺效果和魯棒性；報(bào)告還介紹了面向3D點(diǎn)云分類任務(wù)的后門攻擊方法。報(bào)告接著介紹了后門攻擊相應(yīng)的防御方法，包括了從模型訓(xùn)練過程、特征空間和訓(xùn)練數(shù)據(jù)角度出發(fā)的相關(guān)方法。最后，報(bào)告對后門攻擊和防御方法進(jìn)行了梳理總結(jié)，提供了相關(guān)的開源工具。  圖 11 上海大學(xué)吳漢舟副教授作報(bào)告 上海大學(xué)吳漢舟副教授作了題目為“頻域可解釋性黑盒模型水印”的報(bào)告。報(bào)告首先對模型水印基于驗(yàn)證方式的不同進(jìn)行了分類，重點(diǎn)介紹了黑盒模型水印的基本框架。報(bào)告針對在空域嵌入水印方案的魯棒性不強(qiáng)的問題，提出了在頻域嵌入水印的新方案，方法首先分析了頻域擾動對模型魯棒性/泛化能力的影響，得出低頻擾動更適合用于黑盒模型水印的結(jié)論。接著利用聚類方法找到擾動頻率集并添加高斯擾動，并且模型在具體任務(wù)上具有較好的保真性，在水印驗(yàn)證上具有較好的魯棒性。   圖 12 會議現(xiàn)場 在提問環(huán)節(jié)，現(xiàn)場參會人員就自己感興趣的問題向報(bào)告的專家進(jìn)行了提問，各位報(bào)告專家分別進(jìn)行了詳細(xì)的解答，使他們加深了對學(xué)科的發(fā)展前沿的了解。 會后，各位專家和老師同學(xué)就人工智能安全威脅與模型保護(hù)主題展開圓桌討論，各位專家分別給出了自己對未來可能面臨的機(jī)遇和挑戰(zhàn)給出了獨(dú)到的見解和指導(dǎo)，同學(xué)們從中受益良多。至此，“CSIG圖像圖形中國行”在深圳大學(xué)取得了圓滿的成功！ 圖 13 與會人員積極討論  圖 14 會后合影 |
