9 月 6 日上午，在 2024 Inclusion・外灘大會(huì)“以 AI 守護(hù) AI 大模型時(shí)代的攻守之道”論壇上，國(guó)內(nèi)首個(gè)大模型攻防主題的科技賽事“全球 AI 攻防挑戰(zhàn)賽”宣布正式啟動(dòng)。

　　這項(xiàng)賽事聚焦 AI 大模型產(chǎn)業(yè)實(shí)踐，設(shè)計(jì)了攻、防雙向賽道，邀請(qǐng)各路“白帽黑客”(IT之家注：站在黑客立場(chǎng)攻擊自己系統(tǒng)以進(jìn)行安全漏洞排查的程序員)、技術(shù)人才分別進(jìn)行針對(duì)文生圖大模型“數(shù)據(jù)投毒”的攻防實(shí)戰(zhàn)演練，以及金融場(chǎng)景大模型生成內(nèi)容的防偽檢測(cè)競(jìng)賽。

　　“攻擊賽道”聚焦于文生圖大模型的實(shí)際應(yīng)用風(fēng)險(xiǎn)問(wèn)題。參賽選手可通過(guò)目標(biāo)劫持、情景帶入、邏輯嵌套等多樣化的動(dòng)態(tài)攻擊誘導(dǎo)技術(shù)，誘發(fā)大模型輸出風(fēng)險(xiǎn)圖像，以此激活大模型的潛在弱點(diǎn)和漏洞，增強(qiáng)大模型生圖的安全免疫能力。

　　“防守賽道”則聚焦于 AI 核身中的金融場(chǎng)景憑證篡改檢測(cè)，以應(yīng)對(duì)日益嚴(yán)峻的 Deepfake 深度偽造及 AIGC 假證風(fēng)險(xiǎn)。大賽提供百萬(wàn)級(jí)憑證篡改數(shù)據(jù)訓(xùn)練集，參賽選手需要研發(fā)和訓(xùn)練模型，并利用對(duì)應(yīng)的測(cè)試集評(píng)估模型有效性，給出數(shù)據(jù)偽造概率值。

　　該賽事由中國(guó)圖像圖形學(xué)會(huì)、螞蟻集團(tuán)、云安全聯(lián)盟(CSA)大中華區(qū)聯(lián)合主辦，并得到了上海交通大學(xué)、浙江大學(xué)等 C9 高校及多家產(chǎn)學(xué)研組織的支持。

　　賽事設(shè)立了近 100 萬(wàn)元獎(jiǎng)金池，并邀請(qǐng)了多位學(xué)術(shù)界和工業(yè)界的知名專家擔(dān)任評(píng)委。中國(guó)工程院院士、中國(guó)圖象圖形學(xué)學(xué)會(huì)理事長(zhǎng)王耀南，云安聯(lián)盟(CSA)大中華區(qū)主席李雨航擔(dān)任本次大賽的指導(dǎo)委員會(huì)專家，來(lái)自清華大學(xué)、上海交通大學(xué)、上海人工智能實(shí)驗(yàn)室、中國(guó)圖象圖形學(xué)學(xué)會(huì)等單位的近 30 位知名學(xué)者將參與大賽的組織及評(píng)審工作。