大模型安全與產(chǎn)業(yè)應(yīng)用創(chuàng)新研討活動(dòng)成功舉辦

近日，CCS2024成都網(wǎng)絡(luò)安全系列活動(dòng)在成都舉行?！按竽Ｐ桶踩c產(chǎn)業(yè)應(yīng)用創(chuàng)新研討活動(dòng)”同期舉辦，本場(chǎng)活動(dòng)由百度安全、成都無糖信息聯(lián)合承辦，特邀云安全聯(lián)盟CSA大中華區(qū)合作舉辦。本次活動(dòng)聚焦大模型安全以及大模型產(chǎn)業(yè)創(chuàng)新應(yīng)用兩大主題，旨在為大模型技術(shù)的健康發(fā)展和產(chǎn)業(yè)應(yīng)用創(chuàng)新落地提供一套切實(shí)可行的思路與方案，攜手各界生態(tài)合作伙伴，探索人工智能與數(shù)字安全的融合之路，引領(lǐng)大模型時(shí)代下的安全行業(yè)創(chuàng)新變革。

CCS2024 大模型安全與產(chǎn)業(yè)應(yīng)用創(chuàng)新研討活動(dòng)

百度副總裁陳洋在開場(chǎng)致辭中表示，大模型技術(shù)在加速產(chǎn)業(yè)升級(jí)的同時(shí)，也帶來了全新的機(jī)遇與挑戰(zhàn)。面對(duì)這些挑戰(zhàn)與機(jī)遇，我們需要探索出一套行之有效的解決方案，讓蓬勃發(fā)展的大模型產(chǎn)業(yè)能夠健康穩(wěn)定地發(fā)展。百度將攜手生態(tài)合作伙伴，共同構(gòu)建大模型安全防線，引領(lǐng)安全行業(yè)在大模型時(shí)代的創(chuàng)新變革。

云安全聯(lián)盟CSA大中華區(qū)主席李雨航在致辭中介紹了CSA在AI安全領(lǐng)域的最新進(jìn)展。CSA致力于構(gòu)建一個(gè)多方參與、共同治理的AI安全生態(tài)系統(tǒng)，推動(dòng)云安全、AI安全和生成式人工智能應(yīng)用安全、大語言模型安全以及大模型供應(yīng)鏈安全的標(biāo)準(zhǔn)化工作，與海內(nèi)外科技巨頭共同推動(dòng)全球AI安全治理體系的建設(shè)。

多模態(tài)大模型是近年來大模型領(lǐng)域中備受矚目的焦點(diǎn)，會(huì)上，百度安全副總經(jīng)理馮景輝聚焦《多模態(tài)大模型的安全挑戰(zhàn)與應(yīng)對(duì)》發(fā)表主題演講。他指出，多模態(tài)風(fēng)險(xiǎn)不僅僅是視覺風(fēng)險(xiǎn)，更是跨模態(tài)風(fēng)險(xiǎn)，對(duì)多模態(tài)模型的風(fēng)險(xiǎn)評(píng)估要覆蓋認(rèn)知安全、生成安全、模態(tài)安全和對(duì)抗性安全多個(gè)方面。與會(huì)，馮景輝正式發(fā)布百度多模態(tài)內(nèi)容安全解決方案，方案基于模態(tài)對(duì)齊、視覺理解以及魯棒性提升等核心技術(shù)，用多模態(tài)對(duì)齊實(shí)現(xiàn)跨模態(tài)一體化安全，用圖像分割與信息抽取技術(shù)，補(bǔ)充安全性，旨在解決第三方大模型的生成式內(nèi)容合規(guī)、內(nèi)生安全提升、運(yùn)營常態(tài)化風(fēng)險(xiǎn)收斂等關(guān)鍵問題，助力客戶和生態(tài)合作伙伴實(shí)現(xiàn)了大模型的安全升級(jí)。

在《大模型數(shù)據(jù)安全創(chuàng)新與實(shí)踐》的主題演講中，百度數(shù)管平臺(tái)負(fù)責(zé)人季石磊分享了百度在保護(hù)大模型核心資產(chǎn)、確保數(shù)據(jù)安全與隱私方面的最新技術(shù)與方法。他詳細(xì)說明了大模型全生命周期數(shù)據(jù)安全與模型保護(hù)機(jī)制，覆蓋了從語料數(shù)據(jù)管理、模型訓(xùn)練到模型流轉(zhuǎn)、使用和私有化交付等各個(gè)環(huán)節(jié)；并表示基于BaiduAIRealm的數(shù)據(jù)保險(xiǎn)箱產(chǎn)品解決方案，為大模型等高價(jià)值數(shù)據(jù)資產(chǎn)提供全方位防護(hù)。此外，季石磊特別列舉了智能數(shù)據(jù)分類分級(jí)、模型資產(chǎn)防護(hù)以及端云協(xié)同構(gòu)建端到端安全可信鏈路等創(chuàng)新技術(shù)在大模型數(shù)據(jù)安全中的應(yīng)用。

盈科全球數(shù)據(jù)合規(guī)服務(wù)中心主任郭衛(wèi)紅介紹了《大模型在數(shù)據(jù)合規(guī)的應(yīng)用》。她從法律和實(shí)務(wù)的角度，深入分析了如何利用大模型技術(shù)來提升數(shù)據(jù)合規(guī)管理的效率與效果。郭衛(wèi)紅介紹了盈科在個(gè)人信息保護(hù)合規(guī)審計(jì)項(xiàng)目中應(yīng)用大模型的實(shí)踐，通過智能合規(guī)問答、自檢、評(píng)估和審計(jì)等功能，大幅提升了數(shù)據(jù)合規(guī)管理的效率。她特別強(qiáng)調(diào)了大模型在解決法律信息不對(duì)稱問題上的重要作用，以及在合規(guī)檢查、評(píng)估和審計(jì)等環(huán)節(jié)的具體應(yīng)用。郭衛(wèi)紅還分享了盈科AI律所智能空間站等創(chuàng)新應(yīng)用，展示了大模型在法律服務(wù)領(lǐng)域的廣闊應(yīng)用前景。

百度研發(fā)安全負(fù)責(zé)人陳長林帶來了《"文心快碼"智能代碼助手安全實(shí)踐》的分享。生成式人工智能正在為軟件研發(fā)領(lǐng)域帶來前所未有的機(jī)遇，生成式智能編碼提效工具在幫助工程師代碼提效的同時(shí)，其自身的安全性、可靠性需要予以特別關(guān)注，其中的典型風(fēng)險(xiǎn)包括大模型生成代碼的安全性、調(diào)用大模型服務(wù)時(shí)可能存在的代碼敏感信息泄露、網(wǎng)絡(luò)傳輸鏈路劫持、數(shù)據(jù)跨境傳輸?shù)鹊?。陳長林介紹了百度通過智能編碼提效工具"文心快碼"實(shí)現(xiàn)安全左移的最佳實(shí)踐，通過安全漏洞掃描、一鍵自動(dòng)修復(fù)、安全增強(qiáng)模式，助力文心快碼在提高開發(fā)效率的同時(shí)，確保代碼安全。

新華三信息安全研發(fā)副總裁劉忠良分享了《AIGC趨勢(shì)下安全大模型在網(wǎng)絡(luò)安全運(yùn)維與運(yùn)營的落地實(shí)踐》，重點(diǎn)介紹了新華三的靈犀大模型在威脅輔助研判、攻防滲透測(cè)試、自動(dòng)風(fēng)險(xiǎn)處置、智能運(yùn)營分析和智能可視化等場(chǎng)景的應(yīng)用。他詳細(xì)闡述了如何利用大模型提升安全事件研判效率、加速風(fēng)險(xiǎn)響應(yīng)處置、實(shí)現(xiàn)智能安全策略生成等創(chuàng)新應(yīng)用。新華三在安全運(yùn)維、攻防實(shí)戰(zhàn)和安全運(yùn)營等方面的場(chǎng)景化應(yīng)用，展示了大模型在網(wǎng)絡(luò)安全領(lǐng)域帶來的效率提升。

百度安全車與終端安全架構(gòu)師林道正帶來了《見微知著：TARA視角下大模型在汽車合規(guī)的潛力探索》的主題演講。他從威脅分析與風(fēng)險(xiǎn)評(píng)估(TARA)的視角，深入探討了如何利用大模型技術(shù)來提升智能網(wǎng)聯(lián)汽車的安全合規(guī)水平。林道正以TARA場(chǎng)景為例子，結(jié)合快思考系統(tǒng)和慢思考系統(tǒng)的系統(tǒng)設(shè)計(jì)，探討了如何構(gòu)建企業(yè)級(jí)安全知識(shí)管理體系。他詳細(xì)闡述了如何組織運(yùn)營過程中的安全數(shù)據(jù)，并利用大模型技術(shù)解決TARA過程中的復(fù)雜性、合規(guī)標(biāo)準(zhǔn)、演變威脅和人才缺口等挑戰(zhàn)。林道正還介紹了百度在智能網(wǎng)聯(lián)汽車安全合規(guī)領(lǐng)域的創(chuàng)新實(shí)踐，展示了大模型在汽車安全領(lǐng)域的應(yīng)用前景。

會(huì)上，云安全聯(lián)盟CSA大中華區(qū)與百度安全重磅發(fā)布了《AI安全產(chǎn)業(yè)圖譜(2024)》，全面呈現(xiàn)了AI安全領(lǐng)域的最新發(fā)展態(tài)勢(shì)和未來趨勢(shì)。云安全聯(lián)盟CSA大中華區(qū)主席李雨航與百度安全副總裁陳洋共同啟動(dòng)了圖譜的發(fā)布儀式。

云安全聯(lián)盟CSA大中華區(qū)《AI安全產(chǎn)業(yè)圖譜(2024)》

通過本次活動(dòng)，百度安全攜手產(chǎn)業(yè)生態(tài)共同探討了大模型安全與產(chǎn)業(yè)應(yīng)用創(chuàng)新的前沿話題，旨在為大模型技術(shù)的健康發(fā)展和產(chǎn)業(yè)應(yīng)用創(chuàng)新落地提供了切實(shí)可行的思路與方案，為推動(dòng)大模型技術(shù)在安全領(lǐng)域的創(chuàng)新應(yīng)用，構(gòu)建更安全、更可信的數(shù)字世界奠定了堅(jiān)實(shí)基礎(chǔ)。（李妍）