風起于青萍之末,浪成于微瀾之間!2023年初ChatGPT的推出,讓AI技術(shù)掀起了一波前所未有的發(fā)展與應用熱潮,同時也不可避免地帶來的許多新的安全風險,這些安全風險涵蓋了從網(wǎng)絡威脅、數(shù)據(jù)安全、隱私保護、倫理關(guān)切和監(jiān)管影響等各個方面。

2023年11月2日,由中國內(nèi)部審計協(xié)會、ISACA中國、谷安天下公司聯(lián)合舉辦的第三屆數(shù)字風險大會于在北京隆重開幕。本次大會主題聚焦于“AI時代的數(shù)字風險挑戰(zhàn)與應對”,邀請了眾多網(wǎng)絡安全與數(shù)字風險領(lǐng)域的研究學者、產(chǎn)業(yè)專家、用戶代表聚集一堂,從安全科技、風險控制和IT審計等多維度視角,全面探討了AI技術(shù)應用的發(fā)展機遇和新型數(shù)字風險管理。

中國內(nèi)部審計協(xié)會副會長兼秘書長沈立強

在本次大會的主論壇上,中國內(nèi)部審計協(xié)會副會長兼秘書長沈立強代表大會主辦方致辭,他表示:AI技術(shù)的突破性進展成為引領(lǐng)數(shù)字時代發(fā)展的新引擎。內(nèi)部審計作為組織內(nèi)部經(jīng)濟決策科學化、管理規(guī)范化,風險防控常態(tài)化的一項重要制度設計,承擔著為各個組織實現(xiàn)高質(zhì)量發(fā)展保駕護航的重要使命。為進一步推動內(nèi)部審計的數(shù)字化轉(zhuǎn)型,企業(yè)組織應該做好以下方面:一是要增強使命感,充分認識到數(shù)字化轉(zhuǎn)型是實現(xiàn)高質(zhì)量發(fā)展的必然要求;二是要堅持正確方法論,注重數(shù)字化轉(zhuǎn)型的系統(tǒng)性、整體性、協(xié)同性和時效性;三是要勇于自我革命,著力加強內(nèi)部審計數(shù)字化轉(zhuǎn)型的能力建設。

ISACA全球首席戰(zhàn)略官Chris Dimitriadis

ISACA全球首席戰(zhàn)略官Chris Dimitriadis以遠程方式為大會發(fā)表了主題為《數(shù)字信任護航AI安全》的視頻演講。他指出:AI正在改變各個行業(yè)的發(fā)展模式并支持業(yè)務創(chuàng)新,為新產(chǎn)品和新的服務模式的推出鋪平道路。AI技術(shù)應用雖然存在風險,但也可以使數(shù)字信任行業(yè)收益。在IT審計工作中應用AI,能夠?qū)崟r審計完整的數(shù)據(jù)集,取代傳統(tǒng)的抽樣或定時審計。數(shù)字信任可以支持網(wǎng)絡安全識別、保護、檢測、響應和恢復,而AI監(jiān)控和增強技術(shù)運營作為一個整體,其實現(xiàn)方法將會更智能、更快捷、更全面。

中國內(nèi)部審計協(xié)會副會長、北京國家會計學院教授 秦榮生

中國內(nèi)部審計協(xié)會副會長、北京國家會計學院教授秦榮生發(fā)表了主題為《審計智能與智能審計》的演講,他指出:生成式AI改變了數(shù)據(jù)生成方式和數(shù)據(jù)生成規(guī)律,并顛覆數(shù)據(jù)庫的結(jié)構(gòu)以及數(shù)據(jù)分析方式。生成式AI產(chǎn)業(yè)應該在繼續(xù)加強技術(shù)創(chuàng)新和應用推廣的同時,也要注重加強對生成式 AI 生成數(shù)據(jù)的審計,保障生成式AI生成數(shù)據(jù)的真實和可信,研究審計生成式AI生成數(shù)據(jù)的實現(xiàn)路徑。隨著智能審計體系的構(gòu)建,人機共生將成為未來數(shù)智化審計工作的一部分。

中國建設銀行首席信息官金磐石

中國建設銀行首席信息官金磐石發(fā)表了主題為《AI 技術(shù)在銀行業(yè)數(shù)字化轉(zhuǎn)型中的應用與挑戰(zhàn)》的主旨演講,并圍繞AI技術(shù)賦能建行數(shù)字化轉(zhuǎn)型和建行應用AI技術(shù)的挑戰(zhàn)及應對措施兩大方面展開詳細說明。據(jù)金磐石介紹:基于企業(yè)級人工智能平臺,中國建設銀行已發(fā)布400多個模型服務,支撐800多個業(yè)務場景。目前,中國建設銀行對AI技術(shù)應用需求旺盛,實現(xiàn)了業(yè)技融合多維分析,能夠通過差異化推進場景建設以及產(chǎn)品化建設敏捷賦能。

北京大學計算機學院教授博士生導師 陳鐘

北京大學計算機學院教授博士生導師陳鐘發(fā)表了《人工智能安全挑戰(zhàn)與治理》的主題演講。他表示:隨著互聯(lián)網(wǎng)技術(shù)演進到賽博空間,涌現(xiàn)出更多的技術(shù)創(chuàng)新,比如人臉識別、生成式預訓練大模型GPT、AI作畫、AI創(chuàng)作等。我國應高度重視人工智能產(chǎn)業(yè)的發(fā)展與治理,只有數(shù)字信任才能加快新興技術(shù)的創(chuàng)新應用、彌合國際/區(qū)域數(shù)字鴻溝。當前亟需從可信數(shù)字身份出發(fā),借助密碼技術(shù)、區(qū)塊鏈、大數(shù)據(jù)、人工智能等技術(shù),打造面向數(shù)字經(jīng)濟時代的新型數(shù)字信任體系,為政府和企業(yè)的數(shù)字化轉(zhuǎn)型奠定數(shù)字安全基礎設施,賦能數(shù)字經(jīng)濟發(fā)展和智慧城市建設。

中國移動通信集團內(nèi)部審計部武漢分部總經(jīng)理張國宏

中國移動通信集團內(nèi)部審計部武漢分部總經(jīng)理張國宏在《運用AI技術(shù)開展數(shù)字化審計的探索與實踐》演講中表示:大道至簡,審計思維也需要化繁為簡。中國移動集團內(nèi)部審計部充分利用公司在人工智能、云計算、大數(shù)據(jù)等方面的先進技術(shù)儲備設計了覆蓋底座層、平臺層、工具層、產(chǎn)品層四個層次的“Al+審計”整體技術(shù)架構(gòu),實現(xiàn)“通用平臺+場景應用”模式在審計領(lǐng)域的落地,為AI審計能力的快速構(gòu)建、高效運行、深入應用提供堅實保障。

谷安天下董事長陳偉

谷安天下董事長陳偉發(fā)表了題為《新時期數(shù)智風險管控的思路與方法》的主題演講,并就新時期數(shù)智化風險的特點、AI安全與倫理的重要性、AI風險管理框架分析對比和適用AI風險管控思路方法展開了詳細闡釋。陳偉指出,各類機構(gòu)在面對新型AI應用帶來的風險時,可根據(jù)國際上AI安全與倫理通用規(guī)則及國內(nèi)主管部門對科技倫理和AI安全的基本要求,開展針對AI的安全風險評估,并在此基礎上建立適宜的AI安全風險控制框架,逐步推進AI安全控制措施的落地實施。

火山引擎大模型安全平臺產(chǎn)品負責人 郭建新

火山引擎大模型安全平臺產(chǎn)品負責人郭建新發(fā)表了題為《基于云原生的大模型安全分析》的主題演講,對大模型的業(yè)務分析、安全需求、安全架構(gòu)、業(yè)務安全以及基于云原生的安全防護等內(nèi)容進行了詳細介紹。郭建新表示:大模型技術(shù)在具體應用時面臨模型輸出異常、對話機制異常、數(shù)據(jù)安全、大模型系統(tǒng)漏洞檢測等問題。為了增強大模型的安全性,組織需要從防御者權(quán)限角度出發(fā),開展數(shù)據(jù)質(zhì)量審查、基于端到端的模型增強、基于流程的模型增強。

在本次大會上,還發(fā)布了網(wǎng)絡安全和數(shù)字風險領(lǐng)域的多項研究成果,分別是由中國內(nèi)部審計協(xié)會、谷安天下聯(lián)合編寫的《數(shù)智化審計調(diào)研報告》,由ISACA編寫發(fā)布的《生成式AI應用現(xiàn)狀及政策建議報告》和《2023年網(wǎng)絡安全現(xiàn)狀 ——勞動力、資源和網(wǎng)絡運營的全球發(fā)展新態(tài)勢報告》,以及安全牛調(diào)研編寫的《AI時代的安全風險與能力創(chuàng)新》研究報告。這些報告涵蓋了企業(yè)組織的IT審計、網(wǎng)絡安全、人才培養(yǎng)和AI應用等熱點領(lǐng)域,對相關(guān)行業(yè)和領(lǐng)域的發(fā)展具有重要的指導和參考價值。

為了從應用實踐角度關(guān)注AI技術(shù)的應用風險和價值,本次大會特別設置了“數(shù)智化風險控制與IT審計”和“AI引領(lǐng)數(shù)字風險防護創(chuàng)新”兩場主題分論壇,一眾行業(yè)大咖針對各自主題發(fā)表了一系列精彩演講,以自身見解和深度經(jīng)驗分享引發(fā)了現(xiàn)場觀眾的熱烈討論。

第三屆數(shù)字風險大會的舉辦,為行業(yè)搭建了一個思想碰撞和經(jīng)驗分享的多層次平臺,提出了在AI時代數(shù)字進行風險管理的重要性和迫切性,引領(lǐng)行業(yè)走向更加安全和可持續(xù)的未來。據(jù)介紹,數(shù)字風險大會目前已經(jīng)成功舉辦了三屆,該會議旨在讓數(shù)字風險和網(wǎng)絡安全領(lǐng)域的思想領(lǐng)袖、行業(yè)主管、業(yè)內(nèi)學者、企業(yè)高層、技術(shù)專家聚集在一起,共同面對和探討當下業(yè)界緊迫的數(shù)字風險問題,同時推動行業(yè)各方緊密合作,共同開發(fā)全面的策略和前沿的解決方案,以有效地管理各種數(shù)字風險。

關(guān)鍵詞：