新聞中心news 
CQ9電子官網(wǎng)“接管數(shù)字世界”的AI需要適配怎樣的監(jiān)管框架
2024-09-28 08:13:42
瀏覽次數(shù)：
次
返回列表
CQ9電子官網(wǎng)“接管數(shù)字世界”的AI需要適配怎樣的監(jiān)管框架“生成式AI最大的想象力，絕不是在手機(jī)屏幕上做一兩個(gè)新的超級(jí)APP，而是接管數(shù)字世界，改變物理世界?！?/p>
這是阿里巴巴集團(tuán)CEO吳泳銘在2024云棲大會(huì)上發(fā)表的觀點(diǎn)，也展示了業(yè)界對(duì)未來人工智能應(yīng)用圖景的設(shè)想：在應(yīng)用范圍上，AI將涵蓋數(shù)字世界、物理世界的方方面面；在應(yīng)用深度上，大模型在內(nèi)容轉(zhuǎn)化與生成、輔助人類工作等現(xiàn)有職能外會(huì)被賦予更多主動(dòng)性，以至能夠“接管、改變世界”。
這種設(shè)想一方面展現(xiàn)了人工智能未來的發(fā)展?jié)摿εc應(yīng)用方向，另一方面也隱約帶來了技術(shù)高速發(fā)展下的安全憂慮——對(duì)于目前應(yīng)用尚窄且功能有限的大模型，如何保證其內(nèi)容輸出和行為邏輯安全可控已難點(diǎn)重重。而一個(gè)能夠接管、改變世界的超級(jí)人工智能，必然會(huì)涉及更廣泛的社會(huì)安全與利益，如何在AI技術(shù)演進(jìn)的過程中逐步完善對(duì)AI的監(jiān)督、控制能力，將是在大模型廣泛應(yīng)用過程中需要同步關(guān)注的重點(diǎn)問題。
在本屆云棲大會(huì)同步舉辦的“數(shù)智未來，責(zé)任同行：AI倫理與安全”分論壇上，來自法學(xué)、計(jì)算機(jī)、產(chǎn)業(yè)、監(jiān)管等多領(lǐng)域的專家針對(duì)AI發(fā)展的現(xiàn)狀和前景，展開了進(jìn)一步的交流與討論。
就目前大模型發(fā)展過程中出現(xiàn)的典型問題來看，數(shù)據(jù)、算法與內(nèi)容是安全威脅頻發(fā)的關(guān)鍵環(huán)節(jié)，這一方面是由于其直接與人工智能的輸入輸出環(huán)節(jié)相關(guān)聯(lián)，另一方面也直接作用于人類社會(huì)，對(duì)人們的生產(chǎn)生活產(chǎn)生影響。
在數(shù)據(jù)領(lǐng)域，據(jù)媒體報(bào)道，三星電子在引入ChatGPT不到20天后，便被爆出機(jī)密資料外泄的意外事件，涉及半導(dǎo)體設(shè)備測(cè)量資料、產(chǎn)品良率等內(nèi)容，傳已經(jīng)被存入ChatGPT的數(shù)據(jù)庫(kù)中；在內(nèi)容安全方面，近日國(guó)內(nèi)多個(gè)品牌兒童手表安裝的大模型應(yīng)用被有毒數(shù)據(jù)污染，導(dǎo)致其搜索出歧視中國(guó)人內(nèi)容的問題亦受到廣泛重視。
北京大學(xué)教授，法制與發(fā)展研究院執(zhí)行院長(zhǎng)王錫鋅在論壇發(fā)言中表示，由于法律等并非與技術(shù)研發(fā)直接相關(guān)的研究領(lǐng)域，往往難以在其發(fā)展的第一時(shí)間就對(duì)其充分了解和介入，因而在對(duì)人工智能的管理中往往存在各類過期的安全觀。
例如，歐盟在立法過程中，從GDPR到數(shù)字市場(chǎng)法再到近期的人工智能法案，都有很明顯的以為中心的導(dǎo)向，但其也存在超出產(chǎn)業(yè)發(fā)展階段的“價(jià)值迷信”問題，容易導(dǎo)致產(chǎn)業(yè)空心化的布魯塞爾效應(yīng)；再如，對(duì)于人工智能這樣不斷迭代發(fā)展的技術(shù)，法律規(guī)則的設(shè)計(jì)面臨著極高難度，要警惕在此過程中的“立法迷信”，避免法律出臺(tái)的滯后。
他進(jìn)一步表示，對(duì)于前者，價(jià)值在本質(zhì)上需要可落地、可實(shí)現(xiàn)，要考慮其技術(shù)可行性及成本；對(duì)于后者，可以在立法路徑上將“硬法”與“軟法”相結(jié)合，“硬法”緩行，“軟法”先行?？傮w而言，要在治理框架上統(tǒng)籌安全與發(fā)展。
從立法進(jìn)度來看，國(guó)內(nèi)的監(jiān)管框架建設(shè)基本也與產(chǎn)業(yè)發(fā)展實(shí)際相同步CQ9電子平臺(tái)。近日，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見稿）》，為AI生成內(nèi)容標(biāo)識(shí)提供了規(guī)范標(biāo)準(zhǔn)，主要是對(duì)當(dāng)前已在社會(huì)中廣泛應(yīng)用的大模型內(nèi)容輸出應(yīng)用進(jìn)行管理。
中國(guó)信通院安全所副總工楊劍鋒在論壇發(fā)言中表示，就目前的產(chǎn)業(yè)實(shí)踐而言，目前主要集中于對(duì)模型內(nèi)部的安全檢測(cè)，其方法也較為成熟，但對(duì)于近期興起的多模態(tài)大模型，例如今年OpenAI推出的視頻生成模型Sora，其在不同應(yīng)用場(chǎng)景下的測(cè)評(píng)標(biāo)準(zhǔn)和安全措施尚在起步摸索階段。
在治理思路明確的同時(shí)，哪些主體、采用何種手段、以怎樣的形式切入大模型研發(fā)應(yīng)用的過程，亦是各類監(jiān)管標(biāo)準(zhǔn)落地面臨的實(shí)際問題。從大模型公司、行業(yè)機(jī)構(gòu)和監(jiān)管部門目前的實(shí)踐經(jīng)驗(yàn)來看，其正在各索不同的方法與路徑。
浙江大學(xué)計(jì)算機(jī)學(xué)院院長(zhǎng)、區(qū)塊鏈與數(shù)據(jù)安全全國(guó)重點(diǎn)實(shí)驗(yàn)室常務(wù)副主任任奎在論壇發(fā)言中表示，大模型在訓(xùn)練、開發(fā)、部署和維護(hù)等不同階段面臨不同的安全威脅，需要分階段分步分層次對(duì)其進(jìn)行衡量與評(píng)測(cè)。
他以浙大網(wǎng)安在人工智能安全評(píng)測(cè)、深度合成檢測(cè)、合成內(nèi)容標(biāo)識(shí)三方面研發(fā)的安全技術(shù)平臺(tái)為例，指出相關(guān)的技術(shù)平臺(tái)需要在間接信任的框架下，兼顧評(píng)測(cè)覆蓋面、評(píng)測(cè)效率、可解釋性等多個(gè)維度。
而在第三方研究機(jī)構(gòu)之外，作為大模型產(chǎn)業(yè)開發(fā)的直接參與者，業(yè)界對(duì)技術(shù)進(jìn)展中產(chǎn)生問題的感知要更為敏銳，對(duì)于如何在高頻更新的項(xiàng)目研發(fā)和商業(yè)應(yīng)用過程中，同時(shí)保證用戶的使用安全和大模型本身的安全，頭部廠商的經(jīng)驗(yàn)做法提供了重要的行業(yè)參考。
通義實(shí)驗(yàn)室安全負(fù)責(zé)人張榮在本次論壇發(fā)言中表示，安全、可靠、可信賴、可用是通義大模型治理的基本目標(biāo)。其中，安全需要多方協(xié)同共治共同參與，可靠則意味著大模型輸出的結(jié)果需要是穩(wěn)定的而非脆弱的，可信則要保證大模型的決策是能夠被觀測(cè)和理解的，可用則是在上述條件被滿足后產(chǎn)品能夠適用于各類場(chǎng)景。
同時(shí)他也強(qiáng)調(diào)，作為服務(wù)提供商，一方面需要積極引入國(guó)家的強(qiáng)制性標(biāo)準(zhǔn)，推動(dòng)落地方案，另一方面也要保持與業(yè)界的廣泛溝通聯(lián)動(dòng)，用模型開源等方式提升其透明度與可信度。
“廠商發(fā)布的內(nèi)容不追求所有技術(shù)小白都能看懂，但是要保證業(yè)界能夠理解我們做內(nèi)審安全的方式，以及安全測(cè)試的結(jié)果，從而快速驗(yàn)證某一類方法的安全性，在此基礎(chǔ)上加以完善?！?張榮表示。
