11月9日,2023年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)前沿?cái)?shù)字技術(shù)創(chuàng)新與安全論壇在浙江烏鎮(zhèn)舉行。論壇以“技術(shù)引領(lǐng)變革 數(shù)字開(kāi)創(chuàng)未來(lái)”為主題,依托前沿?cái)?shù)字技術(shù)發(fā)展浪潮,共議數(shù)字技術(shù)創(chuàng)新與安全。
技術(shù)的發(fā)展必然帶來(lái)新的風(fēng)險(xiǎn),如何發(fā)現(xiàn)、甄別、處理、預(yù)防風(fēng)險(xiǎn)成為了一項(xiàng)重要課題。在論壇上,與會(huì)專家與嘉賓都談到了前沿科技發(fā)展可能帶來(lái)的風(fēng)險(xiǎn),也探討了一些相應(yīng)的應(yīng)對(duì)之法。
潮新聞?dòng)浾?楊一凡 攝
“區(qū)別于一般的產(chǎn)業(yè)技術(shù),網(wǎng)絡(luò)空間安全有明顯的對(duì)抗性的特點(diǎn),也就是說(shuō)一方的勝利代表另一方的失敗?!敝嘘P(guān)村實(shí)驗(yàn)室主任助理、首席科學(xué)家卿昱在主旨演講中談到,作為2015年正式設(shè)立的一級(jí)學(xué)科,“網(wǎng)絡(luò)空間安全是一門(mén)年輕但不簡(jiǎn)單的學(xué)科?!?/p>
在網(wǎng)絡(luò)安全領(lǐng)域,新技術(shù)的發(fā)展會(huì)使已有的技術(shù)面臨安全風(fēng)險(xiǎn),比如說(shuō)量子計(jì)算,它很可能會(huì)給經(jīng)典密碼帶來(lái)嚴(yán)重的挑戰(zhàn),“各種新技術(shù)的出現(xiàn)同時(shí)也帶來(lái)了安全威脅?!?/p>
中關(guān)村實(shí)驗(yàn)室主任助理、首席科學(xué)家卿昱在前沿?cái)?shù)字技術(shù)創(chuàng)新與安全論壇發(fā)表主旨演講。潮新聞?dòng)浾?楊一凡 攝
哪些新技術(shù)需要我們重點(diǎn)關(guān)注?
卿昱分享了從2019年到2023年整個(gè)頂級(jí)會(huì)議期刊的一些熱詞分析:這5年來(lái),研究者從對(duì)隱私計(jì)算、惡意軟件、數(shù)字取證、異常檢測(cè)技術(shù)的關(guān)注,到最近3年又?jǐn)U展到了人工智能、深度學(xué)習(xí)和隱私保護(hù)的相關(guān)的技術(shù)上。
“隨著人工智能的發(fā)展,我們已經(jīng)很重視相關(guān)的安全問(wèn)題,比如像人工智能算法可能會(huì)在對(duì)抗攻擊的情況下被誤導(dǎo)?!鼻迦A大學(xué)人工智能研究院副院長(zhǎng)、計(jì)算機(jī)系教授朱軍在論壇的主旨演講中舉例,監(jiān)控?cái)z像頭的人臉識(shí)別驗(yàn)證的安全,其實(shí)在之前應(yīng)用之前,就已經(jīng)開(kāi)始做很多的學(xué)術(shù)研究和應(yīng)用,“一方面去發(fā)現(xiàn)漏洞,另一方面就是去做保密?!?/p>
倫理風(fēng)險(xiǎn)、算法風(fēng)險(xiǎn)、數(shù)據(jù)風(fēng)險(xiǎn)、技術(shù)濫用,在朱軍看來(lái),生成式人工智能的新型安全風(fēng)險(xiǎn)正在顯現(xiàn)。
清華大學(xué)人工智能研究院副院長(zhǎng)、計(jì)算機(jī)系教授朱軍發(fā)表主旨演講。潮新聞?dòng)浾?楊一凡 攝
如何去應(yīng)對(duì)這些風(fēng)險(xiǎn)?
“在清華大學(xué)人工智能研究院成立的時(shí)候,我們當(dāng)時(shí)討論就設(shè)定叫發(fā)展第三代人工智能的公司,我們實(shí)際上是想將大數(shù)據(jù)驅(qū)動(dòng)和知識(shí)相融合地去發(fā)展新型的人工智能的方法和理論。”論壇現(xiàn)場(chǎng),朱軍演示了人工智能安全評(píng)測(cè)平臺(tái)、人臉人工智能安全防火墻、數(shù)據(jù)安全產(chǎn)品及人工智能內(nèi)容檢測(cè)平臺(tái)等人工智能治理的有效工具。
“關(guān)于大模型的一些最新的結(jié)果,我們可以從各個(gè)維度去評(píng)測(cè)我們的模型算法;針對(duì)人臉驗(yàn)證這種最廣泛的應(yīng)用場(chǎng)景,我們專門(mén)做了稱之為人臉識(shí)別的自動(dòng)防火墻;關(guān)于數(shù)據(jù)安全,我們發(fā)展的分布式機(jī)器學(xué)習(xí),或者用加密數(shù)據(jù)下的機(jī)器學(xué)習(xí)的技術(shù)來(lái)綜合來(lái)去解決這個(gè)問(wèn)題。而對(duì)于人工智能發(fā)展之后創(chuàng)造的內(nèi)容,“我們最基本的就是想判斷哪些是人生成,哪些是人工智能生成的,這背后就需要算法模型來(lái)去幫我們自動(dòng)去檢測(cè)識(shí)別”。
本次論壇由國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)起,工業(yè)和信息化部、中國(guó)科學(xué)院、世界知識(shí)產(chǎn)權(quán)組織、中關(guān)村實(shí)驗(yàn)室主辦,國(guó)家工業(yè)信息安全發(fā)展研究中心、中國(guó)科學(xué)院計(jì)算技術(shù)研究所、百度公司協(xié)辦,來(lái)自中央和國(guó)家機(jī)關(guān)、中央新聞網(wǎng)站、國(guó)內(nèi)外知名專家及互聯(lián)網(wǎng)企業(yè)等各界代表共120余位嘉賓參加論壇。
信息網(wǎng)絡(luò)傳播視聽(tīng)節(jié)目許可證:120330032
中華人民共和國(guó)互聯(lián)網(wǎng)新聞信息服務(wù)許可證:45120170002
中華人民共和國(guó)互聯(lián)網(wǎng)出版許可證 (署)網(wǎng)出證(桂)字第020號(hào)
廣播電視節(jié)目制作經(jīng)營(yíng)許可證編號(hào):(桂)字第0230號(hào)
網(wǎng)警備案號(hào):45010302000253
桂ICP備11003557 南寧新聞網(wǎng)版權(quán)所有
舉報(bào)電話:0771—5530647 郵箱:mail@nnnews.net
登錄南寧云賬號(hào)
登錄
還沒(méi)賬號(hào)?立即注冊(cè)
點(diǎn)擊頭像快速登錄
請(qǐng)輸入驗(yàn)證碼