AI狂奔，安全監(jiān)管莫氣喘

半月談評論員 杜康

2023年，ChatGPT聊天機器人程序火出圈，越來越多的人開始對人工智能(AI)的功能和使用產(chǎn)生興趣。今年初，Sora一段“文生視頻”再次爆火，通過一段文字描述，AI可以生成60秒鐘的高清視頻。人工智能的能力正在不斷突破人們的想象。

然而，技術(shù)大爆發(fā)永遠(yuǎn)是一把雙刃劍。不少科學(xué)家擔(dān)心：在不久的未來，人工智能技術(shù)會超越人類的智慧，甚至?xí)Э卦斐蓢?yán)重后果。他們呼吁，應(yīng)該把防范人工智能帶來的風(fēng)險作為全球優(yōu)先事項。

正如這些科學(xué)家所擔(dān)心的那樣，隨著生成式人工智能技術(shù)的發(fā)展和普及，技術(shù)門檻大幅降低，為不法分子提供了機會。2024年6月，公安部網(wǎng)安局披露了多起涉及人工智能技術(shù)的深度偽造典型案例。其中一起案件為犯罪嫌疑人白某某利用人工智能軟件，對被害人的圖片進(jìn)行所謂的“一鍵去衣”處理，批量生成了近7000張淫穢圖片并通過網(wǎng)絡(luò)進(jìn)行販賣。

目前人工智能帶來的威脅大致可分為數(shù)據(jù)隱私與安全、虛假信息與虛假內(nèi)容傳播、知識產(chǎn)權(quán)侵權(quán)、模型偏見與歧視、安全漏洞與攻擊等幾類。以數(shù)據(jù)隱私與安全為例，生成式人工智能模型通常需要大量的數(shù)據(jù)進(jìn)行訓(xùn)練，這些數(shù)據(jù)可能包括個人隱私信息，如醫(yī)療記錄、個人照片、社交媒體內(nèi)容等。這些數(shù)據(jù)一旦泄露或被不當(dāng)使用，可能導(dǎo)致隱私泄露、身份盜竊等問題。

除了這些可以明顯感知到的風(fēng)險，未來，還可能有更多“未知風(fēng)險”，乃至技術(shù)失控風(fēng)險。面對AI的一路狂奔，應(yīng)從法律、技術(shù)、倫理等多方面設(shè)置“安全閥門”，及時防范人工智能帶來的風(fēng)險。

在位于安徽省蕪湖市的“中國視谷”展廳，工作人員為參觀者介紹一款智能焊接機器人 肖本祥 攝

在法律層面，我國已經(jīng)先后出臺了系列法律法規(guī)，包括《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》《科技倫理審查辦法(試行)》《人工智能生成合成內(nèi)容標(biāo)識辦法(征求意見稿)》《生成式人工智能服務(wù)安全基本要求(征求意見稿)》《生成式人工智能數(shù)據(jù)標(biāo)注安全規(guī)范(征求意見稿)》等規(guī)章、標(biāo)準(zhǔn)或草案。

在上述規(guī)章標(biāo)準(zhǔn)的基礎(chǔ)上，我國近年逐步建立起算法備案、大模型備案和倫理審查登記等制度，作為AI安全治理的主要抓手。未來，還需通過完善相關(guān)法規(guī)，加強對AI生成技術(shù)的約束和規(guī)范，督促服務(wù)提供者和網(wǎng)絡(luò)平臺承擔(dān)起應(yīng)有的法律責(zé)任，為AI生成內(nèi)容添加顯著提示標(biāo)識，禁止生成和發(fā)布涉及違法違規(guī)、侵權(quán)欺詐的內(nèi)容，從根源上消除可能造成的危害和不良影響。

人工智能這項技術(shù)的特殊性在于，其存在脫離人類控制等極端風(fēng)險，因此，除了政策法規(guī)監(jiān)管之外，安全技術(shù)的發(fā)展是讓AI不脫軌的另一項重要保障。

無論是從研究的體系化程度、人才密集度、商業(yè)驅(qū)動力、算力的投入度等方面來看，AI模型安全能力方面的提升，還遠(yuǎn)遠(yuǎn)落后于性能的提升。所以，技術(shù)層面上，要加大對AI安全方面的投入，強化數(shù)據(jù)安全、隱私保護(hù)等技術(shù)的研發(fā)，加強對人工智能算法與模型的可溯源研究和審查評估研究，運用技術(shù)手段反制和鑒別人工智能所生成的內(nèi)容，努力打造安全可信的人工智能。

在倫理層面，要把嚴(yán)格的倫理規(guī)范貫穿技術(shù)研發(fā)全過程。科技倫理是開展科學(xué)研究、技術(shù)開發(fā)等科技活動需要遵循的價值理念和行為規(guī)范，人工智能技術(shù)的發(fā)展需要遵循倫理先行、敏捷治理的要求，加強倫理風(fēng)險預(yù)警與跟蹤研判，及時動態(tài)調(diào)整治理方式和倫理規(guī)范，以實現(xiàn)負(fù)責(zé)任的創(chuàng)新。人工智能技術(shù)研發(fā)人員要堅守科技倫理底線，發(fā)現(xiàn)違背科技倫理要求的行為，要主動報告、堅決抵制。

人工智能的未來充滿不確定性。面對人工智能帶來的風(fēng)險，我們要保持理性和審慎的態(tài)度，既充分發(fā)揮人工智能的優(yōu)勢，又最大限度地減少其可能帶來的負(fù)面影響，讓人工智能成為推動人類社會發(fā)展的強大動力。