使用AI技術當守住法律邊界

2024/9/19 10:28:25    來源：新華社

近日，浙江省杭州市公安機關偵破一起利用人工智能（AI）技術偽造活體視頻，突破部分網絡平臺登錄認證，竊取用戶信息的案件。這起案件也引發了公眾對于AI技術使用安全問題的關注。

　　近幾年來，隨著AI技術的快速發展，其正以強大的數據處理能力和模擬學習能力影響著社會生活的方方面面，也給個人信息保護、網絡安全治理帶來了新的挑戰。從此次公安機關偵破的案件看，不法分子將靜態照片輸入AI大模型中，可以生成一段能夠模仿真人點頭、眨眼等動作的活體視頻，從而突破部分網絡平臺的人臉登錄認證限制。這些不法分子在登錄他人賬號竊取用戶敏感信息后，將其出售獲利。這不僅侵害了用戶的個人信息權益，也給整個網絡安全帶來了嚴重威脅。

　　事實上，這只是AI技術被濫用的一個縮影。從此前發生的利用AI“換臉”“擬聲”實施詐騙犯罪，到借助AI技術合成虛假新聞擾亂視聽，再到使用“AI換臉”軟件生成虛假淫穢視頻……這些都表明，AI技術是一把“雙刃劍”，其既可能成為人類的幫手，幫助人們提升工作效能、改善服務體驗，也有可能成為不法分子的幫兇，給公眾生活帶來難以防范的安全隱患。這一方面警示網絡平臺要持續升級安全防護措施，對任何利用技術手段實施違法犯罪的行為進行有效攔截反制；另一方面也啟示我們要與時俱進織密法網，更好發揮法治對于人工智能健康發展的規范和保障作用。

　　值得注意的是，此前我國制定的網絡安全法、數據安全法、個人信息保護法等法律，已在一定程度上涉及對人工智能的安全監管。同時，我國還專門針對人工智能的治理出臺了一些部門規章。在近期舉行的2024年國家網絡安全宣傳周上，相關部門還發布了《人工智能安全治理框架》1.0版。公安、網信等部門也對各類利用AI技術手段實施違法犯罪的行為進行有力打擊，取得了一定積極成效。但對AI技術潛在風險的防范與治理注定是一項長期工程，必須久久為功。

　　總之，只有在引導鼓勵人工智能創新發展的同時，對AI技術濫用可能引發的安全風險予以依法防范化解，讓相關各方清晰認知并守住使用AI技術的法律邊界，才能讓AI等新興技術更好地服務經濟社會發展，成為推動社會發展進步的積極力量。（馬樹娟）

相關信息： 馬村區舉行2024年下半年新兵入伍歡送會 “筑巢”招才引智 “歸雁”大有可為 “武陟速度”咋煉就 哥倫比亞政府軍遭襲致2死25傷 蘇丹中部城市遭炮擊致2人死亡 溫縣：多元織愛網 童心沐暖陽 新華簡訊｜荷蘭尋求退出歐盟移民和難民庇護規則 朝鮮試射新型戰術彈道導彈和改良型戰略巡航導彈 中方呼吁蘇丹沖突雙方盡快推動局勢降溫

	焦作網免責聲明：
① 本網所有稿件，未經許可不得轉載。 ② 轉載稿件不代表本網觀點，如有異議請聯系我們即可處理。 ③ 刊發、轉載的稿件，作者可聯系本網申領稿酬。