“清朗·整治AI技術(shù)濫用”專項行動自2025年4月啟動以來，中央網(wǎng)信辦聚焦AI換臉擬聲侵犯公眾權(quán)益、AI內(nèi)容標識缺失誤導(dǎo)公PG電子官方平臺入口眾等AI技術(shù)濫用亂象，深入推進第一階段重點整治任務(wù)，部署各地網(wǎng)信部門加大違規(guī)AI產(chǎn)品處置力度，切斷違規(guī)產(chǎn)品營銷引流渠道，督促重點網(wǎng)站平臺健全技術(shù)安全保障措施，推動生成合成內(nèi)容標識加速落地。（6月23日 《廣州日報》）
《三體》作者劉慈欣曾這樣形容科技高速發(fā)展給生活帶來的巨變：“未來像盛夏的大雨，在我們還來不及撐開傘時，就撲面而來。”人工智能加速迭代、浪潮奔涌向前，帶來前所未有的發(fā)展機遇，也帶來不容忽視的風險挑戰(zhàn)。“聲音克隆”導(dǎo)致電信詐騙防不勝防，AI炮制虛假新聞撩撥網(wǎng)民情緒，“換臉視頻”引發(fā)的造謠誹謗時有出現(xiàn)，“AI幻覺”讓生成內(nèi)容真假難辨……今天，AI技術(shù)濫用逐漸打開“潘多拉魔盒”，技術(shù)的“雙刃劍”效應(yīng)愈發(fā)具象化。
第一階段累計處置違規(guī)小程序、應(yīng)用程序、智能體等AI產(chǎn)品3500余款，清理違法違規(guī)信息96萬余條，處置賬號3700余個，各項工作取得積極進展……此次專項行動的階段性成果，向AI技術(shù)濫用亂象打出了一記雷霆重拳，彰顯我國在AI治理上的決心與執(zhí)行力。但正如有報道所指出的，當前投入在AI安全研究與價值對齊方面的精力、時間、金錢和資源還遠遠不足，這也成為大模型落地行業(yè)的難題之一。如何確保安全、規(guī)范、合理地使用人工智能，這是擺在我們面前的深刻時代命題。
技術(shù)每前進一步，治理就要跟進一步。近年來，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等相關(guān)法律法規(guī)密集出臺，推動人工智能治理沿著法治軌道向前邁進。針對人工智能技術(shù)新特點，要始終堅持包容審慎態(tài)度，完善相關(guān)法律體系建設(shè)，不斷創(chuàng)新、完善與之相適應(yīng)的監(jiān)管方式，讓治理始終跟隨技術(shù)發(fā)展的腳步前行。
從現(xiàn)實來看，人工智能算法具有“黑箱”特性，表現(xiàn)為行為不可控、決策機制難解釋等，這也要求平臺必須擔負起主體責任，積極完善管理細節(jié)。比如，要健全完善審核識別機制，對AI生成內(nèi)容第一時間添加明確標識，加大對涉及重大事件、敏感話題中圖片、視頻的真?zhèn)魏瞬?，及時甄別、攔截、處置不實信息和賬號。同時，要建立便捷的舉報和投訴渠道，對于網(wǎng)民反映的問題及時予以查證、處理。
發(fā)展的問題終歸要靠發(fā)展來解決。以技術(shù)對技術(shù)，以技術(shù)管技術(shù)，才能真正筑牢安全的底線。抖音建立“紅藍對抗”機制，優(yōu)化模型對虛假信息的識別能力；小紅書在模型后置訓(xùn)練階段輸入專業(yè)領(lǐng)域數(shù)據(jù)，提升模型對醫(yī)療、金融、未成年人等重點領(lǐng)域問題的理解能力。這些都是切實可行的辦法。善用“技防”手段，“以子之矛，攻子之盾”，安全防護才會更及時、更智能、更高效。
人工智能的未來將往何處去？答案只有一個，那便是“以人為本、智能向善”。在規(guī)范中筑牢防線，在創(chuàng)新中釋放活力，這是技術(shù)服務(wù)于人、造福社會的必需，也是抓住產(chǎn)業(yè)變革新機遇、推動人工智能健康有序發(fā)展的必然。（付迎紅）
信息網(wǎng)絡(luò)傳播視聽節(jié)目許可（互聯(lián)網(wǎng)視聽節(jié)目服務(wù)/移動互聯(lián)網(wǎng)視聽節(jié)目服務(wù)）證號：1310572 廣播電視節(jié)目制作經(jīng)營許可證（閩）字第085號
網(wǎng)絡(luò)出版服務(wù)許可證 （署）網(wǎng)出證（閩）字第018號 增值電信業(yè)務(wù)經(jīng)營許可證 閩B2-20100029 互聯(lián)網(wǎng)藥品信息服務(wù)（閩）-經(jīng)營性-2015-0001
福建日報報業(yè)集團擁有東南網(wǎng)采編人員所創(chuàng)作作品之版權(quán)，未經(jīng)報業(yè)集團書面授權(quán)，不得轉(zhuǎn)載、摘編或以其他方式使用和傳播
職業(yè)道德監(jiān)督、違法和不良信息舉報電線）舉報郵箱：福建省新聞道德委舉報電話：
