筑牢人工智能安全防線是應(yīng)時之舉 2025/06/03來源：光明日報 ??近日，《北京市人工智能賦能新型工業(yè)化行動方案（2025年）》發(fā)布，圍繞“人工智能與新型工業(yè)化”推出16條措施支持企業(yè)發(fā)展，特別針對加強智能安全保障、打造行業(yè)頭部大模型、提升裝備智能化水平等方面提出了一系列包含真金白銀的獎勵舉措。 ?? ??當(dāng)前，人工智能對國家安全、社會穩(wěn)定和人類文明構(gòu)成系統(tǒng)性挑戰(zhàn)。從技術(shù)維度看，算法黑箱、數(shù)據(jù)偏差、模型缺陷等底層問題持續(xù)存在，成功防范網(wǎng)絡(luò)攻擊難度較高，容易危及智慧醫(yī)療診斷精準(zhǔn)度和金融風(fēng)控系統(tǒng)可靠性。從社會維度看，深度偽造技術(shù)可生成以假亂真的虛假信息，嚴(yán)重沖擊社會信任體系與意識形態(tài)安全防線。從文明維度看，系統(tǒng)暗含的算法歧視正在解構(gòu)社會公平正義，自動駕駛面臨的“電車難題”帶來倫理困境，這些挑戰(zhàn)不斷倒逼人類文明新規(guī)范的建立。面對這些新形勢，構(gòu)建涵蓋技術(shù)治理、風(fēng)險防控、倫理規(guī)約的立體化治理體系，是我國把握技術(shù)主導(dǎo)權(quán)的戰(zhàn)略選擇。 ??目前，《新一代人工智能發(fā)展規(guī)劃》《生成式人工智能服務(wù)管理暫行辦法》等一系列部門規(guī)章業(yè)已發(fā)布，初步明確了數(shù)據(jù)安全、算法透明、責(zé)任追溯等核心規(guī)則。相關(guān)行政法規(guī)對企業(yè)公開訓(xùn)練數(shù)據(jù)來源、算法邏輯，對生成內(nèi)容進行標(biāo)識等提出了要求，并進一步推動AI服務(wù)安全評估制度落地。針對深度偽造、自動駕駛等重點領(lǐng)域，我國也有了初步的專項治理規(guī)范。當(dāng)然，從長遠發(fā)展考慮，還需針對數(shù)據(jù)安全、算法公平、隱私保護等問題，出臺更為具體的實施細則和標(biāo)準(zhǔn)規(guī)范，使人工智能產(chǎn)業(yè)發(fā)展有法可依、有章可循。 ??人才是人工智能安全風(fēng)險防范的重要支撐。廣泛開展人工智能安全宣傳教育活動，面向政府、企業(yè)、社會組織和公眾，普及人工智能安全知識，提高全社會對人工智能安全風(fēng)險的認知水平和防范意識，十分重要。通過舉辦培訓(xùn)講座、發(fā)布科普資料、開展案例研討等多種形式，營造全民關(guān)注、共同參與人工智能安全風(fēng)險防范的良好氛圍。加強人工智能安全專業(yè)人才培養(yǎng)體系建設(shè)，在高校中增設(shè)相關(guān)專業(yè)課程和專業(yè)方向，優(yōu)化課程設(shè)置，注重實踐教學(xué)環(huán)節(jié)，培養(yǎng)既懂人工智能技術(shù)又具備安全管理知識的復(fù)合型人才。鼓勵企業(yè)開展內(nèi)部培訓(xùn)和技能提升活動，建立人才激勵機制，吸引和留住優(yōu)秀人才，為人工智能安全風(fēng)險防范體系建設(shè)提供源源不斷的動力。 ??加強人工智能安全風(fēng)險防范體系建設(shè)，既是技術(shù)命題，更是社會治理命題。我們應(yīng)堅持科技發(fā)展與安全并重的原則，多方協(xié)同、多措并舉，積極應(yīng)對人工智能發(fā)展帶來的安全挑戰(zhàn)，推動人工智能技術(shù)朝著安全、可靠、可控的方向發(fā)展，讓人工智能更好地服務(wù)國家、造福社會、惠及人民。 ??（作者：耿姍姍，系中共北京市委黨校〔北京行政學(xué)院〕講師、北京黨內(nèi)法規(guī)研究會秘書長） 【責(zé)任編輯:朱家齊】 |
= =中科首頁== 
= =關(guān)于中科= = 
