原標題：辛識平：讓安全成為人工智能發展的基因——人工智能大潮激蕩的時代思考

來源：新華網

原標題：辛識平：讓安全成為人工智能發展的基因——人工智能大潮激蕩的時代思考

來源：新華網

新華社北京4月10日電 題：讓安全成為人工智能發展的基因——人工智能大潮激蕩的時代思考

辛識平

“擁抱AI，如何兼顧發展與安全？”在博鰲亞洲論壇2025年年會多場人工智能相關活動中，與會嘉賓普遍認為，隨著人工智能能力越來越強，AI不可控、被濫用等風險會越來越高，在推廣應用中要加固“安全護欄”。

近年來，人工智能不斷給人們帶來驚喜的同時，也帶來一些問題和困擾：“AI擬聲換臉”詐騙案件層出不窮；大模型有時混淆事實和虛構，“一本正經胡說八道”令人防不勝防；AI數據搜集對個人隱私帶來泄露風險……有數據顯示，2024年全球發生的AI風險事件，超過30%與利用AI進行深度偽造相關。今天，人工智能在快速發展的同時，也產生一系列安全隱患和問題。如何統籌好發展和安全，讓安全如基因般融入人工智能的發展鏈條，已經成為迫切而重要的課題。

縱觀人類科技發展史，從蒸汽機轟鳴打破田園牧歌，到互聯網重塑人際關系邊界，每一次重大創新都伴隨著爭議與陣痛。人工智能帶來的挑戰，不過是技術演進長卷中的新篇章。一直以來，技術進步與風險治理相互促進，在破解現實問題中螺旋式上升。以發展的眼光看，今天人工智能領域面臨的新問題，正是催生治理創新的契機。

破解安全難題，關鍵在于讓治理跑在風險前面。新技術發展不能成為脫韁的野馬，必須用法律和制度的“韁繩”把好方向、因勢利導。2023年，我國在全球范圍內率先開展立法，發布《生成式人工智能服務管理暫行辦法》；不久前出臺的《人工智能生成合成內容標識辦法》，旨在防范利用生成合成內容傳播虛假信息、實施電信詐騙等風險行為……多部新規的出臺，持續推動人工智能由生成到傳播各環節的全流程安全管理。全國多地互聯網法院審理人工智能著作權案，為技術應用劃出法律紅線。加強源頭治理，從“事后滅火”變為“事前筑堤”，推動人工智能健康發展和規范應用，是著眼長遠的治本之策。

筑牢安全防護網，需要全社會共同努力。由AI創作劇本的反詐情景劇幫助老人識破騙局；打造職工人工智能學習云課堂，提供AI入門到進階全服務；全國多所高校將人工智能列為通識必修課，讓“以人為本、智能向善”的理念引領學子的成長……技術進步永無止境，學習運用也永無止境。加強教育和引導，通過各種方式不斷提升公民和全社會的數字素養和風險應對能力，智能時代的安全基石就會更加穩固。

人工智能安全沒有國界，防范風險需要共筑防線。越是面對新領域新問題，越應該匯聚眾智，在深入交流、加強合作中謀求有效治理。中國提出并遵循《全球人工智能治理倡議》，同各方積極開展對話合作、分享最佳操作實踐，正是為了堅持發展和安全并重，平衡推進應用和治理，確保人工智能技術安全、可靠、可控、公平。

“道路千萬條，安全第一條”。在通往未來的道路上，守護安全、推動發展，人人都是受益者，也是行動者。把好方向盤，走穩創新路，人工智能發展的廣闊未來可期，科技創造的美好生活可期。

想爆料？請登錄《陽光連線》（ https://minsheng.iqilu.com/）、撥打新聞熱線0531-66661234或96678，或登錄齊魯網官方微博（@齊魯網）提供新聞線索。齊魯網廣告熱線0531-81695052，誠邀合作伙伴。