今年以來，什么最熱門？AI（人工智能）等智能技術(shù)可能是最好的答案。
從開年的汽車智能駕駛，再到火遍全網(wǎng)的DeepSeek，AI正加速走進(jìn)我們每個人的生活。
但就在各種智能給大眾生活提供便利的同時，隱患也隨之而來，比如AI換臉、電子簽名偽造、隱私泄露等等。面對新技術(shù)以及新挑戰(zhàn)，正在大力發(fā)展智能技術(shù)、推進(jìn)數(shù)字化建設(shè)的重慶，該如何應(yīng)對？
AI技術(shù)違法行為不斷增長
今年“3·15”期間曝光了一起虛假帶貨案件——一個視頻中，中國工程院院士、天津中醫(yī)藥大學(xué)名譽(yù)校長張伯禮正在為某美白護(hù)膚品進(jìn)行宣傳。最后證明該視頻為AI制作生成的假視頻。
▲央視截圖
“像這樣涉及我形象和聲音的假視頻，在網(wǎng)絡(luò)上傳播的至少還有十幾條?！睆埐Y表示，為此，天津中醫(yī)藥大學(xué)緊急給網(wǎng)信部門發(fā)函，申請對涉嫌侵犯張伯禮院士肖像權(quán)及姓名權(quán)的相關(guān)視頻和公眾號進(jìn)行管控處理。
還有利用AI等技術(shù)，圍繞名人背書或者權(quán)威數(shù)據(jù)造假。比如前段時間盛傳的“80后死亡率5.2%”“每20個80后就有1人去世”等虛假信息，在公共領(lǐng)域造成的危害非常大。
電子簽名偽造，也是當(dāng)下存在的一大現(xiàn)象。比如，有團(tuán)體或者個人通過圖片識別、AI生成等技術(shù)，對一些電子簽名進(jìn)行復(fù)制、偽造，以實(shí)現(xiàn)盜取個人財物等目的。
在重慶，利用AI等技術(shù)來進(jìn)行違法犯罪的情況也不少見。比如在去年10月，重慶警方在“凈網(wǎng)2024”專項(xiàng)行動期間，就公布了5起典型案例。
比如武隆區(qū)網(wǎng)民劉某在網(wǎng)絡(luò)平臺發(fā)布一則《北方一城市某工廠被大風(fēng)夷為平地，造成2人當(dāng)場死亡，3人受傷》的帖文，迅速引發(fā)網(wǎng)民關(guān)注和議論，影響惡劣。后經(jīng)查明，該帖是利用AI工具編造虛假新聞，擾亂公共秩序，造成不良社會影響。最終，劉某被武隆區(qū)公安局已依法對劉某處以行政處罰。
有數(shù)據(jù)顯示，2024年以來，利用AI技術(shù)進(jìn)行違法行為的趨勢顯著上升，主要涉及深度偽造、數(shù)據(jù)安全威脅、自動化攻擊及倫理濫用等領(lǐng)域。比如，在2024年AI風(fēng)險事件中，深度合成技術(shù)濫用占比超過30%，其中57.8%涉及違法濫用（如欺詐），39.1%涉及虛假信息傳播。
整體來看，2024年全球AI風(fēng)險事件數(shù)量較2023年增長近50%，較10年前增長16倍。
風(fēng)險與安全問題不容忽視
“AI等技術(shù)的高速發(fā)展，但背后的問題，也不容忽視。”電子科技大學(xué)信息與軟件學(xué)院院長張小松談到，在AI技術(shù)日新月異的發(fā)展背后，必然會有雙刃劍：一邊創(chuàng)造價值、一邊帶來風(fēng)險。近年來，各種通過AI技術(shù)出現(xiàn)的犯罪行為其實(shí)就是一個體現(xiàn)。
他認(rèn)為，一個技術(shù)想要真正地走向成熟，往往也是要對其兩個方面都做好準(zhǔn)備，也就是要針對一個技術(shù)可能產(chǎn)生的風(fēng)險提前進(jìn)行“未雨綢繆”，這才能讓這項(xiàng)技術(shù)讓大眾用得放心，也才能真正地推廣。
比如，互聯(lián)網(wǎng)興起時，黑客、木馬、病毒等問題隨之出現(xiàn)，大眾在使用互聯(lián)網(wǎng)時也有些“小心翼翼”，擔(dān)心一不留神自己的電腦就被植入什么東西，從而導(dǎo)致數(shù)據(jù)泄露。直到殺毒軟件、防火墻等技術(shù)的全面鋪開，大家對互聯(lián)網(wǎng)的使用也才更加放心。
物證技術(shù)重慶高校工程研究中心主任，原西南政法大學(xué)刑事偵查學(xué)院副院長兼司法鑒定中心主任易旻也表示，隨著以Deepseek等通用大模型的社會化運(yùn)用，社會主體身份認(rèn)證面臨著更為復(fù)雜的局面，單一追求方便、快捷而忽視風(fēng)險，將給社會帶來極大的隱憂。所以，應(yīng)該盡量避免單一認(rèn)證方式的適用，鼓勵多元、多層次認(rèn)證方式進(jìn)行身份驗(yàn)證。
“強(qiáng)化信息非法運(yùn)用和信息犯罪的打擊只是其一，建立更為合理、安全的身份認(rèn)證結(jié)構(gòu)勢在必行?！币讜F說。
以電子簽名為例，他認(rèn)為，后續(xù)各方應(yīng)該重視動態(tài)特征數(shù)據(jù)電子簽名的應(yīng)用，尤其于簽署確認(rèn)環(huán)節(jié)，逐步切割偽動態(tài)特征電子簽名（如簽名圖片數(shù)字化）的適用。同時，強(qiáng)化電子簽名服務(wù)提供商的是否為可靠電子簽名的符合性審查。
“重慶作為直轄市和西部數(shù)字經(jīng)濟(jì)高地，面臨的網(wǎng)絡(luò)安全挑戰(zhàn)尤為嚴(yán)峻?！睆埿∷芍赋?，隨著“數(shù)字重慶”建設(shè)快速推進(jìn)，全市政務(wù)數(shù)據(jù)、工業(yè)數(shù)據(jù)、民生數(shù)據(jù)資源越發(fā)豐富，也成為不法分子覬覦的目標(biāo)。
他表示，推進(jìn)數(shù)字重慶建設(shè)，不僅要大力發(fā)展大數(shù)據(jù)、智能化技術(shù)，更要同步發(fā)展與之匹配的安全防護(hù)體系，以識別和防范AI等技術(shù)帶來的安全風(fēng)險。
數(shù)據(jù)安全需求爆發(fā)，重慶正加快產(chǎn)業(yè)布局
面對AI等技術(shù)發(fā)展的雙面性，重慶擁有“在危機(jī)中育新機(jī)”的發(fā)展環(huán)境。
業(yè)界預(yù)測，在2025年，中國網(wǎng)絡(luò)安全市場規(guī)模預(yù)計(jì)將達(dá)到千億規(guī)模，同時會保持5%的年均增長率。其中，以AI安全等方面為主的網(wǎng)絡(luò)安全，將更受企業(yè)、政府等單位關(guān)注。
“技術(shù)發(fā)展得越快，安全保障的需求就越迫切?！笔写髷?shù)據(jù)局相關(guān)負(fù)責(zé)人表示，隨著AI等智能技術(shù)的廣泛應(yīng)用，相應(yīng)的網(wǎng)絡(luò)安全、數(shù)據(jù)保護(hù)、內(nèi)容審核等細(xì)分賽道正在快速成長。在此背景下，重慶可選擇將挑戰(zhàn)轉(zhuǎn)化為機(jī)遇，力爭在網(wǎng)絡(luò)安全這一新興賽道上搶占先機(jī)。
好在，重慶已經(jīng)開始在這片藍(lán)海中布局。
比如，川渝兩地等12個部門聯(lián)合提出，到2025年，川渝網(wǎng)絡(luò)安全全產(chǎn)業(yè)鏈規(guī)模超2000億元，加快培育一批重大創(chuàng)新載體，形成一批網(wǎng)絡(luò)安全關(guān)鍵技術(shù)、產(chǎn)品和服務(wù)創(chuàng)新成果，引育5家網(wǎng)絡(luò)安全產(chǎn)業(yè)鏈主企業(yè)，30家細(xì)分領(lǐng)域“專精特新”企業(yè)，100家科技型中小企業(yè)，構(gòu)建安全保障能力互通、安全信任服務(wù)互信、安全基礎(chǔ)測評互認(rèn)的川渝一體化網(wǎng)絡(luò)安全體系。
值得一提的是，在一些細(xì)分賽道，重慶已經(jīng)涌現(xiàn)出一些全國領(lǐng)先的企業(yè)。
比如，位于兩江新區(qū)的親筆簽數(shù)字科技有限公司，就在電子簽名證偽、溯源等方面，取得了明顯成效。
重慶親筆簽數(shù)字科技有限公司CTO劉科介紹，人們在簽字時都會有自己的無意識行為，比如寫字的軌跡順序、發(fā)力方式、筆畫風(fēng)格，這些都是一個人的生物特征。無論他在什么載體上，用什么東西簽字，自己形態(tài)會有不同，但書寫習(xí)慣不會改變。
基于這一邏輯，該公司將目光瞄準(zhǔn)了鑒別手寫電子簽名的“內(nèi)核”——基于人工智能算法的“數(shù)字筆跡識別”技術(shù)，并通過這些技術(shù)與數(shù)據(jù)的積淀，可以對簽名人的簽名行為進(jìn)行比對、回溯，通過人的書寫行為習(xí)慣，從而證明簽名者是否為本人。
▲“數(shù)字筆跡識別”技術(shù)助力重慶實(shí)現(xiàn)婚姻登記業(yè)務(wù)全程電子化、電子檔案全程在線歸檔。受訪者供圖
在親筆簽數(shù)字科技有限公司推動下，我國司法鑒定技術(shù)標(biāo)準(zhǔn)中新增了《手寫電子簽名筆跡鑒定技術(shù)規(guī)范》，填補(bǔ)了國內(nèi)在此領(lǐng)域上的行業(yè)標(biāo)準(zhǔn)空白，該公司也獲得司法鑒定資質(zhì)，成為人工智能電子簽名賽道中唯一一個司法鑒定機(jī)構(gòu)。
▲遠(yuǎn)程詢問筆錄簽署，為特殊人群電子化簽名提供有效解決方案。受訪者供圖
目前，親筆簽數(shù)字科技有限公司業(yè)務(wù)已經(jīng)覆蓋重慶、四川、山東、海南、貴州、福建、湖南、湖北、甘肅、河北、山西、廣西、江蘇等多個省市，其技術(shù)在政法、政務(wù)、金融、醫(yī)療、住建、民生等多領(lǐng)域應(yīng)用落地。
來源：新重慶-重慶日報
