今年以來(lái)，什么最熱門(mén)？AI（人工智能）等智能技術(shù)可能是最好的答案。
從開(kāi)年的汽車(chē)智能駕駛，再到火遍全網(wǎng)的DeepSeek，AI正加速走進(jìn)我們每個(gè)人的生活。
但就在各種智能給大眾生活提供便利的同時(shí)，隱患也隨之而來(lái)，比如AI換臉、電子簽名偽造、隱私泄露等等。面對(duì)新技術(shù)以及新挑戰(zhàn)，正在大力發(fā)展智能技術(shù)、推進(jìn)數(shù)字化建設(shè)的重慶，該如何應(yīng)對(duì)？
AI技術(shù)違法行為不斷增長(zhǎng)
今年“3·15”期間曝光了一起虛假帶貨案件——一個(gè)視頻中，中國(guó)工程院院士、天津中醫(yī)藥大學(xué)名譽(yù)校長(zhǎng)張伯禮正在為某美白護(hù)膚品進(jìn)行宣傳。最后證明該視頻為AI制作生成的假視頻。
▲央視截圖
“像這樣涉及我形象和聲音的假視頻，在網(wǎng)絡(luò)上傳播的至少還有十幾條?！睆埐Y表示，為此，天津中醫(yī)藥大學(xué)緊急給網(wǎng)信部門(mén)發(fā)函，申請(qǐng)對(duì)涉嫌侵犯張伯禮院士肖像權(quán)及姓名權(quán)的相關(guān)視頻和公眾號(hào)進(jìn)行管控處理。
還有利用AI等技術(shù)，圍繞名人背書(shū)或者權(quán)威數(shù)據(jù)造假。比如前段時(shí)間盛傳的“80后死亡率5.2%”“每20個(gè)80后就有1人去世”等虛假信息，在公共領(lǐng)域造成的危害非常大。
電子簽名偽造，也是當(dāng)下存在的一大現(xiàn)象。比如，有團(tuán)體或者個(gè)人通過(guò)圖片識(shí)別、AI生成等技術(shù)，對(duì)一些電子簽名進(jìn)行復(fù)制、偽造，以實(shí)現(xiàn)盜取個(gè)人財(cái)物等目的。
在重慶，利用AI等技術(shù)來(lái)進(jìn)行違法犯罪的情況也不少見(jiàn)。比如在去年10月，重慶警方在“凈網(wǎng)2024”專(zhuān)項(xiàng)行動(dòng)期間，就公布了5起典型案例。
比如武隆區(qū)網(wǎng)民劉某在網(wǎng)絡(luò)平臺(tái)發(fā)布一則《北方一城市某工廠被大風(fēng)夷為平地，造成2人當(dāng)場(chǎng)死亡，3人受傷》的帖文，迅速引發(fā)網(wǎng)民關(guān)注和議論，影響惡劣。后經(jīng)查明，該帖是利用AI工具編造虛假新聞，擾亂公共秩序，造成不良社會(huì)影響。最終，劉某被武隆區(qū)公安局已依法對(duì)劉某處以行政處罰。
有數(shù)據(jù)顯示，2024年以來(lái)，利用AI技術(shù)進(jìn)行違法行為的趨勢(shì)顯著上升，主要涉及深度偽造、數(shù)據(jù)安全威脅、自動(dòng)化攻擊及倫理濫用等領(lǐng)域。比如，在2024年AI風(fēng)險(xiǎn)事件中，深度合成技術(shù)濫用占比超過(guò)30%，其中57.8%涉及違法濫用（如欺詐），39.1%涉及虛假信息傳播。
整體來(lái)看，2024年全球AI風(fēng)險(xiǎn)事件數(shù)量較2023年增長(zhǎng)近50%，較10年前增長(zhǎng)16倍。
風(fēng)險(xiǎn)與安全問(wèn)題不容忽視
“AI等技術(shù)的高速發(fā)展，但背后的問(wèn)題，也不容忽視。”電子科技大學(xué)信息與軟件學(xué)院院長(zhǎng)張小松談到，在AI技術(shù)日新月異的發(fā)展背后，必然會(huì)有雙刃劍：一邊創(chuàng)造價(jià)值、一邊帶來(lái)風(fēng)險(xiǎn)。近年來(lái)，各種通過(guò)AI技術(shù)出現(xiàn)的犯罪行為其實(shí)就是一個(gè)體現(xiàn)。
他認(rèn)為，一個(gè)技術(shù)想要真正地走向成熟，往往也是要對(duì)其兩個(gè)方面都做好準(zhǔn)備，也就是要針對(duì)一個(gè)技術(shù)可能產(chǎn)生的風(fēng)險(xiǎn)提前進(jìn)行“未雨綢繆”，這才能讓這項(xiàng)技術(shù)讓大眾用得放心，也才能真正地推廣。
比如，互聯(lián)網(wǎng)興起時(shí)，黑客、木馬、病毒等問(wèn)題隨之出現(xiàn)，大眾在使用互聯(lián)網(wǎng)時(shí)也有些“小心翼翼”，擔(dān)心一不留神自己的電腦就被植入什么東西，從而導(dǎo)致數(shù)據(jù)泄露。直到殺毒軟件、防火墻等技術(shù)的全面鋪開(kāi)，大家對(duì)互聯(lián)網(wǎng)的使用也才更加放心。
物證技術(shù)重慶高校工程研究中心主任，原西南政法大學(xué)刑事偵查學(xué)院副院長(zhǎng)兼司法鑒定中心主任易旻也表示，隨著以Deepseek等通用大模型的社會(huì)化運(yùn)用，社會(huì)主體身份認(rèn)證面臨著更為復(fù)雜的局面，單一追求方便、快捷而忽視風(fēng)險(xiǎn)，將給社會(huì)帶來(lái)極大的隱憂(yōu)。所以，應(yīng)該盡量避免單一認(rèn)證方式的適用，鼓勵(lì)多元、多層次認(rèn)證方式進(jìn)行身份驗(yàn)證。
“強(qiáng)化信息非法運(yùn)用和信息犯罪的打擊只是其一，建立更為合理、安全的身份認(rèn)證結(jié)構(gòu)勢(shì)在必行?！币讜F說(shuō)。
以電子簽名為例，他認(rèn)為，后續(xù)各方應(yīng)該重視動(dòng)態(tài)特征數(shù)據(jù)電子簽名的應(yīng)用，尤其于簽署確認(rèn)環(huán)節(jié)，逐步切割偽動(dòng)態(tài)特征電子簽名（如簽名圖片數(shù)字化）的適用。同時(shí)，強(qiáng)化電子簽名服務(wù)提供商的是否為可靠電子簽名的符合性審查。
“重慶作為直轄市和西部數(shù)字經(jīng)濟(jì)高地，面臨的網(wǎng)絡(luò)安全挑戰(zhàn)尤為嚴(yán)峻?！睆埿∷芍赋?，隨著“數(shù)字重慶”建設(shè)快速推進(jìn)，全市政務(wù)數(shù)據(jù)、工業(yè)數(shù)據(jù)、民生數(shù)據(jù)資源越發(fā)豐富，也成為不法分子覬覦的目標(biāo)。
他表示，推進(jìn)數(shù)字重慶建設(shè)，不僅要大力發(fā)展大數(shù)據(jù)、智能化技術(shù)，更要同步發(fā)展與之匹配的安全防護(hù)體系，以識(shí)別和防范AI等技術(shù)帶來(lái)的安全風(fēng)險(xiǎn)。
數(shù)據(jù)安全需求爆發(fā)，重慶正加快產(chǎn)業(yè)布局
面對(duì)AI等技術(shù)發(fā)展的雙面性，重慶擁有“在危機(jī)中育新機(jī)”的發(fā)展環(huán)境。
業(yè)界預(yù)測(cè)，在2025年，中國(guó)網(wǎng)絡(luò)安全市場(chǎng)規(guī)模預(yù)計(jì)將達(dá)到千億規(guī)模，同時(shí)會(huì)保持5%的年均增長(zhǎng)率。其中，以AI安全等方面為主的網(wǎng)絡(luò)安全，將更受企業(yè)、政府等單位關(guān)注。
“技術(shù)發(fā)展得越快，安全保障的需求就越迫切。”市大數(shù)據(jù)局相關(guān)負(fù)責(zé)人表示，隨著AI等智能技術(shù)的廣泛應(yīng)用，相應(yīng)的網(wǎng)絡(luò)安全、數(shù)據(jù)保護(hù)、內(nèi)容審核等細(xì)分賽道正在快速成長(zhǎng)。在此背景下，重慶可選擇將挑戰(zhàn)轉(zhuǎn)化為機(jī)遇，力爭(zhēng)在網(wǎng)絡(luò)安全這一新興賽道上搶占先機(jī)。
好在，重慶已經(jīng)開(kāi)始在這片藍(lán)海中布局。
比如，川渝兩地等12個(gè)部門(mén)聯(lián)合提出，到2025年，川渝網(wǎng)絡(luò)安全全產(chǎn)業(yè)鏈規(guī)模超2000億元，加快培育一批重大創(chuàng)新載體，形成一批網(wǎng)絡(luò)安全關(guān)鍵技術(shù)、產(chǎn)品和服務(wù)創(chuàng)新成果，引育5家網(wǎng)絡(luò)安全產(chǎn)業(yè)鏈主企業(yè)，30家細(xì)分領(lǐng)域“專(zhuān)精特新”企業(yè)，100家科技型中小企業(yè)，構(gòu)建安全保障能力互通、安全信任服務(wù)互信、安全基礎(chǔ)測(cè)評(píng)互認(rèn)的川渝一體化網(wǎng)絡(luò)安全體系。
值得一提的是，在一些細(xì)分賽道，重慶已經(jīng)涌現(xiàn)出一些全國(guó)領(lǐng)先的企業(yè)。
比如，位于兩江新區(qū)的親筆簽數(shù)字科技有限公司，就在電子簽名證偽、溯源等方面，取得了明顯成效。
重慶親筆簽數(shù)字科技有限公司CTO劉科介紹，人們?cè)诤炞謺r(shí)都會(huì)有自己的無(wú)意識(shí)行為，比如寫(xiě)字的軌跡順序、發(fā)力方式、筆畫(huà)風(fēng)格，這些都是一個(gè)人的生物特征。無(wú)論他在什么載體上，用什么東西簽字，自己形態(tài)會(huì)有不同，但書(shū)寫(xiě)習(xí)慣不會(huì)改變。
基于這一邏輯，該公司將目光瞄準(zhǔn)了鑒別手寫(xiě)電子簽名的“內(nèi)核”——基于人工智能算法的“數(shù)字筆跡識(shí)別”技術(shù)，并通過(guò)這些技術(shù)與數(shù)據(jù)的積淀，可以對(duì)簽名人的簽名行為進(jìn)行比對(duì)、回溯，通過(guò)人的書(shū)寫(xiě)行為習(xí)慣，從而證明簽名者是否為本人。
▲“數(shù)字筆跡識(shí)別”技術(shù)助力重慶實(shí)現(xiàn)婚姻登記業(yè)務(wù)全程電子化、電子檔案全程在線(xiàn)歸檔。受訪者供圖
在親筆簽數(shù)字科技有限公司推動(dòng)下，我國(guó)司法鑒定技術(shù)標(biāo)準(zhǔn)中新增了《手寫(xiě)電子簽名筆跡鑒定技術(shù)規(guī)范》，填補(bǔ)了國(guó)內(nèi)在此領(lǐng)域上的行業(yè)標(biāo)準(zhǔn)空白，該公司也獲得司法鑒定資質(zhì)，成為人工智能電子簽名賽道中唯一一個(gè)司法鑒定機(jī)構(gòu)。
▲遠(yuǎn)程詢(xún)問(wèn)筆錄簽署，為特殊人群電子化簽名提供有效解決方案。受訪者供圖
目前，親筆簽數(shù)字科技有限公司業(yè)務(wù)已經(jīng)覆蓋重慶、四川、山東、海南、貴州、福建、湖南、湖北、甘肅、河北、山西、廣西、江蘇等多個(gè)省市，其技術(shù)在政法、政務(wù)、金融、醫(yī)療、住建、民生等多領(lǐng)域應(yīng)用落地。
來(lái)源：新重慶-重慶日?qǐng)?bào)
