人工智能的發(fā)展應用如火如荼，但其誤用、錯用、濫用甚至惡意使用所帶來的安全問題不可小視！

近期，美歐多國開發(fā)出多種基于人工智能的新興偽造技術。該技術偽裝性強、欺騙性高、難以監(jiān)管且相關成果正在不斷涌現(xiàn)，可用于社會生產(chǎn)生活及國家治理等各個方面，或對我國家安全構成嚴峻威脅。

“人工智能偽造技術”以假亂真

人工智能偽造技術是指利用人工智能在深度學習、大數(shù)據(jù)處理語言識別、圖像識別、自然語言處理等方面的強大功能，偽造社會生活中人體指紋、語音等生理特征及合成虛假音頻、視頻等媒體文件的技術?，F(xiàn)階段的人工智能已經(jīng)可以偽造個人筆跡、聲音、動畫以及視頻等，且仿真度極高。

偽造筆跡方面，英國UCL大學研究人員開發(fā)出“My text in your hand writing”人工智能算法，能夠分析一個人的字形及其特殊的書寫方式，生成字形、字號、顏色、筆線紋理、垂直及水平間距等完全相同的筆跡，達到完美偽造。

偽造語音方面，谷歌Deepmind公司開發(fā)出 “WaveNet”軟件，可利用其神經(jīng)網(wǎng)絡系統(tǒng)對原始音頻波形進行建模，生成帶有強調性音節(jié)、抑揚頓挫和體現(xiàn)情緒的目前世界上最接近人類自然語言的音頻。加拿大Lyrebird公司正在開發(fā)一種深度學習算法，使任何人都可以使用任何其他人的聲音偽造出令人驚訝的逼真演講。目前該公司已利用該技術仿造出特朗普、奧巴馬及克林頓等人的聲音進行演講。此外，Adobe公司的 Project VoCo軟件可以識別出一段語音中的文字，之后針對語音中的文字進行編輯和修改，生成音色和音調與本人完全一樣的語音。

偽造視頻方面，美國華盛頓大學研究人員開發(fā)出“可偽造真人視頻”的人工智能技術，成功將聲音片段合成轉化為對應的口型，并將該口型嫁接到視頻中的人臉上，成功偽造出口型一致的虛假視頻。研究人員演示了美國前總統(tǒng)奧巴馬在多個場景下談論***的視頻，其口型完全一致，難辨真假。此外，該技術還可以實現(xiàn)小幅時移，使神經(jīng)網(wǎng)絡預測說話者接下來所要表達的內容。

引發(fā)嚴重的國家安全和社會穩(wěn)定問題

“人工智能偽造技術”或擾亂正常的社會生活和管理秩序，引發(fā)嚴重的社會安全問題

“人工智能偽造技術”對社會秩序的各個層面構成了嚴重威脅。在社會生活層面，“人工智能偽造技術”使日常生活所用的合同、契約、證書及相關法律文本的防偽鑒定面臨新的困難。在涉及公民、法人和組織切身利益和財產(chǎn)安全的重要問題上，該技術帶來了諸多不確定性的挑戰(zhàn)。在司法層面，“人工智能偽造技術”將可用于偽造證人證言、視聽資料、電子數(shù)據(jù)及鑒定意見等虛假證據(jù)，為司法證據(jù)的鑒定采用和非法證據(jù)排除帶來了新的困難，對社會公正和社會穩(wěn)定帶來極大的挑戰(zhàn)。在公共安全層面，“人工智能偽造技術”為不法分子從事違法犯罪活動提供了便利條件。例如，不法分子出于擾亂社會治安或敲詐勒索等目的，可利用該技術制作高逼真度的殺人、綁架、爆炸等嚴重暴力犯罪的音頻視頻，將對社會穩(wěn)定構成嚴重威脅。

“人工智能偽造技術”用于社交媒體或為國內外分裂、恐怖勢力提供新的工具

社交媒體上的資訊傳播速度快、范圍廣、成本風險低、易于聚攏共識等特點，其社會動員能力強大，已成為分裂、恐怖勢力傳播極端思想、煽動不安情緒甚至制造分裂、***的重要媒介。***“***”事件中，“學運”分子在社交媒體上被塑造成“意識形態(tài)先遣隊”和“覺醒的政治力量”，加劇了***青少年的分裂思潮。Facebook中充滿了“警察***、***”等片面的消息以及很多血腥暴力的虛假圖片，激發(fā)了觀者的負面情緒，加劇了“***”事件的擴大升級。與此同時，近年來“***”組織嫻熟地利用社交媒體宣傳“***”思想，招募我國***地區(qū)的“***”活動分子，使其自發(fā)前往土耳其、敘利亞伊拉克等地參加***培訓，并企圖回國開展***活動。此外，卡塔爾近期的“外交危機”也是由社交媒體引起，黑客組織通過入侵卡塔爾通訊社網(wǎng)站并偽造國家元首埃米爾?塔米姆的講話，聲稱支持伊朗和巴勒斯坦******哈馬斯，批評美國和沙特阿拉伯，并譴責對卡塔爾支持***的有關指控，導致嚴重的外交危機。

對我啟示

“人工智能偽造技術”的出現(xiàn)，尤其是對筆跡、音頻、視頻的高逼真度偽造，為分裂、恐怖勢力偽造領導人發(fā)布虛假聲明、簽署虛假命令、遭遇不測等虛假視頻提供了便利條件。這些虛假視頻一旦流入社交媒體，將在短時間內迅速擴散，煽動強烈的社會不安情緒。

“人工智能偽造技術”已引起美國的關注。新美國安全中心發(fā)布的《人工智能與國家安全》報告中，明確將人工智能偽造技術列為威脅國家安全的重點技術，建議美國防部和情報部門成立專門的人工智能安全組織，并由國家安全局牽頭開發(fā)針對該技術的應對方法。我國同樣面臨人工智能偽造技術帶來的現(xiàn)實威脅，應趁該威脅尚處萌芽階段及早布局，通過政策管理和技術限制等途徑積極應對其潛在風險。