作者：劉詩(shī)瑤 喻思南

近年來，人工智能大模型技術(shù)的涌現(xiàn)，掀起新一代人工智能發(fā)展的研究熱潮，也為各行各業(yè)應(yīng)用人工智能帶來新的發(fā)展機(jī)遇。

人工智能的未來充滿哪些可能性？我們?nèi)绾螒?yīng)對(duì)？記者采訪了有關(guān)專家。

人工智能研究正從以往的學(xué)術(shù)牽引更多轉(zhuǎn)為需求牽引

作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量，人工智能被普遍認(rèn)為將對(duì)經(jīng)濟(jì)社會(huì)發(fā)展產(chǎn)生深遠(yuǎn)影響。

近年來，人工智能研究正從以往的學(xué)術(shù)牽引更多轉(zhuǎn)為需求牽引，人工智能的發(fā)展目標(biāo)正發(fā)生大的轉(zhuǎn)變。

在浙江大學(xué)人工智能研究所所長(zhǎng)吳飛看來，人工智能正由原來的“用計(jì)算機(jī)模擬人的智能”，向著三個(gè)方向拓展：“機(jī)器+人”（用機(jī)器與人結(jié)合成增強(qiáng)的混合智能系統(tǒng)），“機(jī)器+人+網(wǎng)絡(luò)”（用機(jī)器、人、網(wǎng)絡(luò)結(jié)合組織成新的群體智能系統(tǒng)），“機(jī)器+人+網(wǎng)絡(luò)+物”（用機(jī)器、人、網(wǎng)絡(luò)和物結(jié)合而成的智能城市等更復(fù)雜的智能系統(tǒng)）。在“賦能社會(huì)”的應(yīng)用驅(qū)動(dòng)下，一系列智能技術(shù)正在蓬勃發(fā)展。

北京郵電大學(xué)人工智能學(xué)院人機(jī)交互與認(rèn)知工程實(shí)驗(yàn)室主任劉偉介紹，從使用數(shù)學(xué)模型建立機(jī)器智能、借助統(tǒng)計(jì)概率實(shí)現(xiàn)機(jī)器學(xué)習(xí)，再到試圖借助遷移方法實(shí)現(xiàn)上下文感知的行為智能系統(tǒng)，這三類人工智能發(fā)展趨勢(shì)體現(xiàn)了向人機(jī)環(huán)境系統(tǒng)邁進(jìn)的發(fā)展路徑?！熬邆鋵?duì)環(huán)境的感知、理解和交互能力，才算真正意義上的通用人工智能。”劉偉說。

2017年國(guó)務(wù)院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》，明確了多種人工智能的技術(shù)形態(tài)，其中包括跨媒體智能、群體智能、混合增強(qiáng)智能等。

吳飛舉例，手術(shù)機(jī)器人參與的外科手術(shù)無法由醫(yī)生獨(dú)立完成，也無法由機(jī)器人單獨(dú)完成，呈現(xiàn)出人機(jī)協(xié)同混合增強(qiáng)智能特征?！案嗟拇怪毙袠I(yè)也正在加快相關(guān)人機(jī)交互探索，要么將人的作用引入智能系統(tǒng)，要么在人工智能系統(tǒng)中引入受生物啟發(fā)的智能計(jì)算模型。人機(jī)通過不斷的彼此交互、相互學(xué)習(xí)，達(dá)到持續(xù)增進(jìn)自身智能水平的目的?！眳秋w說。

通過技術(shù)和法律等手段規(guī)避人工智能風(fēng)險(xiǎn)

人工智能造福人類，同時(shí)也存在潛在風(fēng)險(xiǎn)。

“人工智能的風(fēng)險(xiǎn)，主要存在于這樣幾種可能的情況：一是惡意使用人工智能和錯(cuò)誤使用人工智能；二是軟件漏洞與硬件失效造成人工智能故障；三是環(huán)境變化造成人工智能失控?！眲フf。

人工智能使用不當(dāng)?shù)娘L(fēng)險(xiǎn)已引發(fā)人們關(guān)注。例如，人工智能技術(shù)可收集和分析海量數(shù)據(jù)，有可能導(dǎo)致個(gè)人隱私泄露、數(shù)據(jù)泄露和網(wǎng)絡(luò)攻擊；人工智能技術(shù)可生成虛假照片、視頻等，助長(zhǎng)網(wǎng)絡(luò)欺詐等不法行為。人工智能主題的科幻電影所描繪的超前場(chǎng)景，也讓人們思考人工智能技術(shù)可能帶來的倫理問題，例如，人類未來如何與有“智能”的機(jī)器相處？

在吳飛看來，人類始終是人工智能高度、廣度和深度的總開關(guān)與決定者，也是人和人造物的協(xié)調(diào)者。因此，一方面不能簡(jiǎn)單地將人工智能等同于人類大腦，盲目相信“人工智能替代人類”的觀點(diǎn)，另一方面也要善于利用人工智能這一人類幫手，在人機(jī)協(xié)同中創(chuàng)造更加美好的未來。

專家認(rèn)為，通過技術(shù)和法律等手段，人工智能相關(guān)風(fēng)險(xiǎn)可以規(guī)避，人類也有能力找到化解風(fēng)險(xiǎn)的有效手段。

我國(guó)始終是人工智能治理的積極倡導(dǎo)者和實(shí)踐者。2021年9月，國(guó)家新一代人工智能治理專業(yè)委員會(huì)發(fā)布了《新一代人工智能倫理規(guī)范》，強(qiáng)調(diào)將倫理道德融入人工智能全生命周期。2023年10月，我國(guó)在第三屆“一帶一路”國(guó)際合作高峰論壇期間發(fā)布《全球人工智能治理倡議》，圍繞人工智能發(fā)展、安全、治理三方面系統(tǒng)闡述了人工智能治理中國(guó)方案，充分體現(xiàn)了我國(guó)在處理人工智能治理問題上的大國(guó)擔(dān)當(dāng)。

建立良好生態(tài)系統(tǒng)支撐人工智能賦能社會(huì)

近年來，越來越多的國(guó)家將人工智能發(fā)展置于國(guó)家戰(zhàn)略層面，在頂層設(shè)計(jì)中加入防止人工智能技術(shù)壟斷和技術(shù)無序擴(kuò)張等理念。

如何防范人工智能技術(shù)被濫用？

受訪專家表示，應(yīng)該建立多學(xué)科、多領(lǐng)域的合作，鼓勵(lì)科學(xué)家、工程師以及公眾廣泛參與，共同探討人工智能的發(fā)展方向、應(yīng)用領(lǐng)域和道德倫理問題。全世界應(yīng)該攜手，堅(jiān)持發(fā)展和安全并重的原則，確保人工智能技術(shù)的發(fā)展符合人類的整體利益。

劉偉表示，從技術(shù)手段上看，為了增加人工智能的公平性、可信任性、可解釋與透明度、安全性等，研發(fā)主體從頂層設(shè)計(jì)、過程控制、工程收尾等整個(gè)流程中都要保持人機(jī)環(huán)境系統(tǒng)的設(shè)計(jì)思路。

瑞萊智慧首席執(zhí)行官田天認(rèn)為，要扎實(shí)做好人工智能基礎(chǔ)理論攻關(guān)，提升人工智能的內(nèi)在安全性能；鍛造、儲(chǔ)備對(duì)新一代人工智能的安全評(píng)測(cè)能力，掌握對(duì)其準(zhǔn)確性、效率、內(nèi)容安全、抗攻擊能力等多個(gè)維度進(jìn)行評(píng)測(cè)的方法和手段。同時(shí)，還要著力研發(fā)提供必要的安全工具，比如提供深度偽造檢測(cè)工具幫助公眾辨識(shí)信息真?zhèn)?、防范網(wǎng)絡(luò)欺詐等。

數(shù)據(jù)與算法安全是人工智能安全的核心。專家表示，要重視高質(zhì)量語(yǔ)料的建設(shè)，通過精標(biāo)數(shù)據(jù)、反饋數(shù)據(jù)來進(jìn)行優(yōu)化訓(xùn)練，最終實(shí)現(xiàn)模型輸出的選優(yōu)除劣。

吳飛認(rèn)為，推動(dòng)人工智能技術(shù)賦能社會(huì)需要良好生態(tài)系統(tǒng)的整體支撐，不僅僅只是技術(shù)研發(fā)本身。要把握人工智能技術(shù)屬性和社會(huì)屬性高度融合的特征，加強(qiáng)前瞻預(yù)防與約束引導(dǎo)。“一個(gè)良好的生態(tài)系統(tǒng)可有機(jī)聯(lián)結(jié)倫理與道德、技術(shù)與產(chǎn)業(yè)、資本與市場(chǎng)，在這樣一個(gè)生態(tài)系統(tǒng)中，每個(gè)來自不同領(lǐng)域的人工智能參與者都能從中獲益?！眳秋w說。

審核編輯：黃飛