圖：瑞萊智慧科技公司副總裁 唐家渝

12月27日，在深圳會展中心舉辦的第十八屆中國國際社會公共安全博覽會上，來自清華人工智能研究院的官方產(chǎn)學研機構(gòu)瑞萊智慧科技公司的副總裁唐家渝接受電子發(fā)燒友專訪，就瑞萊智慧公司的市場定位是什么？瑞萊智慧安全AI領域的旗艦產(chǎn)品如何助力智能企業(yè)做好安全防護？帶來了精彩的市場前瞻和產(chǎn)品分析。

應對嚴峻的安全挑戰(zhàn)，瑞萊智慧建立獨辟蹊徑的商業(yè)定位

2018年7月，瑞萊智慧RealAI公司成立，它是清華大學人工智能研究院發(fā)起成立的科技成果轉(zhuǎn)化企業(yè)，是全球領先的安全可控人工智能基礎設施和解決方案提供商。團隊由中國科學院院士、清華大學人工智能研究院名譽院長張鈸和清華大學計算機系教授朱軍共同擔任首席科學家，清華大學計算機系博士田天出任CEO。團隊博士占比超30%，累計獲得各項知識產(chǎn)權百余項，授權發(fā)明專利近五十項。

圖：瑞萊智慧安博會展臺

瑞萊智慧副總裁唐家渝表示，伴隨規(guī)?；ㄔO和應用加速發(fā)展，保證人工智能“安全、可靠、可控”成為其未來發(fā)展最重要的趨勢。瑞萊智慧聚焦安全、可控的人工智能基礎設施建設。圍繞這一戰(zhàn)略定位，瑞萊智慧首先在底層技術上發(fā)展第三代人工智能新范式。

據(jù)悉，清華大學人工智能研究院院長、中國科學院院士張鈸教授最早提出發(fā)展“第三代人工智能”。他認為，第三代 AI 發(fā)展的思路是把第一代的知識驅(qū)動和第二代的數(shù)據(jù)驅(qū)動結(jié)合起來，通過利用知識、數(shù)據(jù)、算法和算力等4個要素，構(gòu)造更強大的 AI，建立新的可解釋和魯棒的AI 理論與方法，發(fā)展安全、可信、可靠和可擴展的 AI 技術，這是發(fā)展 AI 的必經(jīng)之路。

其次在核心業(yè)務上，瑞萊智慧聚焦三大方向：首先算法可靠，基于世界領先的對抗攻防技術檢測算法漏洞，提供防御加固，進一步提升AI系統(tǒng)安全性。其次數(shù)據(jù)安全，針對AI落地過程中可能引發(fā)的隱私數(shù)據(jù)泄漏等問題，采用隱私計算等新興技術手段，實現(xiàn)數(shù)據(jù)可用不可見，保障數(shù)據(jù)的安全流通和使用；最后針對AI換臉等技術濫用現(xiàn)象，開發(fā)相應的檢測工具，引導技術的可控應用。

唐家渝表示，人工智能應用是集算法、數(shù)據(jù)、業(yè)務于一體的有機整體，涉及訓練、檢驗、運行等生命周期階段，所以應面向所有關鍵流程和要素，布局全面且有針對性地應對措施。同時他表示，隨著公眾對于AI安全性的關注度提升，以及監(jiān)管政策的出臺和引導，未來AI行業(yè)將進入發(fā)展與治理協(xié)同的新階段，如何保證AI應用的安全性是一個重要命題，安全AI這一新興領域?qū)⒑芸煊瓉肀l(fā)。

AI安全防火墻+AI殺毒軟件 兩大旗艦產(chǎn)品展示

“今年比較出圈的一件事情是，我們通過一幅對抗樣本圖像可以解鎖多種多樣的人臉識別系統(tǒng)，無論是安防門禁、考勤系統(tǒng)和手機刷臉解鎖都可以攻破?！碧萍矣褰忉尩?，“數(shù)據(jù)驅(qū)動”的深度學習算法存在不可靠、不可解釋等局限性，即便是開發(fā)者也難以理解其內(nèi)在的運行邏輯，這就導致系統(tǒng)可能遭受到難以被察覺的惡意攻擊。

記者在走訪瑞萊智慧的展臺時，一件AI版“隱身衣”引人矚目。瑞萊智慧開發(fā)的這款特制T恤，衣服上印刷了特定的圖案，能夠讓識別算法出錯、捕捉不到目標，人一旦穿上便可以實現(xiàn)“隱身”。據(jù)介紹，衣服上看似奇怪的圖案就是針對算法漏洞生成的“對抗樣本”圖案，能夠誤導識別算法使其出錯。

圖：AI版“隱身衣”演示

除此，還有更多新型攻擊手段出現(xiàn)。唐家渝補充道，“一些黑產(chǎn)分子通過不法手段采集到人臉識別信息數(shù)據(jù)后，用AI算法驅(qū)動它生成各種各樣的表情，這樣的圖像可以成功地攻破某些銀行的APP，攻破人臉識別系統(tǒng)，后續(xù)的登錄操作、轉(zhuǎn)帳操作都可以正常進行，這也是數(shù)據(jù)泄漏很直觀的風險所在。”

為了抵御類似的攻擊，瑞萊智慧研發(fā)了業(yè)內(nèi)首個AI安全防火墻系統(tǒng)，通過集成多項國際領先的對抗防御算法，能夠有效檢測和抵御對抗樣本攻擊和AI換臉等新型攻擊風險，實現(xiàn)人臉識別、目標檢測等計算機視覺場景的安全加固升級，可用于安防門禁、人臉身份核驗、人臉解鎖等場景的安全防護，大幅提升人工智能系統(tǒng)的安全性。

除此，瑞萊智慧推出了業(yè)內(nèi)首個業(yè)務級人工智能安全平臺RealSafe，提供模型安全性測評及防御加固的端到端解決方案，類似于AI系統(tǒng)的殺毒軟件。相較于IBM ART、Google CleverHans等開源工具，該平臺開箱即用，無需具備專業(yè)的算法安全知識和研發(fā)經(jīng)驗，同時首創(chuàng)黑盒測評，支持在被測方不暴露被測AI模型參數(shù)等信息的情況下進行測評，優(yōu)勢顯著。

“這是深度學習算法存在的結(jié)構(gòu)性缺陷，刷臉支付、刷臉解鎖等人臉識別應用，智能手機、智能閘機，以及線上APP、第三方支付平臺等智能系統(tǒng)均面臨對抗樣本攻擊、數(shù)據(jù)投毒等攻擊威脅。為此，瑞萊智慧基于RealSafe平臺，能夠全面挖掘模型漏洞，從根本上發(fā)掘并解決可能影響業(yè)務正常運行的安全漏洞?！?唐家渝重點介紹道。

談及兩大產(chǎn)品的不同之處，唐家渝表示，AI防火墻是通過檢測外部訪問、輸入數(shù)據(jù)、行為決策等抵御安全風險，人工智能安全平臺則是為算法模型進行全面的體檢并提出改進方案，從根本上提升系統(tǒng)安全性。

截止目前，瑞萊智慧AI產(chǎn)品和解決方案已經(jīng)在政務、金融、能源、互聯(lián)網(wǎng)等領域落地，服務于中國石油、中國電建、長安汽車、浦發(fā)銀行等在內(nèi)的數(shù)十家大型企業(yè)機構(gòu)。最后，唐家渝表示，信息領域的安全是攻防博弈的過程，安全AI也同樣如此，需要不斷升級算法，更快一步的發(fā)現(xiàn)和抵御住新型風險。未來，瑞萊智慧將持續(xù)聚焦于國際領先的AI安全攻防技術研發(fā)和產(chǎn)業(yè)化實踐，護航智能產(chǎn)業(yè)安全可控地蓬勃發(fā)展。


本文為原創(chuàng)文章，作者章鷹，微信號zy1052625525，轉(zhuǎn)載請注明以上來源。如需入群交流，請?zhí)砑游⑿舉lecfans999.