記者 | 姜菁玲

在許多科幻電影中，通過腦機接口進入的虛擬世界完全由代碼構(gòu)成，在現(xiàn)實世界中只需要修改幾行代碼，主角就可以自動加載所需要的技能，成為足夠為所欲為的超級英雄。

賽博時代，現(xiàn)實與虛擬之間的界限正在越來越模糊。在人臉識別開始決定我們的身份，智能算法在揣測我們的現(xiàn)實喜好的同時，一些背刺人工智能算法的技術(shù)正在悄然成長。

在2022世界人工智能大會現(xiàn)場，一家名為瑞萊智慧的公司展示了一項足以讓人在人工智能視覺算法面前“隱身”的技術(shù)。界面新聞記者拿上一件他們定制的T恤擋在身前，和同伴同時站在一臺帶有視覺算法的人體識別機器前。電腦屏幕中可以清晰識別出同伴的人臉并且根據(jù)移動位置實時跟蹤，而被T恤所擋住的記者則形若空氣，處于“隱身”狀態(tài)，不論靠得多近都無法被機器所識別出。

展臺現(xiàn)場工作人員告訴界面新聞記者，這件可以讓人隱身的“T恤”真正的秘密在于胸前的特定圖案。這些圖案由特定的代碼生成，它可以對抗基于人工智能視覺識別技術(shù)的檢測算法，使其出錯。普通人一旦穿上，就可以逃避檢測系統(tǒng)的追蹤，讓識別系統(tǒng)檢測不到該目標。

瑞萊智慧方面解釋，實際上，這種技術(shù)所反映的是人工智能的結(jié)構(gòu)性缺陷。目標檢測系統(tǒng)大多基于數(shù)據(jù)驅(qū)動的深度學(xué)習(xí)算法，存在不可靠和不可解釋等局限性，即便是開發(fā)者也難以理解其內(nèi)在的運行邏輯，這一結(jié)構(gòu)性漏洞可能導(dǎo)致系統(tǒng)遭受惡意攻擊。

上述所演示的人體檢測技術(shù)在當(dāng)下被廣泛利用于各種安防場景。此外，工作人員稱，該隱身攻擊對象也可拓展至更廣泛的識別檢測系統(tǒng)上。例如，車輛檢測是自動駕駛智能感知系統(tǒng)的一項常用功能，只要車輛位于攝像頭前方，一般的檢測系統(tǒng)都能準確識別出車輛和車輛的位置。但如果車身上粘貼了對抗圖案，就可能使檢測算法出錯，變得無法被檢測到，進而可能導(dǎo)致一些交通事故的產(chǎn)生等等。

據(jù)介紹，這套“隱身”技術(shù)屬于是攻防實戰(zhàn)中的一個具體實驗場景，它搭載于瑞萊智慧人工智能安全平臺RealSafe中，該平臺主要提供人臉比對、圖像分類、目標檢測三類通用計算機視覺場景的安全測評和加固，幫助提高AI系統(tǒng)的安全性。