?
業內新聞

黃健翔“變身”伊萬卡?GeekPwn舞臺上的AI又賣萌了

編輯/作者:李木然 2019-10-24 我要評論

精密識別下驚現AI障眼法; AI監視之下一展隱身術!在10月24日于上海舉辦的GeekPwn國際安全極客大賽的現場,一眾黑客與AI針鋒相對,再度技驚四座,為觀眾呈現了一系列扣人...

  精密識別下驚現“AI障眼法”; AI監視之下一展“隱身術”!在10月24日于上海舉辦的GeekPwn國際安全極客大賽的現場,一眾黑客與AI針鋒相對,再度技驚四座,為觀眾呈現了一系列扣人心弦的人工智能攻破挑戰。

  霍金教授生前曾預言:人工智能崛起要么是人類最好的事情,要么就是最糟糕的事情。正如任何事物都具備的兩面性,AI勾勒出令人向往未來的同時,其帶來的安全威脅也可能是人類從未面臨過的。作為全球首個探索人工智能與專業安全的平臺,GeekPwn2019繼續對AI安全展開了探索。

  高精度圖像識別AI緣何“指鹿為馬”?

  AI技術的發展,讓人臉識別技術備受青睞,“刷臉”目前已經被應用到了大部分領域。ATM機上的刷臉取款、自動售貨機的刷臉購物等等。相比于肉眼識別,AI人臉識別確實可以大幅度提高識別精度。大范圍的應用普及似乎賦予了AI“至高無上的權利”,然而,在極客眼中,它們并非能夠做到萬無一失,甚至會將肉眼能夠輕松識別的事物完全錯認。

  作為GeekPwn大賽的重頭戲,此次CAAD CTF圖像對抗樣本攻防賽為選手提供了三個挑戰:定向攻擊,非定向攻擊,并攻擊知名人臉識別服務,其中非定向攻擊要求選手通過一張對抗性圖片欺騙三組開源分類器,定向攻擊則要求選手利用一張對抗圖片讓開源分類器將圖片錯認為某一固定事物,而人臉識別攻擊則要求選手對三款人臉識別服務發起挑戰。通過長達三輪預選賽的激烈角逐,共有六支戰隊來到GeekPwn舞臺決賽現場。

  CAAD圖像CTF各戰隊展開角逐

  在比賽中,來自清華大學的TSAIL戰隊首先在“非定向識別”、“定向識別”前兩項任務中取得高分,并在難度最高的第三項“人臉識別攻擊”挑戰中成功欺騙圖像分類器,讓Clarifai人臉識別系統將黃健翔識別成伊萬卡,雖然置信度很低,但依照比賽規則,選手攻破成功!最終TSAIL戰隊以最高229.77的總得分,獲得CAAD圖像CTF項目冠軍。

  在AI之眼下實現隱身需要分幾步?

  或許是與生俱來的獵奇心態,亦或是對未能實現事物特有的憧憬,人們對于“隱身”這項能力似乎有著獨特的情結,而這一情結也在諸多影視作品中演繹得淋漓盡致:哈利波特中“隱形斗篷”;神奇四俠中的“隱形女神”蘇珊斯通,蝙蝠俠中的超級反派幽靈紳士……在GeekPwn2019的舞臺上影視橋段中的“超能力”成為了現實。CAAD隱身挑戰賽中,選手僅通過A4紙便在AI的監視下成功實現了“隱身”。

  根據“CAAD隱身挑戰賽”的規則,評委現場指定兩款標準算法模型,兩種算法可以從視頻或圖像中進行目標檢測識別人體的存在。而選手們則需要在規定時間內,通過總面積不超過一張A4大小的對抗圖片來遮擋身體,并在現場接受算法的實時檢測,如果算法模型識別不出人的存在且結果維持10s以上,則挑戰成功。

  CAAD隱身挑戰賽選手讓現場觀眾實現“隱身”

  在比賽現場,Hiding Cat、NISLer、TSAIL三支戰隊選手通過打印多張“圖像對抗樣本”,并讓現場觀眾將樣本舉在胸前,成功躲過了檢測系統的識別完成挑戰。三組選手的成功挑戰檢測距離均為1米,其中TSAIL戰隊使用的紙張面積最小,僅為196平方厘米。值得一提的是,此次比賽選手全部攻破的是被視為“目標檢測網絡的巔峰之作”的YOLOv3系統。

  全新推出的CAAD隱身挑戰賽對于AI安全來說有著極高的現實意義,在對抗樣本的作用下,活生生的人可以在鏡頭下實現“隱身”,犯罪分子甚至可以逃避執法機關的追捕,成為行走在鏡頭下的“危險隱形人”!

  此次GeekPwn2019 CAAD系列比賽,為我們呈現嘆為觀止的攻破挑戰的同時,也為當下“大紅大紫”的AI技術安全性敲響了警鐘,一旦對抗樣本在某些真實環境下被濫用,便很有可能造成極為嚴重的后果。

  在人工智能與大眾的生活越來越近的今天,前沿技術的安全性研究需要引起更為廣泛的重視,保障人們在享受科技的同時規避其高速發展帶來的風險。GeekPwn自創辦以來便一直專注于智能生活與專業安全,為大眾帶來極具腦洞的破解展示,并向廠商提交近千個漏洞,讓更多的人關注到前沿安全的重要性,讓人們的未來生活更加安全。

文章來源:移動安全網

1.本站遵循行業規范,任何轉載的稿件都會明確標注作者和來源;2.本站的原創文章,請轉載時務必注明文章作者和來源,不尊重原創的行為我們將追究責任;3.作者投稿可能會經我們編輯修改或補充。4、對于網友投稿的文章請仔細核對其真實性,如遇要求匯款轉賬情況,請格外謹慎。

相關文章
  • 白帽黑客攻破飛利浦智能音箱漏洞,控制音箱播

    白帽黑客攻破飛利浦智能音箱漏洞,控制音箱播

  • 黃健翔“變身”伊萬卡?GeekPwn舞臺上的AI又賣萌了

    黃健翔“變身”伊萬卡?GeekPwn舞臺上的AI又賣萌了

  • 僅憑玻璃杯指紋殘跡,騰訊玄武實驗室攻破指紋

    僅憑玻璃杯指紋殘跡,騰訊玄武實驗室攻破指紋

  • 白帽黑客攻破無線投屏和平板電視,可實現遠程

    白帽黑客攻破無線投屏和平板電視,可實現遠程

? 吉林快三跨度和制图