當人工智能被蒙騙，人類的未來將會怎樣？5月13日，全球首次海上極客大賽GeekPwn年中賽在香港舉辦，組委會在舉辦地星夢郵輪“云頂夢號”上宣布：將以500萬的獎金池，啟動10月24日在上海和硅谷的人工智能安全挑戰賽的招募，接受全球頂尖AI安全極客的報名。同時GeekPwn還將與項目聯合發起方Next Idea(騰訊創新大賽)、獨家AI協辦機構機器之心等合作伙伴，就AI安全的社會及專業議題展開前沿深入的探討。

　　（碁震KEEN公司CEO，GeekPwn大賽創辦人王琦）

　　遠程操控特斯拉、用鼻尖解鎖手機、任意遠程劫持世界任一用戶的通訊……創辦于2014年的國際安全極客大賽GeekPwn，白帽黑客們將他們的逆向思維、奇思妙想的腦洞發揮到了極致。在向世界秀出他們的才華的同時，也幫助了上百個廠商及產品去修復安全問題。GeekPwn創辦人、碁震KEEN公司創始人兼CEO王琦表示，從對抗的思路出發，創辦人工智能安全挑戰賽是為了尋找AI潛藏的風險并不斷幫助其完善，幫助人工智能安全健康成長。

　　如今，人工智能已經廣泛應用于生活的諸多場景中，包括實時語音翻譯、目標識別、自動駕駛等等。率先關注到人工智能可能暴露出的諸多風險，GeekPwn實驗室在2015年底開始了AI對抗的研究，并廣泛接觸和招募AI領域的頂尖人才，很快，在2016年的GeekPwn美國站上，生成對抗網絡(GANs)之父Ian Goodfellow就展示了“對抗性圖像”在現實物理世界欺騙機器學習的效果。原始圖像以60%的置信度判斷為“熊貓”，但是加入了微小的干擾，在人眼完全看不出差別的情況下卻以99%的執行度歸為了長臂猿。

　　近期，有研究者發現，惡意攻擊者可以欺騙Google的CloudVision API，這將導致API對用戶提交的圖片進行錯誤地分類，網絡犯罪分子可以利用這種技術來傳播暴力圖片、色情圖片或恐怖主義宣傳圖片。

　　不需要學代碼 未來可能人人都是“黑客”

　　AI在圖像領域存在被欺騙的可能性，讓王琦預見到這種可能性在其他語音和行為智能等領域也會存在。AI被欺騙，看似人工智能的錯誤和不完善，但其實在黑客眼里就有可能變成可以被利用的漏洞。隨著AI在交通、金融和醫療體系中運用得愈加普遍，GeekPwn希望在惡意分子真正動手之前、找到對抗這些攻擊的方法。

　　王琦表示，在人工智能領域，深度學習依賴對大量樣本進行學習，最后產生決策的過程，和安全領域里通過產生大量模糊測試樣本引發計算機異常，從而發掘出漏洞，最終執行流程可以被改變，進而導致安全危害的過程非常相似，如果說正確樣本能夠產生正確的決策，那么黑客通過離線模擬產生的AI攻擊樣本，則可能給人工智能帶來錯誤的決策和行為。

　　微軟聊天機器人Tay上線不到一天，就向網友“成功學習”了新的聊天方式，從彬彬有禮的美國“姑娘”變得臟話不斷，言語中還充斥了種族主義、色情等“情感偏見”。王琦大膽預言：深度依賴學習樣本的人工智能，未來對它的攻擊可能甚至不需要編寫代碼，人人都可能成為“黑客”。

　　極棒向全球AI極客廣發英雄帖 與人工智能“決戰到底”

　　作為全球首個探索人工智能與安全的專業平臺， 2017年，GeekPwn(極棒)將人工智能安全挑戰賽列為全年重點項目。聯合發起方NEXT IDEA 2017年則以“未來想象”為主題，讓青年群體更多關注包括人工智能安全等與人類未來息息相關的領域，讓每一個年輕人的奇思妙想得到肆意生長。騰訊集團市場與公關部總經理許菁文認為，安全專家對于未來的擔憂將引領年輕人思考人類未來的生產、生活遇到的問題和挑戰，讓更多的年輕人一起為人工智能安全貢獻一份力量。

　　無論你是想突破人臉識別手機解鎖，在 AI 開源框架中找到問題，還是想“創造”AI特工，讓它實現入侵，都可以報名參加。在這場即將到來的黑客與人工智能的對決中，黑客將利用AI 的錯誤以及不完善，為人們帶來怎樣突破性的想象和超前的技術展示？這一切，將在10月24日GeekPwn2017嘉年華上海站及硅谷站的現場為全人類揭曉。

　　“我們現在是幫助人工智能成長，希望有朝一日，黑客可以成為保護人類的那群人。”王琦說。