阿里聯合國際知名頂會IJCAI發起AI對抗競賽
作者:星期三, 一月 23, 20190

背景介紹

近年來深度學習技術的不斷突破,極大促進了人工智能行業的發展,而人工智能模型本身的安全問題,也日益受到AI從業人員的關注。2014年Christian Szegedy等人首次提出針對圖像的對抗樣本這一概念,并用實驗結果展示了深度學習模型在安全方面的局限性。我們可以通過對原始樣本有針對性的加入微小擾動來構造對抗樣本,該擾動不易被人眼所察覺,但會導致AI模型識別錯誤,這種攻擊被稱為“對抗攻擊“。該成果引發了學術界和工業界的廣泛關注,成為目前深度學習領域最熱的研究課題之一,新的對抗攻擊方法不斷涌現,應用課題從圖像分類擴展到目標檢測。對抗攻擊技術也引發了業界對于AI模型安全的擔憂,研究人員開展了針對對抗攻擊的防御技術研究,也提出了若干種提升模型安全性能的方法,但迄今為止仍然無法完全防御來自對抗樣本的攻擊。

IJCAI-19 阿里巴巴人工智能對抗算法競賽的目的是對AI模型的安全性進行探索。這個比賽主要針對圖像分類任務,包括模型攻擊與模型防御。參賽選手既可以作為攻擊方,對圖片進行輕微擾動生成對抗樣本,使模型識別錯誤;也可以作為防御方,通過構建一個更加魯棒的模型,準確識別對抗樣本。(報名地址:https://tianchi.aliyun.com/competition/entrance/231701/introduction)

重要時間

2019年3月4日 10:00:初賽評測啟動
2019年4月20日 10:00:報名截止&隊伍融合截止(未完成實名認證的隊伍將被淘汰)
2019年4月28日 10:00:截止代碼提交
2019年4月29日 10:00:最后一次評測觸發,初賽結束
2019年5月6日 12:00:入圍復賽團隊確定(排名前100)
2019年5月7日 10:00:復賽評測啟動
2019年5月30日 10:00:截止代碼提交
2019年5月31日 10:00:最后一次評測觸發,復賽結束
2019年6月10日 12:00:入圍答辯環節的團隊確定

賽事詳情:

當人工智能模型本身存在缺陷被攻擊時,那會是一種什么情形?可以想象一下:一條人潮涌動的大街上,有一個十字路口,一輛無人駕駛車駛了過來,禁止通行標識燈亮了,但因攻擊者在燈上加了噪音,智能車將其識別為允許通行標識燈,繼續高速通行,那后果不堪設想。

隨著人工智能的大規模應用,安全會成為其發展的最大挑戰。近日,阿里安全、阿里云天池平臺聯合人工智能領域國際頂級會議IJCAI(全稱:International Joint Conference on Artificial Intelligence),發起人工智能對抗算法競賽,探索對抗攻擊時,如何解決AI模型的安全性問題。目前,賽題和日程已在天池平臺公布。

阿里安全圖靈實驗室高級專家華棠介紹,這次比賽主要針對圖像分類,包括模型攻擊與模型防御,阿里公開110個類目,共計11萬張左右圖片,供選手使用。參賽選手可以作為攻擊方,對圖片進行輕微擾動生成對抗樣本,使模型識別錯誤,或識別成指定的錯誤類別;也可以作為防御方,構建一個更加魯棒的模型,準確識別對抗樣本。

據了解,為強調面向真實場景,這次競賽采用的是實際場景的圖片識別任務進行攻防對抗。除真實數據外,還包括對計算量的嚴格限制,以及對擾動噪音的限制,這更能還原真實的安全與黑灰產的攻防。

對抗樣本攻擊是近幾年學界與工業界才關注并熱議的話題。在國際知名頂會NIPS2017年和2018年會議上,谷歌大腦曾連續舉辦對抗樣本攻防競賽,普及這一課題。不過,與阿里聯合IJCAI舉辦的這次競賽不同的是,他們利用的樣本集均來自學術數據集ImageNet。

“未來的安全能力一定是建立在智能與算法基礎之上,我們希望提供真實的、對抗的場景,建立前沿研究和具體業務之間的橋梁, 進而反哺和促進整個人工智能的發展。”阿里安全圖靈實驗室負責人、資深專家薛暉說,這也是阿里首次提出安全AI概念的初衷。

通過大賽發掘安全AI人才也是預期目標之一。據統計,每年國內安全人才缺口在幾十萬人,且在不斷擴大,同時掌握安全和AI技術的人才更是少之又少。薛暉說,伴隨AI、IOT的廣泛應用,人工智能時代安全AI的研究和應用將會是一片藍海,希望通過競賽鼓勵更多人共同研究安全AI。

據悉,經過初賽、復賽和答辯,排名前三甲的隊伍,除獲得一千至五千美元不等的獎金外,還會被邀請參加今年8月在澳門舉辦的IJCAI會議。包括清華大學朱軍教授、中國科學技術大學張衛明教授、浙江大學紀守領研究員、阿里達摩院高級研究員華先勝等在內的AI安全領域專家擔任競賽的評審。

值得一提的是,朱軍等指導的清華大學團隊曾在NIPS2017對抗樣本攻防競賽中,戰勝多家世界著名高校的團隊,在三項比賽中全部奪冠;紀守領所在的NESA Lab提出了一種新型的對抗性驗證碼,在保持用戶體驗的同時,能防范來自打碼平臺等黑灰產的破解。

公開信息顯示,IJCAI是人工智能領域最重要的國際頂級學術會議,被中國計算機學會推薦為計算機學科領域A類國際會議,從1969年開始每兩年舉辦一次,自2016年起改為每年一次。

參賽對象

面向全社會開放,高等院校、科研單位、互聯網企業等人員均可報名參賽。
注:大賽主辦和協辦單位,以及有機會接觸賽題背景業務及數據的員工,放棄參賽資格;
阿里巴巴集團、螞蟻金服、菜鳥的員工參賽,可參與排名,但不得領取獎金。

組隊規則

參賽隊伍可以是單人組隊或自由組合,但最多不超過三人。

注:
1、每人只能參加一支隊伍;
2、保證參賽隊員報名信息準確有效,不得使用小號,否則會被取消參賽資格及激勵;
3、報名方式:用淘寶或阿里云賬號登入官網,完成個人信息注冊,即可報名參賽。
4、選手交流釘釘群:23301258;釘釘群僅作為交流互動,賽題相關疑問請移步至論壇專區,有賽題負責人員值班,問題反饋更為迅速。

評測及排行

1、比賽提供一批訓練數據,選手需要在阿里云容器服務上構建自己的鏡像,提交鏡像地址至天池;
2、評測在提交后觸發,排行將在每天的10:00刷新 ,隊伍一天內有一次提交機會;
3、排名規則具體在賽題和數據中說明,排行榜將選擇選手在本階段的最優成績進行排名展示;
4、最終線上成績以5月31日10:00排行榜成績與排名為準;
5、禁止私下與隊伍成員之外的人員分享代碼和數據,鼓勵在大賽論壇面向所有選手進行公開討論。

獎項設置及激勵

大賽分為3個賽道,各賽道將評選出冠軍、亞軍、季軍各1支隊伍,特別獎2支隊伍,獎項面向Top20 內的隊伍開放,將結合提交的資料進行選拔,以現場答辯確定最終排名。
冠軍:1支隊伍,USD 5,000
亞軍:1支隊伍,USD 2,000
季軍:1支隊伍,USD 1,000
特別獎:2支隊伍,USD 1,000 /隊 (作為參會差旅贊助提供)

差旅贊助:Top3 隊伍將獲得1,000美元/隊的差旅贊助,前往于8月份在澳門舉辦的IJCAI 2019主會。

積分發放: 根據復賽最終排名,按天池積分公式獲得相應積分
糧票發放: 根據復賽最終排名獲得相應糧票:
第1-10名隊伍:1000糧票
第11-50名隊伍:400糧票
第51-100名隊伍:200糧票
注:糧票根據隊伍人數平均分配。

報名地址:

https://tianchi.aliyun.com/competition/entrance/231701/introduction

 

分享:
0

相關文章

沒有相關文章!

寫一條評論

 

 

0條評論