隨著環(huán)球影城走紅，阿里安全的圖像偽造檢測AI發(fā)現(xiàn)，有不法分子試圖通過偽造的環(huán)球獨家旅游咨詢點線下門臉圖像和“票務咨詢”電話進行欺詐牟利。

經(jīng)AI技術迅速自動識別該門臉圖的PS痕跡，工作人員在線下地點再次進行人工審核，發(fā)現(xiàn)實際區(qū)域并無該咨詢點，且該“票務咨詢”電話為詐騙電話，于是攔截了這一申請。

偽造圖像檢測AI發(fā)現(xiàn)用戶上傳的圖片存在修改痕跡

安全專家介紹稱，近年來大量詐騙違法人員引入偽造各類證件、轉(zhuǎn)賬記錄等技術手段實施詐騙，識別破解難度大幅增加。

2月17日，阿里安全在天池平臺針對性上線篡改圖像檢測大賽，邀請各路安全技術人員參與“篡改截圖”比賽，考驗AI的防守性能。阿里高級安全專家渡明表示，舉辦此次大賽一方面旨在推進相關防篡改技術的進步，助力解決網(wǎng)絡詐騙的社會問題，另一方面也是為了給行業(yè)培養(yǎng)更多安全技術人才。

當前，國內(nèi)外學術屆對圖像篡改檢測的研究集中在自然圖像篡改檢測，但日常帶來風險損失的假圖通常是資質(zhì)證書、文案、截圖等，現(xiàn)有的篡改檢測方法直接應用到這些新類型圖像時，準確性能大幅下降。

偽造圖像檢測AI發(fā)現(xiàn)“營業(yè)執(zhí)照”的偽造痕跡

“若篡改檢測技術能得到推廣普及應用，會很大程度遏制網(wǎng)絡詐騙?！?/strong>渡明稱，希望通過真實場景中大量出現(xiàn)的篡改圖像檢測比賽，讓篡改檢測領域更加關注此類高風險篡改圖像，進而促進檢測技術進步。

中國人民大學計算機視覺方向的研究生鹿月與輪輝在2021年參加了阿里安全舉辦的AI挑戰(zhàn)者計劃第五期“偽造圖像的對抗攻擊”比賽，他們在比賽中沉淀的論文研究成果被計算機視覺三大頂會之一的ICCV收錄。之后，兩人又收到阿里安全的面試邀請，并最終獲得媒體安全團隊實習機會。

現(xiàn)在鹿月投入到了實習項目“盜圖識別”研究中，她對新研究能實際接入產(chǎn)業(yè)應用而感到興奮，“比如我也注意到現(xiàn)在網(wǎng)絡上一張P圖就能編造很多假新聞和謠言，希望檢測技術能夠幫助發(fā)現(xiàn)這些假圖，識破謠言?！甭乖抡f。

據(jù)阿里安全介紹，目前新一代安全架構(gòu)核心技術偽造圖像檢測AI已經(jīng)應用在聊天信息、資質(zhì)證明、物流風控、轉(zhuǎn)賬記錄、媒體內(nèi)容等領域的真實性檢測中。

“很開心以往的參賽選手能將研究和實際應用結(jié)合，我們也希望以創(chuàng)新性的比賽培養(yǎng)更多技術人才，推動該領域的技術進展，從源頭以科技創(chuàng)新解決社會生產(chǎn)、生活的安全問題。”渡明說。