O的Data61針對(duì)機(jī)器學(xué)習(xí)的攻擊開發(fā)了“疫苗”Data61聲稱其新的疫苗接種技術(shù)集顯示可以防止對(duì)機(jī)器學(xué)習(xí)算法進(jìn)行的對(duì)抗性攻擊Data61稱其有效地進(jìn)行“疫苗接種”，稱用于保護(hù)人工智能(AI)和機(jī)器學(xué)習(xí)算法免受敵對(duì)攻擊的技術(shù)能力是機(jī)器學(xué)習(xí)研究的重大進(jìn)步。根據(jù)科學(xué)組織的數(shù)字部門，算法從他們接受培訓(xùn)的數(shù)據(jù)中“學(xué)習(xí)”，以創(chuàng)建一個(gè)機(jī)器學(xué)習(xí)模型，可以有效地執(zhí)行給定的任務(wù)，而無需特定的指令。一個(gè)例子是預(yù)測(cè)或準(zhǔn)確分類圖像和電子郵件 - 目前用于識(shí)別垃圾郵件，從X射線診斷疾病和預(yù)測(cè)作物產(chǎn)量的技術(shù)。

Data61表示，此類技術(shù)將很快推動(dòng)汽車發(fā)展。

另請(qǐng)參閱：AI和機(jī)器學(xué)習(xí)如何幫助您保護(hù)企業(yè)免受網(wǎng)絡(luò)攻擊

Data61機(jī)器學(xué)習(xí)組組長(zhǎng)Richard Nock博士表示，通過在圖像上添加一層噪聲(如對(duì)手)，攻擊者可以欺騙機(jī)器學(xué)習(xí)模型，對(duì)圖像進(jìn)行錯(cuò)誤分類。

“對(duì)抗性攻擊已被證明能夠欺騙機(jī)器學(xué)習(xí)模型錯(cuò)誤地將交通停車標(biāo)志標(biāo)記為速度標(biāo)志，這可能對(duì)現(xiàn)實(shí)世界產(chǎn)生災(zāi)難性影響，”他說。

“我們實(shí)施對(duì)手的弱版本，例如對(duì)圖像集合的小修改或失真，以創(chuàng)建更”困難“的訓(xùn)練數(shù)據(jù)集。當(dāng)算法訓(xùn)練有暴露于小劑量失真的數(shù)據(jù)時(shí)，結(jié)果模型更強(qiáng)大，不受對(duì)抗性攻擊。“

由于疫苗接種技術(shù)是根據(jù)最糟糕的對(duì)抗性例子構(gòu)建的，因此Data61表示它們理論上應(yīng)該能夠抵御非常強(qiáng)烈的攻擊。

另請(qǐng)閱讀：為什么AI和ML不是網(wǎng)絡(luò)安全解決方案 -（TechRepublic）

“人工智能和機(jī)器學(xué)習(xí)可以幫助解決世界上一些最大的社會(huì)，經(jīng)濟(jì)和環(huán)境挑戰(zhàn)，但如果不對(duì)這些技術(shù)進(jìn)行有針對(duì)性的研究，這種情況就不可能發(fā)生，”Data61首席執(zhí)行官阿德里安·特納說，稱這項(xiàng)研究對(duì)這一增長(zhǎng)做出了重大貢獻(xiàn)。對(duì)抗機(jī)器學(xué)習(xí)領(lǐng)域。

“Data61開發(fā)的針對(duì)對(duì)抗性攻擊的新技術(shù)將引發(fā)一系列新的機(jī)器學(xué)習(xí)研究，并確保積極使用變革性人工智能技術(shù)。”

該公告是繼11月份Data61投資1900萬澳元用于人工智能和機(jī)器學(xué)習(xí)未來科學(xué)平臺(tái)之后，旨在針對(duì)人工智能和質(zhì)量，健康和福祉，可持續(xù)能源和資源，彈性和有價(jià)值的環(huán)境等領(lǐng)域提供針對(duì)性的人工智能驅(qū)動(dòng)解決方案，和澳大利亞和地區(qū)安全。

undefined

undefined

聯(lián)邦科學(xué)與工業(yè)研究組織(CSI