Malwarebytes的一份新報(bào)告稱，由人工智能控制的惡意軟件可以創(chuàng)建更具說(shuō)服力的垃圾郵件，避免安全檢測(cè)，并更好地適應(yīng)每個(gè)目標(biāo)。人工智能(AI)已經(jīng)在抵御惡意軟件和其他威脅方面發(fā)揮作用。通過(guò)機(jī)器學(xué)習(xí)，AI現(xiàn)在可以做的不僅僅是向安全軟件添加惡意軟件樣本。它還可以檢測(cè)同一惡意軟件的未來(lái)版本和類似變體。但是，如果幫助組織對(duì)抗這些威脅的人工智能是由網(wǎng)絡(luò)犯罪分子加入的呢?如果惡意軟件通過(guò)AI變得更聰明，更難以及幾乎檢測(cè)不到怎么辦?這些是Malwarebytes周三發(fā)布的報(bào)告中探討的問(wèn)題。

題為當(dāng)人工智能都被打亂：從事實(shí)分離科幻，該報(bào)告著眼于AI和安全軟件的當(dāng)前景觀和設(shè)想，在不久的將來(lái)，在AI增強(qiáng)惡意軟件會(huì)造成更劇烈和強(qiáng)大的威脅。雖然AI在惡意軟件檢測(cè)中發(fā)揮了有益的作用，但它有自己的弱點(diǎn)。例如，人工智能不斷需要調(diào)整，Malwarebytes解釋說(shuō)，因此它可以檢測(cè)盡可能多的合法惡意軟件而不會(huì)引發(fā)太多的誤報(bào)。但這是惡意軟件作者可以利用的非常弱點(diǎn)。

通過(guò)確定AI驅(qū)動(dòng)的安全軟件在嘗試識(shí)別惡意軟件時(shí)所尋找的內(nèi)容，網(wǎng)絡(luò)犯罪分子可以調(diào)整其有效負(fù)載以更輕松地避免檢測(cè)。惡意軟件編寫(xiě)者甚至可能弄臟他們的樣本以欺騙AI將合法文件標(biāo)記為惡意軟件，從而引發(fā)大量誤報(bào)。

網(wǎng)絡(luò)犯罪分子和不良行為者可以通過(guò)其他方式利用AI，而無(wú)需將其構(gòu)建到自己的惡意軟件中。使用機(jī)器學(xué)習(xí)，他們可以解決CAPTCHA以隱藏這種類型的身份驗(yàn)證方法。他們可以使用人工智能來(lái)掃描社交媒體，找到合適的人群，使用魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)活動(dòng)。他們可以創(chuàng)建更有說(shuō)服力的垃圾郵件，更好地為潛在的受害者定制。

盡管目前沒(méi)有任何支持AI的惡意軟件的例子在野外流傳，但該報(bào)告設(shè)想了這種惡意軟件在不久的將來(lái)可能構(gòu)成威脅的幾種方式。

蠕蟲(chóng)可以通過(guò)了解過(guò)去絆倒它們?nèi)缓蟊苊膺@種行為來(lái)避免檢測(cè)。例如，如果AI確定蠕蟲(chóng)背后的代碼觸發(fā)了它的檢測(cè)，則該蠕蟲(chóng)的作者可以輕松地重寫(xiě)代碼。如果蠕蟲(chóng)的行為挫敗了它的成功，作者可以添加一種隨機(jī)性來(lái)獲得過(guò)去的模式匹配規(guī)則。

特洛伊木馬可以創(chuàng)建自己的新版本來(lái)欺騙檢測(cè)方法。報(bào)告中提到的Swizzor木馬已經(jīng)通過(guò)不斷下載新版本的惡意代碼采用了類似的策略。

IBM專門(mén)創(chuàng)建了DeepLo??cker攻擊工具，以展示現(xiàn)有AI技術(shù)如何增強(qiáng)惡意軟件攻擊。通過(guò)采用AI，DeepLo??cker使用隱身來(lái)實(shí)現(xiàn)其目標(biāo)。該工具偽裝成視頻會(huì)議軟件并隱藏起來(lái)，直到它通過(guò)面部和語(yǔ)音識(shí)別以及其他屬性識(shí)別其預(yù)期的受害者。然后它彈出它的攻擊。網(wǎng)絡(luò)犯罪分子可以裝備他們自己的具有類似智能的惡意軟件來(lái)感染系統(tǒng)而不被發(fā)現(xiàn)。

另一個(gè)已被廣泛開(kāi)發(fā)的領(lǐng)域是社會(huì)工程。虛假消息在世界范圍內(nèi)造成了嚴(yán)重破壞，導(dǎo)致影響2016年美國(guó)大選，影響了英國(guó)退出歐盟的決定，并引發(fā)了印度的謀殺狂潮。在2018年的Malwarebytes博客文章中討論過(guò)，DeepFakes是一個(gè)術(shù)語(yǔ)，描述了一種通過(guò)使用AI將某人的嘴巴和臉部與其他人說(shuō)出的話語(yǔ)相匹配來(lái)創(chuàng)建真實(shí)人物的虛假視頻的方法。在報(bào)告的場(chǎng)景中，DeepFakes可以用來(lái)創(chuàng)建一個(gè)老板的視頻消息，告訴別人的話告訴你將現(xiàn)金匯到賬戶進(jìn)行商務(wù)旅行。因此，這種類型的技術(shù)可能導(dǎo)致高度令人信服的魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)攻擊。

簡(jiǎn)而言之，掌握在網(wǎng)絡(luò)犯罪分子手中的人工智能可以為更難以發(fā)現(xiàn)的惡意軟件，更具針對(duì)性的威脅和受害者，更有說(shuō)服力的垃圾郵件和網(wǎng)絡(luò)釣魚(yú)攻擊，更有效的傳播方式以及更有說(shuō)服力的假新聞鋪平道路。

我們離這一切有多遠(yuǎn)?Malwarebytes預(yù)計(jì)會(huì)在接下來(lái)的一到三年內(nèi)看到使用人工智能對(duì)抗惡意目的的威脅，但這種威脅只能以極少的方式出現(xiàn)?，F(xiàn)在的問(wèn)題是：我們可以做些什么來(lái)防范這種威脅?

積極主動(dòng)是報(bào)告中分享的一條建議。消費(fèi)者，組織和員工都必須了解威脅狀況，并為支持AI的惡意軟件做好準(zhǔn)備。

政府需要采取行動(dòng)保護(hù)自己免受人工智能的武器化。報(bào)告稱，大多數(shù)政府尚未為此做好準(zhǔn)備。在這方面，只有包括美國(guó)在內(nèi)的幾個(gè)國(guó)家制定了某種類型的人工智能戰(zhàn)略。但必須制定一個(gè)更加健全的標(biāo)準(zhǔn)和監(jiān)管計(jì)劃。

安全廠商還必須通過(guò)人工智能和機(jī)器學(xué)習(xí)來(lái)保護(hù)他們自己的產(chǎn)品，以防止網(wǎng)絡(luò)犯罪分子利用漏洞。

“然而，快進(jìn)10年，如果我們不積極主動(dòng)，我們可能會(huì)陷入困境，”報(bào)告認(rèn)為。“最好以負(fù)責(zé)任的方式開(kāi)發(fā)這項(xiàng)技術(shù)，以360度的方式看待它如何用于善惡，而不是讓它在我們身上滾動(dòng)，超越我們的范圍。”