上個(gè)星期五的槍擊事件已經(jīng)過了Facebook的系統(tǒng)，因?yàn)樗鼪]有數(shù)據(jù)可以在現(xiàn)場(chǎng)直播的大規(guī)模槍擊事件中訓(xùn)練人工智能。該事件也類似于第一人稱射擊游戲視頻，這在平臺(tái)上很常見。

社交網(wǎng)絡(luò)稱，F(xiàn)acebook的人工智能無法檢測(cè)到上周五新西蘭清真寺襲擊的現(xiàn)場(chǎng)視頻，因?yàn)橄到y(tǒng)根本不夠聰明，無法識(shí)別攻擊者拍攝的大規(guī)模射擊。

在周三的博客文章中，F(xiàn)acebook提供了詳細(xì)的報(bào)道，說明它如何回應(yīng)恐怖襲擊的視頻，該攻擊是在平臺(tái)上直播的。

Facebook一直在使用基于人工智能的算法來自動(dòng)刪除包含色情內(nèi)容和恐怖主義贊助內(nèi)容的視頻和圖像。這些算法可以做到這一點(diǎn)，因?yàn)樗麄円呀?jīng)獲得了大量有關(guān)違規(guī)內(nèi)容的真實(shí)案例。

由于Facebook沒有描述直播大規(guī)模槍擊事件的訓(xùn)練數(shù)據(jù)，因此上周五的槍擊事件超過了該系統(tǒng)。Facebook副總裁蓋伊羅森寫道，這些活動(dòng)非常罕見。

使問題復(fù)雜化的是Facebook上的視頻流行，描繪了第一人稱射擊游戲的視頻游戲鏡頭。“另一個(gè)挑戰(zhàn)是從視覺上相似，無害的內(nèi)容中自動(dòng)識(shí)別這些內(nèi)容 - 例如，如果我們的系統(tǒng)標(biāo)記了數(shù)千個(gè)來自直播視頻游戲的視頻，我們的評(píng)論者可能會(huì)錯(cuò)過我們可以提醒第一響應(yīng)者的重要真實(shí)視頻為了獲得實(shí)地幫助，“羅森補(bǔ)充道。

因此，該公司不得不依賴用戶了解拍攝的鏡頭。但是，在直播期間，視頻僅被觀看了200次，其中沒有一個(gè)生成單個(gè)用戶報(bào)告。在Facebook用戶最終報(bào)道內(nèi)容后直播結(jié)束僅12分鐘。

在原始視頻在Facebook上播放之前，它已被觀看了4000次。但最終有更多用戶開始在Facebook上分享和發(fā)布視頻的新副本。

羅森把視頻的流通歸咎于三個(gè)群體：那些故意試圖保持鏡頭的壞演員; 涉及此事件的媒體; 和普通用戶好奇這個(gè)事件。沒有幫助的問題是視頻的新副本是如何以不同格式共享的，這使得Facebook的自動(dòng)化系統(tǒng)更難以檢測(cè)和降低視頻。

“總的來說，我們發(fā)現(xiàn)并阻止了800多個(gè)視覺上截然不同的視頻變體，”羅森說。Facebook的系統(tǒng)最終變得足夠智能，可以在上傳過程中自動(dòng)刪除超過120萬的攻擊視頻。但是，大約300,000份額外副本僅在發(fā)布后才被刪除。

那么Facebook怎么可能阻止另一次射擊病毒?該公司沒有提供任何明確的解決方案。“有人問我們是否應(yīng)該為Facebook Live添加時(shí)間延遲，類似于電視臺(tái)有時(shí)使用的廣播延遲。[但]每天有數(shù)百萬的直播，這意味著延遲無法解決問題，因?yàn)橐曨l數(shù)量龐大，“羅森說。

然而，該公司確實(shí)計(jì)劃改進(jìn)其AI系統(tǒng)，以快速檢測(cè)并防止有問題的視頻傳播病毒。一個(gè)實(shí)驗(yàn)涉及使用基于音頻的技術(shù)來識(shí)別同一視頻的不同格式。