Spirit AI的Ally技術(shù)目前僅限于處理基于文本的聊天，但英特爾一直與Spirit AI合作，允許Ally處理人類語音，因此它可以標(biāo)記語音聊天和直播流的有毒行為。

來自虐待玩家的種族主義，性別歧視和同性戀恐懼癥可能會破壞在線游戲會話。因此，英特爾和總部位于倫敦的公司Spirit AI正在采用原型技術(shù)，該技術(shù)使用人工智能來標(biāo)記語音聊天和直播流中的有毒行為。

Spirit AI創(chuàng)建了Ally，這是游戲公司可以用來檢測騷擾和濫用的工具。它目前僅限于處理基于文本的聊天，但最近幾個月英特爾一直與Spirit AI合作，允許Ally處理人類語音。

“現(xiàn)在很多游戲都有語音聊天，這就是許多更具惡意的行為發(fā)生的地方，”英特爾虛擬和增強(qiáng)現(xiàn)實(shí)首席技術(shù)官Kim Pallister說。

Ally不僅僅是在在線游戲聊天中挑選咒罵詞和其他攻擊性詞語。它旨在處理整個對話及其背景，包括玩家是否與朋友，自己的游戲“公會”成員或陌生人交談。

為了使其理解語音，英特爾將其語音到文本技術(shù)與Ally合并，以便它可以將口語轉(zhuǎn)換為單詞，然后系統(tǒng)可以解析。 “我們現(xiàn)在處于一個階段，'嘿，它有點(diǎn)工作'，”Pallister說。

要明確的是，Ally的目標(biāo)不是阻止青少年說出詛咒話語或阻止朋友們進(jìn)行喋喋不休的談話。“我們對此并不感興趣，”Spirit AI的業(yè)務(wù)發(fā)展總監(jiān)Peter Alau說。“我們專注于阻止俄羅斯機(jī)器人，詐騙者以及破壞您的在線游戲社區(qū)的人們。”

雖然毒性行為可以以不同的方式表現(xiàn)出來，但它也遵循不同的模式，Ally已經(jīng)從友好的聊天中學(xué)會了這些模式。然后將智能傳遞給游戲的在線社區(qū)管理員，然后他可以決定如何響應(yīng)，無論是暫停還是用戶禁止。

Alau拒絕透露哪些游戲公司已經(jīng)在使用Ally。“沒有人愿意承認(rèn)他們的毒性水平，”他說。但Spirit AI確實(shí)有很多感興趣的客戶。

“我們所有的潛在客戶都在問，'你支持聲音嗎?'”Alau補(bǔ)充道。

當(dāng)然，Ally的語音識別功能也面臨著挑戰(zhàn)，例如將人類的話語與音樂和其他噪音區(qū)分開來。它還必須足夠聰明才能理解不同的人類口音。

但即使該系統(tǒng)的語音識別功能僅達(dá)到了概念驗(yàn)證階段，Alau預(yù)計Spirit將在未來三個月內(nèi)開始與實(shí)際客戶一起測試該技術(shù)。“到今年年底，我預(yù)計會有幾個客戶全力投資，”他補(bǔ)充說。

人工智能監(jiān)控您的在線游戲會話的想法可能會讓您感到沮喪。其他人可能擔(dān)心該工具為審查鋪平了道路。但同樣正確的是，游戲是一項(xiàng)專注于吸引盡可能多的客戶的業(yè)務(wù)，這些客戶需要受到保護(hù)，免受濫用。

“如果我真的不得不描述Ally，它就是一個巧妙地偽裝成反毒性聊天工具的客戶智能工具，”Alau說。“目前，我們的大多數(shù)開發(fā)商和被許可人都只專注于最糟糕的因素，因?yàn)樗鼈儗λ麄兊牡拙€有直接影響。”

Ally如何用于幫助執(zhí)行游戲的行為準(zhǔn)則取決于客戶。但在隱私方面，Alau表示，Spirit AI是一家GDPR投訴公司，它將Ally收到的所有數(shù)據(jù)匿名化。“我們不知道是誰在說什么，總的來說，我們不在乎，”他說。“我們正在尋找最壞的情況。”

“互聯(lián)網(wǎng)上有很多地方可以找到最糟糕的情況，并說出可怕的事情。但它不一定要在我的游戲中，”阿勞補(bǔ)充道。