當(dāng)共享猥褻圖像時(shí),Bumble的私人探測(cè)器系統(tǒng)會(huì)模糊圖像并將其標(biāo)記為不適合收件人。
Bumble正在使用人工智能來(lái)檢測(cè)和標(biāo)記猥褻圖像。
即將推出的稱(chēng)為“私人探測(cè)器”的系統(tǒng)可以識(shí)別出98%準(zhǔn)確性的性顯性圖像。Bumble將使用它來(lái)阻止未經(jīng)請(qǐng)求的裸體照片出現(xiàn)在約會(huì)應(yīng)用程序的人們的個(gè)人聊天中。共享猥褻圖像時(shí),系統(tǒng)會(huì)模糊圖像并將其標(biāo)記為不適合收件人。
“從那里,用戶(hù)可以決定是否查看或阻止圖像,如果被迫,可以輕松地將圖像報(bào)告給審核小組,”Bumble在一份聲明中說(shuō)。Private Detector將于6月在Bumble推出,然后在Badoo,Chappy和Lumen上發(fā)布。Badoo與Bumble和Lumen有關(guān),而B(niǎo)umble則投資了 Chappy。
當(dāng)然,Bumble并不是第一家建立自己的AI驅(qū)動(dòng)算法來(lái)檢測(cè)和標(biāo)記裸露的技術(shù)公司。例如,F(xiàn)acebook多年來(lái)一直使用人工智能來(lái)掃描和刪除性?xún)?nèi)容或過(guò)度暴力內(nèi)容的視頻和圖片。
然而,Bumble的創(chuàng)始人惠特尼沃爾夫赫德(Whitney Wolfe Herd)宣布了這一特色,因?yàn)樗€在游說(shuō)德克薩斯州立法者起草一項(xiàng)法案,該法案將發(fā)送未經(jīng)請(qǐng)求的裸體照片定為犯罪。該法案要求違法者處以高達(dá)500美元的罰款,這相當(dāng)于不雅曝光。
“數(shù)字世界可能是一個(gè)非常不安全的地方,猥褻,仇恨和不恰當(dāng)?shù)男袨椋?rdquo;她在一份聲明中說(shuō)道,并補(bǔ)充道,“'私人偵探',我們支持這項(xiàng)法案只是我們眾多方式中的兩個(gè)。 “這表明我們致力于讓互聯(lián)網(wǎng)更加安全。”
據(jù)美國(guó)有線電視新聞網(wǎng)報(bào)道,約會(huì)應(yīng)用程序目前有5000名內(nèi)容主持人,他們每天要拍攝1000萬(wàn)張照片。Bumble還禁止裸體圖像出現(xiàn)在人們的約會(huì)檔案中。