Facebook公布了用于打擊在平臺(tái)上創(chuàng)建假帳戶的工具,F(xiàn)acebook表示,它擁有一種由人工智能驅(qū)動(dòng)的新方法,稱為深度實(shí)體分類(Deep Entity Classification,簡(jiǎn)稱DEC),這種方法被證明特別有效。
DEC是一個(gè)機(jī)器學(xué)習(xí)模型,它不僅會(huì)將來自可疑賬號(hào)的活動(dòng)考慮在內(nèi),而且還會(huì)評(píng)估所有來自周圍的信息,包括可疑賬號(hào)的交互賬戶和瀏覽頁面行為。Facebook稱,通過這種方法,他們已經(jīng)將垃圾郵件和詐騙賬號(hào)的數(shù)量減少了27%。
截止到目前,DEC已經(jīng)幫助Facebook識(shí)別了超65億個(gè)虛假賬號(hào),這些虛假賬號(hào)都是騙子和其他惡意行為者在去年創(chuàng)建或試圖創(chuàng)建的。在這些賬號(hào)中,絕大多數(shù)實(shí)際上都是在創(chuàng)建賬號(hào)的過程中就被發(fā)現(xiàn)了,即使是那些被通過的賬號(hào),往往也會(huì)在用戶舉報(bào)之前就被Facebook的自動(dòng)系統(tǒng)發(fā)現(xiàn)。
不過,F(xiàn)acebook估算,目前該平臺(tái)上所有的28.9億月度活躍用戶中,約有5%是屬于Facebook認(rèn)為違反其服務(wù)條款的虛假賬號(hào)。
這就是DEC的用武之地。它采用復(fù)雜而全面的方法來分析用戶行為,每個(gè)配置文件包含大約20,000個(gè)功能。例如,它將分析那些可能是偽造的帳戶向其它用戶發(fā)送的好友請(qǐng)求,而不僅僅是懷疑帳戶本身,目的是打擊惡意行為者模仿真實(shí)行為。Facebook表示,隨著時(shí)間的推移,至少是在Facebook的自動(dòng)系統(tǒng)看來,精明的垃圾郵件發(fā)送者在偽裝成為真實(shí)用戶方面會(huì)越來越高明。DEC應(yīng)該通過深入研究與之交互的帳戶在平臺(tái)上的行為來改變這一局面。
隨著2020年美國總統(tǒng)大選的不斷臨近,DEC對(duì)Facebook來說是至關(guān)重要的。推廣垃圾郵件和試圖欺騙用戶只是Facebook虛假賬號(hào)問題的一個(gè)方面。這家公司已經(jīng)承認(rèn),來自伊朗、俄羅斯和其他地方的外國勢(shì)力致力于利用社交平臺(tái)影響新聞報(bào)道、投票行為和其他整體選舉事務(wù)。隨著時(shí)間的推移,這些操作則會(huì)變得越來越復(fù)雜。
去年,F(xiàn)acebook和Twitter就關(guān)閉了一個(gè)龐大的虛假賬號(hào)網(wǎng)絡(luò),這些虛假賬號(hào)利用人工智能工具生成真實(shí)的個(gè)人資料照片,他們?cè)谏缃幻襟w平臺(tái)上推動(dòng)著支持特朗普的消息傳播。由于照片是通過神經(jīng)網(wǎng)絡(luò)生成的,所以很難識(shí)別出是否為假照片。DEC的到來無疑為Facebook帶來得力助手,不過這家公司承認(rèn),這套解決方案還需要不斷改進(jìn)從而確保其能有效應(yīng)對(duì)垃圾郵件發(fā)送者不斷變化的策略。
