近日，今日頭條宣布正式推出反低俗內(nèi)容小程序——靈犬反低俗助手3.0版本，應(yīng)用“Bert”和半監(jiān)督技術(shù)，重點拓展了反低俗識別類型和模型能力，同時支持對圖片和文本的低俗低質(zhì)內(nèi)容檢測，綜合準確率超過85%。用戶可以通過“靈犬”檢測文本、圖片等類型的內(nèi)容健康指數(shù)，共同參與打擊低俗低質(zhì)內(nèi)容，凈化網(wǎng)絡(luò)空間。

近年來，中國互聯(lián)網(wǎng)實現(xiàn)了跨越式迅猛發(fā)展，不幸的是，在此過程中互聯(lián)網(wǎng)也成了各種有害信息的集散地，大量涉及低俗、色情、虛假、血腥、暴力恐怖的信息充斥其中，不但污染了網(wǎng)絡(luò)空間，惡化了網(wǎng)絡(luò)生態(tài)，而且對公眾特別是青少年的線下生活也造成了實際的危害。由于互聯(lián)網(wǎng)既是有害信息的滋生地，同時也是有害信息的受害者，互聯(lián)網(wǎng)企業(yè)對遏制有害信息負有重大責任，應(yīng)當充分發(fā)揮自身技術(shù)優(yōu)勢和信息優(yōu)勢，主動向有害信息宣戰(zhàn)。此次今日頭條推出反低俗助手“靈犬”，是互聯(lián)網(wǎng)企業(yè)為整治網(wǎng)絡(luò)有害信息做出切實努力的一個樣本。

從低俗、色情等有害信息在互聯(lián)網(wǎng)上滋生蔓延之日起，職能部門、監(jiān)管部門針對互聯(lián)網(wǎng)有害信息的打擊整治工作就一刻也未停息。早在2009年1月，國務(wù)院新聞辦、工信部、公安部、文化部等七部門就聯(lián)合部署，在全國范圍內(nèi)開展整治互聯(lián)網(wǎng)低俗之風專項行動，旨在強化網(wǎng)絡(luò)信息服務(wù)單位的社會責任，對在網(wǎng)上傳播淫穢色情信息和低俗信息的不法分子予以嚴厲打擊。2017年8月，全國“掃黃打非”辦公室會同宣傳、網(wǎng)信、工信、公安、文化、工商、新聞出版廣電等八部門，在全國范圍內(nèi)開展互聯(lián)網(wǎng)低俗色情信息專項整治行動，掀起了一場互聯(lián)網(wǎng)反低俗色情信息風暴。

八部門專項整治行動主要有三項重點任務(wù)：一是嚴格督促互聯(lián)網(wǎng)企業(yè)落實內(nèi)容把關(guān)責任，相關(guān)運營企業(yè)必須強化內(nèi)容安全管理，深入開展自查自糾，有效提升對低俗色情等有害信息的識別和處置能力;二是嚴厲打擊含有低俗內(nèi)容的違法互聯(lián)網(wǎng)廣告;三是大力清查低俗網(wǎng)絡(luò)游戲，嚴禁內(nèi)容低俗的游戲網(wǎng)上傳播。由此可見，整治互聯(lián)網(wǎng)低俗色情等有害信息，互聯(lián)網(wǎng)企業(yè)是第一責任主體，必須加大科技研發(fā)投入，開發(fā)出能夠迅速、全面、精準識別有害信息的技術(shù)產(chǎn)品，不斷提升對有害信息的檢測和處置實效。這些由互聯(lián)網(wǎng)企業(yè)開發(fā)的“靈犬”，不但可以運用于上述第一項重點任務(wù)，也可以運用于上述第二、第三項重點任務(wù)，是整治互聯(lián)網(wǎng)低俗色情信息不可或缺的助手。

互聯(lián)網(wǎng)技術(shù)發(fā)展無止境，互聯(lián)網(wǎng)企業(yè)研發(fā)反有害信息的技術(shù)產(chǎn)品也無止境。如今日頭條的“靈犬”已經(jīng)過三次迭代，目前可以對圖片和文本進行低俗低質(zhì)內(nèi)容檢測，后續(xù)還將研發(fā)更新技術(shù)，實現(xiàn)對語音和視頻低俗低質(zhì)內(nèi)容的檢測。以不斷創(chuàng)新的技術(shù)手段助力檢測、處置低俗低質(zhì)有害信息，應(yīng)當成為互聯(lián)網(wǎng)企業(yè)追求技術(shù)創(chuàng)新、更好履行社會責任的重要方式。

互聯(lián)網(wǎng)企業(yè)推出的“靈犬”，不但向自己的用戶開放，也向其他企業(yè)、機構(gòu)包括政府職能部門、監(jiān)管部門開放，一方面可以動員更多用戶、企業(yè)、機構(gòu)參與到整治互聯(lián)網(wǎng)低俗低質(zhì)有害信息的行動中來，另一方面可以與政府職能部門、監(jiān)管部門實現(xiàn)技術(shù)共享、信息共享。職能部門、監(jiān)管部門應(yīng)當在與互聯(lián)網(wǎng)企業(yè)共享“靈犬”的基礎(chǔ)上，整合更廣泛的技術(shù)力量和支持力量，推出更綜合、更高層級的“靈犬”，為互聯(lián)網(wǎng)發(fā)展提供更完善的公共服務(wù)，為整治互聯(lián)網(wǎng)有害信息更好地履行監(jiān)管職責。

關(guān)鍵詞： 反低俗內(nèi)容小程序