日前,今日頭條旗下“內涵段子”應用程序及公眾號因存在導向不正、格調低俗等突出問題被廣電總局永久關停。今日頭條表示會對全線產品進行嚴格審查,舉一反三,積極整改,并希望借此機會向內涵段子的用戶及公眾致歉。

今日頭條旗下產品在最近20天內還有多次被通報或曝光事件。其實之前,今日頭條就數次被媒體點名,卻沒有切實可行的整改措施。

內涵段子有多火爆?數據顯示:2017年第二季度,搞笑類APP月活躍用戶數排行中,內涵段子月活躍用戶最多,為1746.2萬人,遠超微博等應用。可謂內涵段子紅極一時,但反觀內涵段子的大體內容,卻讓人深思。內涵段子的主頁充斥著各種擦邊球視頻及段子,其中不乏涉及色情、暴力、低俗等內容,例如利用女性身體圖片或相關部位大做文章,或是“老司機”類的黃污段子。內涵段子平臺有關開車內容太露骨,與正確價值觀和風清氣正網絡空間相去甚遠。

此前,內涵段子所謂有改進不過是有了更多的內涵段子的暗號,這對青少年的危害作用絲毫未減,反而還讓青少年覺得更有趣味性。而之所以能出現在用戶的首頁里,據相關工作人員說,是因為“智能算法”,根據用戶的瀏覽習慣自動推薦相關視頻。恰恰對今日頭條算法的優化,也成為此輪監管處理的重點。

對于完全依靠算法推薦,而不加人工編輯和審核的方式造成的弊病,是顯而易見、有目共睹的。沒有人工的編輯和運營,最終可能會出現難以控制的后果。這就像打開水閘,不僅要算算水量會不會造成危害,需要不需要導流,而且更要增加濾網,防止泥沙俱下。

算法主導的信息分配機制,固然可以高效地打造“私人訂制”,但同樣需要一定的人工干預,需要一定的價值引導,否則全面迎合依托于社交網絡不停上演的“英雄所見略同”,會制造一種不文明的社會假象,把青少年引入歧途。

對此,《人民日報》發表微評論稱:“如果一味追求爆款,卻不拆除引發危機的‘爆破點’；如果貪圖飆車式發展,卻無視‘剎車’功能失靈；如果只要價值,不要價值觀,甚至鼓吹算法沒有價值觀’,就難免出事。產品不能淪為算法的奴隸。”

算法不是王法,算法決定內容更不是公理。只有算法回歸到服務內容的角色,變得有態度、有深度、有溫度,才能讓人們在信息的海洋里盡情遨游、才能激發出源源不斷的正能量,讓青少年健康成長。

德國哲學家韋伯曾經區分了工具理性和價值理性,前者意味著發揮技術的最大效用,后者則強調價值、倫理的重要性。社會的進步,離不開先進技術的開拓者,更離不開基本價值的守望者。工具理性不能超越價值理性。即使技術再先進,也不能主觀或客觀地損害公共利益、損害任何一個人應有的權益,抹黑社會文明。