本報(bào)記者 袁傳璽

    3月10日，小紅書發(fā)布《關(guān)于打擊AI托管運(yùn)營賬號(hào)的治理公告》，正式向利用技術(shù)手段模擬真人互動(dòng)的“AI托管”黑產(chǎn)宣戰(zhàn)。公告顯示，近期，平臺(tái)發(fā)現(xiàn)部分用戶采用AI托管模式運(yùn)營賬號(hào)，通過技術(shù)手段自動(dòng)生成內(nèi)容、發(fā)布筆記，并在評(píng)論、私信、群聊等場(chǎng)景中模擬真人互動(dòng)。

    小紅書方面強(qiáng)調(diào)，數(shù)以億計(jì)的用戶在小紅書平臺(tái)上分享自己的生活經(jīng)驗(yàn)，每一次真實(shí)的記錄、每一次真誠的交流，共同構(gòu)成了社區(qū)溫暖的底色。因此，平臺(tái)嚴(yán)格禁止任何利用技術(shù)手段模擬真人、進(jìn)行非真實(shí)內(nèi)容創(chuàng)作或虛假互動(dòng)的行為。

    AI托管賬號(hào)遭嚴(yán)打

    事實(shí)上，此次治理并非無的放矢。近期，AI個(gè)人智能體火遍全網(wǎng)，人工智能已經(jīng)從“動(dòng)口”進(jìn)化為“動(dòng)手”。在此背景下，有人用AI托管賬號(hào)自動(dòng)生成筆記、發(fā)布內(nèi)容，甚至在評(píng)論區(qū)模擬真人互動(dòng)，試圖以技術(shù)手段實(shí)現(xiàn)“躺著漲粉”“AI養(yǎng)號(hào)”的捷徑。

    而在商業(yè)利益的驅(qū)動(dòng)下，AI托管已形成一條“起號(hào)—養(yǎng)號(hào)—轉(zhuǎn)賣/變現(xiàn)”的灰色產(chǎn)業(yè)鏈。運(yùn)營者利用AI批量制造虛假熱度，待賬號(hào)積累一定粉絲量后，或直接轉(zhuǎn)賣牟利，或轉(zhuǎn)型帶貨、賣課收割韭菜。

    因此，內(nèi)容平臺(tái)加強(qiáng)AI托管賬號(hào)管理已勢(shì)在必行。具體來看，小紅書對(duì)于普通賬號(hào)偶發(fā)使用AI托管代寫、代發(fā)筆記或進(jìn)行互動(dòng)，平臺(tái)將根據(jù)違規(guī)程度，采取警告、限制內(nèi)容分發(fā)等梯度處理措施。同時(shí)，對(duì)于直接通過AI托管工具注冊(cè)、發(fā)布、互動(dòng)的賬號(hào)，或主頁所有公開筆記均為AI托管代發(fā)的賬號(hào)，平臺(tái)將予以封禁處理。“呼吁用戶在創(chuàng)作過程中合理使用AI工具，堅(jiān)持由真人分享真實(shí)經(jīng)歷與感受，共同守護(hù)社區(qū)的真實(shí)底色。”小紅書方面表示。

    有行業(yè)分析師對(duì)《證券日?qǐng)?bào)》記者表示：“AI托管賬號(hào)產(chǎn)生的內(nèi)容對(duì)平臺(tái)生態(tài)的破壞是系統(tǒng)性的。首先，內(nèi)容質(zhì)量劣化。AI生成的數(shù)字泔水充斥平臺(tái)，同質(zhì)化、低質(zhì)化內(nèi)容擠占優(yōu)質(zhì)創(chuàng)作者流量空間。其次，當(dāng)用戶無法分辨屏幕背后是真人還是算法，當(dāng)真誠分享淪為技術(shù)表演，平臺(tái)賴以生存的社區(qū)氛圍將蕩然無存。最后，監(jiān)管風(fēng)險(xiǎn)陡增。AI托管賬號(hào)常被用于傳播虛假信息、實(shí)施網(wǎng)絡(luò)詐騙、操縱輿論風(fēng)向，使平臺(tái)面臨巨大的合規(guī)壓力。”

    持續(xù)加強(qiáng)內(nèi)容生態(tài)管理

    小紅書的行動(dòng)并非孤例。從抖音、微博到微信、百家號(hào)，各大主流平臺(tái)正以前所未有的力度圍剿低質(zhì)AI內(nèi)容。這場(chǎng)戰(zhàn)役的實(shí)質(zhì)，是內(nèi)容平臺(tái)在AIGC時(shí)代對(duì)真實(shí)性這一核心價(jià)值的艱難捍衛(wèi)，也是行業(yè)從流量狂歡向質(zhì)量深耕轉(zhuǎn)型的關(guān)鍵拐點(diǎn)。

    數(shù)據(jù)顯示，治理風(fēng)暴正在席卷全網(wǎng)。3月10日，抖音黑板報(bào)官方賬號(hào)發(fā)布內(nèi)容，今年以來，針對(duì)AI生成色情低俗類違規(guī)內(nèi)容，已處置4.2萬條內(nèi)容，對(duì)1.4萬個(gè)賬號(hào)處以限制推薦、禁言、封禁等不同梯度的處罰。

    在各大平臺(tái)全力治理AI內(nèi)容生態(tài)的背后，政策對(duì)AI內(nèi)容的合規(guī)要求日益剛性。隨著《生成式人工智能服務(wù)管理暫行辦法》《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》等法規(guī)落地，平臺(tái)責(zé)任被進(jìn)一步壓實(shí)。

    在春節(jié)期間，中央網(wǎng)信辦部署開展“清朗·2026年?duì)I造喜慶祥和春節(jié)網(wǎng)絡(luò)環(huán)境”專項(xiàng)行動(dòng)明確要求，督促網(wǎng)站平臺(tái)集中整治惡意挑動(dòng)負(fù)面情緒、借AI生成傳播“數(shù)字泔水”、炮制發(fā)布不實(shí)信息、為違法活動(dòng)引流等問題，積極營造歡樂祥和的春節(jié)網(wǎng)上氛圍。截至目前，依法依約處置賬號(hào)3.9萬余個(gè)，清理違法違規(guī)信息70.8萬余條。

    執(zhí)法案例顯示，一批利用AI批量生成邏輯混亂、高度雷同低質(zhì)內(nèi)容的賬號(hào)被查處。例如，部分賬號(hào)利用AI生成傳播“數(shù)字泔水”等垃圾信息，干擾網(wǎng)絡(luò)生態(tài)。此外，另有賬號(hào)利用AI魔改經(jīng)典名著，制作含有血腥、恐怖畫面的視頻并打上“兒童動(dòng)畫”標(biāo)簽，嚴(yán)重侵?jǐn)_未成年人身心健康。

    廣州艾媒數(shù)聚信息咨詢股份有限公司CEO張毅在接受《證券日?qǐng)?bào)》記者采訪時(shí)表示，AI內(nèi)容安全的治理風(fēng)暴，標(biāo)志著內(nèi)容行業(yè)粗放增長時(shí)代的終結(jié)。當(dāng)平臺(tái)紛紛選擇向真實(shí)回歸，這不僅是對(duì)監(jiān)管壓力的回應(yīng)，更是對(duì)內(nèi)容本質(zhì)的重新確認(rèn)，技術(shù)應(yīng)當(dāng)是放大真人創(chuàng)造力的工具，而非替代真人存在的傀儡。

    “對(duì)于從業(yè)者而言，唯有放棄技術(shù)套利的幻想，深耕真實(shí)內(nèi)容、真誠互動(dòng)，才能在新的行業(yè)秩序中立足。而對(duì)于平臺(tái)，如何在人機(jī)協(xié)作時(shí)代重建數(shù)字信任體系，將是一場(chǎng)需要持續(xù)投入的持久戰(zhàn)。畢竟，當(dāng)算法能夠完美模擬人類，真實(shí)本身就成了最稀缺的資源。”張毅進(jìn)一步表示。

（編輯 才山丹）