本報訊 （記者袁傳璽）近期，圍繞AI在社交場景中的應(yīng)用，Soul對《社區(qū)公約》進(jìn)行了AI相關(guān)補(bǔ)充更新，新增了關(guān)于AI生成內(nèi)容、AI互動行為以及AI虛擬角色等場景的使用規(guī)范，這些新增規(guī)范關(guān)注AI在社交場景中的真實邊界——AI可以成為表達(dá)工具，但不應(yīng)被用于偽造身份、制造虛假關(guān)系，或替代真實互動本身。

    一位參與相關(guān)治理能力建設(shè)的技術(shù)人員提到，現(xiàn)在很多高風(fēng)險賬號已經(jīng)不再依賴明顯違規(guī)內(nèi)容，而是會盡量讓所有內(nèi)容“看起來正常”，相比過去大量發(fā)送模板化話術(shù)，現(xiàn)在一些異常賬號會嘗試模擬正常社交節(jié)奏，通過更自然的聊天方式建立信任關(guān)系。例如先進(jìn)行較長時間的日常聊天，再逐步引導(dǎo)投資、轉(zhuǎn)站外或情感依賴等行為。“以前可能是很明顯的套路，現(xiàn)在更像是在‘養(yǎng)一個關(guān)系’。”

    正因為風(fēng)險行為開始變得更加“自然”，因此平臺治理能力也在向更深層的行為識別與關(guān)系判斷升級。近年來，Soul持續(xù)加強(qiáng)AI治理能力建設(shè)，將AI進(jìn)一步應(yīng)用于虛假人設(shè)識別、異?；优袛?、風(fēng)險內(nèi)容攔截等場景，持續(xù)提升對異常社交風(fēng)險的識別效率。

    目前Soul已經(jīng)逐步形成了一套覆蓋圖片、文本、視頻、聲紋以及用戶行為等維度的多模態(tài)AI治理體系，并將其應(yīng)用于虛假人設(shè)識別、異?；优袛唷L(fēng)險內(nèi)容攔截等多個場景。

    隨著相關(guān)治理能力逐步上線，平臺對于異常社交風(fēng)險的識別效率持續(xù)提升。目前，相關(guān)系統(tǒng)識別準(zhǔn)確率已達(dá)到95%，重點風(fēng)險場景覆蓋能力相比過去提升數(shù)倍；平臺內(nèi)部分高風(fēng)險行為開始呈現(xiàn)下降趨勢。根據(jù)數(shù)據(jù)，殺豬盤高危觸達(dá)量同比下降37.37%，相關(guān)深度風(fēng)險互動持續(xù)減少；與此同時，異?；酉嚓P(guān)用戶舉報量也進(jìn)一步下降。

    大量高風(fēng)險賬號已經(jīng)能夠在真正接觸用戶之前被提前識別與自動化處置，超過66%的高風(fēng)險賬號實現(xiàn)前置攔截，平臺日均攔截異常與涉詐行為已超過10萬次，累計幫助用戶避免潛在損失超千萬元，相比傳統(tǒng)“事后封禁”，如今的平臺治理也正在逐漸轉(zhuǎn)向更前置、更持續(xù)的風(fēng)險識別與干預(yù)。

    除了風(fēng)險治理本身，AI進(jìn)入社交場景后，另一個被廣泛討論的問題，是“AI陪伴”與真實社交之間的邊界。

    目前，Soul在部分場景中已經(jīng)提供了明確標(biāo)識的AI虛擬角色等產(chǎn)品功能。這類功能更多被定位為情緒陪伴、表達(dá)支持與互動體驗的一部分，而不是以“真實用戶”身份參與社區(qū)社交關(guān)系。圍繞這一點，Soul此次也在《社區(qū)公約》中新增了相關(guān)說明，進(jìn)一步明確AI虛擬角色的使用邊界，并提醒用戶注意區(qū)分AI角色與真實用戶。

    相比傳統(tǒng)意義上的“平臺管理”，AI時代的社區(qū)治理更像是一種持續(xù)演化的協(xié)同機(jī)制。一方面，平臺通過AI能力提升風(fēng)險識別效率；另一方面，用戶對于真實感、互動體驗以及異常行為的感知，也正在成為社區(qū)治理的重要組成部分。

    當(dāng)AI開始進(jìn)入內(nèi)容創(chuàng)作、情緒陪伴與社交互動之后，“真實”本身正在變得越來越難被簡單定義。相比過去單純依賴人工判斷或靜態(tài)規(guī)則，如今的平臺治理，也開始逐漸轉(zhuǎn)向一種持續(xù)演化的動態(tài)治理能力——不僅需要識別風(fēng)險內(nèi)容本身，也需要理解行為邏輯、互動關(guān)系以及更復(fù)雜的社交場景。

    對于Soul來說，AI既是產(chǎn)品能力的一部分，也正在成為社區(qū)治理能力的一部分。它可以幫助用戶更方便地表達(dá)與交流，也可以被用于識別虛假人設(shè)、異常互動與高風(fēng)險行為。但無論技術(shù)如何變化，真實、善意、自然的互動，仍然是社交關(guān)系成立的基礎(chǔ)。

    而這或許也是AI時代下，所有社交平臺都需要面對的一個長期問題：當(dāng)“像一個人”越來越容易時，平臺該如何繼續(xù)守護(hù)人與人之間真實的連接。圍繞這個問題，Soul正在嘗試給出自己的答案。

（編輯 李家琪）