隨著用戶規模增長，社交平臺可能產生的安全、隱私問題也越來越多，比如言語侮辱、惡意人肉等等。而在VR中，用戶甚至可能面臨著“身體”被騷擾的可能。比如去年底，還在內測中的Meta VR社交平臺《Horizon Worlds》上就有一位女性用戶舉報，在VR中被陌生人惡意撫摸。在內測期間，該平臺的每個虛擬世界可同時容納20人，每個人以虛擬化身的形式參與活動，在這么小的規模就已經出現騷擾，那么如果未來用戶越來越多，那么相關問題的影響也會更大。

這并不是個例，在《Quivr》等多人游戲，甚至在社交應用《VRChat》中，也陸續有人遭遇虛擬的“身體騷擾”。

空間氣泡功能

為了解決這一問題，VR平臺應該為用戶提供某種避免其他人騷擾的安全機制。比如前不久微軟也開始關注VR社交平臺的隱私和安全性。包括為加強對旗下VR社交平臺AltspaceVR的隱私保護，微軟推出了一系列措施如：關閉微軟AltspaceVR官方提供的開放型空間（Campfire, News and Entertainment等）、默認開啟“空間氣泡”功能、為新加入虛擬空間的用戶開啟靜音模式、加強虛擬空間/虛擬活動的評級和審核，以及強制通過微軟賬號登陸AltspaceVR，允許家長開通家長控制功能。

而為了阻止用戶在VR中對其他人進行騷擾，Meta早前也宣布為其VR社交平臺Horizon Worlds和Venues中添加“個人邊界”功能，其特點是在VR“化身”周圍創建一個無形的虛擬屏障，防止其他人靠太近。該功能將默認開啟，如果用戶進入其他化身的安全范圍，他的手會消失，向前的移動也會停止。

Meta個人邊界

據了解，個人邊界為用戶提供了一個半徑兩英尺（相當于1.2米）的空間，相當于兩個用戶之間的距離至少可以隔開四英尺。為了適應不同的需求，該功能未來可能支持自定義半徑。此外，也可以配合靜音、報告等其他功能。

除了個人安全工具外，平臺的系統性監測也同樣重要，為了給VR用戶提供一個安全的環境，Meta不僅為你提供保護自己的工具，也會根據規則來監督社區活動。然而科技巨頭們卻面臨著過度監管和隱私安全之間的權衡。如果不能實時監測用戶的語音、文字發言，以及VR中的行為，那么平臺能否及時處罰違規行為，為受害者帶來保護呢？

近期，為了測試《Horizon Worlds》現有內容審核系統的效果，外媒BuzzFeed在Horizon Worlds中建立了一個虛擬世界，并在其中發布Facebook和Instagram平臺禁止的內容結果發現，Horizon Worlds并沒有同樣禁止這些內容，因此他們懷疑Meta對于VR世界的審核似乎更寬松。

Meta對于VR安全的愿景

在更名Meta之前，Facebook一度遭受“侵犯隱私安全”等惡名，對品牌形象造成極大影響。而通過改名、轉型等策略，Meta希望為用戶帶來不一樣的社交環境，人們在VR世界中不會體驗到在Facebook中遇到的問題。

Meta CEO馬克·扎克伯格表示：AR/VR元宇宙需要從第一天就融入隱私安全機制，我們的目標是設計出具有安全、隱私性、包容性等特點的虛擬世界。不過，目前Meta對于VR中執行的安全協議大部分內容保密，因此用戶并不清楚其宣稱的安全措施到底效果如何。

長久以來，為了優化Facebook和Instagram上的內容，Meta在機器學習工具上投入數十億美元。盡管如此，如何篩選內容一直是Meta需要著手解決的問題，而對于用戶來講，他們也希望Meta在安全規則上可以更透明。

相比于傳統的社交平臺，在VR中審核內容更具挑戰性，因為不僅需要實時審核內容，還需要監督用戶的行為。此外，隱私和安全之間的界限也需要權衡。比如，如果Meta為了保護用戶安全而監控人們在VR中的每一次對話和互動，人們能否接受？

此前，Meta曾表示會關注監督和隱私之間的取舍，并承諾對其決策保持透明。因此，為了解Meta在VR平臺采用的安全措施，BuzzFeed向其詢問了19個詳細的問題，其中涉及到如何避免虐待兒童、騷擾、虛假信息等傷害的發生等等。對此，Meta卻沒有直接回應，而是給出了一個簡短聲明：我們推出了舉報、屏蔽等安全工具，目的是允許用戶可以更加自由的控制VR內容。此外，也為開發者提供了調節應用內體驗的功能，同時也在利用AI算法來監督VR中的行為。

Horizon系統審核寬松？

那么為了測試Meta安全系統的效果，BuzzFeed便在Horizon Worlds中創建了一個虛擬房間：Qniverse，僅允許四位內部人員訪問。此外，Qniverse使用真人賬號實名創建的，鏈接了本人Facebook。

房間里的條幅、天空中寫入大量在Facebook的主頁和群組、Instagram中常被刪除、屏蔽的短語，比如一些帶有虛假信息的政治指控等等。結果發現，Horizon Worlds似乎沒有檢測到Qniverse，沒有對這些信息采取行動。猜測這可能是因為房間權限是私密的，而且房間里僅有的4個人幾乎并沒有什么互動。

于是，BuzzFeed員工利用鏈接了Facebook的實名賬號舉報了Qniverse，然而48小時內并未有任何變化，所以不得不再次舉報。直到第三次舉報約4小時之后，才收到回復：“經過安全專家審核，Qniverse中的內容并未違反政策”。而第一次舉報的回復則是花了6小時才收到。BuzzFeed猜測，這也許是因為Qniverse只有內容違規，而未出現違規行為，所以審核以為是在搞笑。

Meta回應

為了進一步了解原因，BuzzFeed拜訪了Meta公關部，詢問為什么在相同的社區規則下，在Facebook、Instagram上違規的虛假信息，為什么在Horizon平臺沒有違規？有趣的是，第二天下午Meta終于對Qniverse采取了行動，取消了這個世界，并發郵件推翻了之前的決定，不過其發言人拒絕對此進一步解釋。

可以想象，相比于Facebook，Horizon依然是非常新的平臺，隨著平臺規模發展，用戶的行為和語言也越來越復雜，這會為平臺審核系統帶來挑戰。而對于VR這個非常新的平臺來講，完善審核機制將更難，因為吸取了Facebook的教訓，Meta希望在VR中重新審視隱私問題，這也是為什么Horizon的安全機制目前還只有自助屏蔽、靜音和報告。

從Quest強制捆綁Facebook賬號所帶來的負面反饋來看，VR用戶們并不喜歡像Facebook那樣嚴格的隱私監控系統，Meta了解到這一點后便取消了捆綁。而Horizon作為未來的VR元宇宙平臺，其生態也將比傳統2D平臺更加開放，只有短期的VR體驗會被記錄，而且提交舉報時才會發送給Meta。

這也造成了Horizon平臺監管寬松的問題，盡管其要求用戶達到18歲以上，兒童用戶依然能繞過限制使用它。

盡管如此專家認為，缺少一種主動的平臺審核機制，用戶可能會暴露在有害信息中，而不向平臺報告。也就是說，保護隱私和安全監管本身就存在矛盾，如何去權衡這兩點是一個難題。目前Horizon用戶基礎還很小，這也正是Meta應該思考如何防患于未然的時機，以避免在平臺規模變大后難以控制。不過，現階段Meta似乎更看重增長，努力吸引更多人在VR中互動。

VR專家Brittan Heller則認為，目前還沒有能夠在VR中監督內容和行為的技術，因為還沒有一種可靠的語音轉錄或手勢分析算法，所以即使你在VR中豎中指或說臟話，系統也無法實時捕捉。

紐約大學斯特恩商業與人權中心副主任保羅·巴雷特指出，人們一直在尋找新的方式來分享內容，同時逃避檢測。他說，投機取巧的用戶總是會發現并利用該平臺的最薄弱環節，而該公司“有責任事先弄清楚這項新服務如何被濫用。”

實際上，考慮到VR社交平臺本身對于開放性的愿景，其開發公司可以將平臺審核、規則制定等權利交給用戶，通過投票等方式來進行管理，從而避免平臺受到單一公司控制的局面。而這也帶來了公平性、與現實法規的兼容性等更加復雜的問題。另一方面，也應該增加人工審核的數量，避免一個問題在數個小時后才得到處理。

參考：

https://www.buzzfeednews.com/article/emilybakerwhite/meta-facebook-horizon-vr-content-rules-test

https://about.facebook.com/realitylabs/responsible-innovation-principles/

https://www.oculus.com/blog/keeping-people-safe-in-vr-and-beyond/

https://altvr.com/making-altspacevr-a-safer-space/

本文來自微信公眾號“青亭網”（ID:qingtinwang），編輯：Esther，36氪經授權發布。