Unity Technologies 宣佈為其開發套件推出一款新工具，該工具使用人工智能幫助開發人員識別在線遊戲中的毒性。新的安全語音工具正在內測中推出，旨在讓工作室快速隔離和審查毒性報告。 Unity 表示 Hi-Rez 的 Rogue 公司之前在早期測試中使用過該工具。
據稱，安全語音可以分析音調、響度、語調、情緒、音調和上下文等方面，以識別有毒的相互作用。當玩家標記行為問題時，它就會激活，然後開始監控並向人工管理員提交報告。該概覽儀表板將允許審核者審查單個事件並查看一段時間內的趨勢，以幫助其審核計劃。 Unity 還表示，這是其即將推出的更大規模的毒性解決方案中的第一個。
Create Solutions 的 Unity 總裁 Mark Whitten 告訴 GameSpot：“這是人們離開遊戲並停止玩遊戲的首要原因之一，因為存在有毒和其他濫用因素的不良情況。”
高分辨率工作室 宣佈建立 Unity 合作夥伴關係 二月份發布了新的語音聊天記錄系統，當時它發布了開始測試新工具的更新。在 Safe Voice 公告中，Rogue Company 首席製作人表示，該工具有助於在問題升級之前識別和緩解問題。
在早期測試階段，Unity 進行測試以確保它能夠準確標記問題並縮短人類需要參與的時間。惠頓說，為此目的非常成功。遊戲開發人員通常會在給定時間內收到數以萬計的報告，因此能夠快速縮小報告範圍，並優先考慮最有可能出現問題的報告。儘管自動化最近已成為科技領域的熱門話題，但惠頓表示，該工具旨在幫助減輕人工審核團隊的負擔。
“我認為這是一種效率提升，而不是替代方案，”惠頓說。 “話雖如此，我運營 Xbox Live 已經很多年了，只要我能取代一個不得不處理查看不適當事物的人，我就會很樂意這樣做。這不是有趣的工作，這不是你真正需要的工作。希望人們做什麼，讓他們整天看著一堆不良行為。你最好讓屏幕捕捉到其中的一些行為，然後允許他們根據屏幕採取行動，而不是必須篩選器本身。”
在篩選過程向主持人提供數據後，開發人員決定需要採取什麼行動。與所有遊戲審核一樣，各個工作室應制定自己的政策並確保懲罰措施保持一致。最後，為了保護用戶隱私，玩家必須選擇與任何其他在線遊戲協議分開的錄音。
“Unity 數據庫中的數據是匿名的，”惠頓說。 “它與遊戲中的玩家身份相關聯，因此他們可以在必要時採取審核措施，然後將其從服務中刪除。”
遊戲發行商一直在尋求以各種方式對抗網絡惡意行為。育碧為玩家提供了一種方法 聯繫當地警方，並於去年宣布與 Riot 合作 研究AI抗毒項目。最近，微軟宣布將 允許 Xbox Live 用戶共享語音剪輯 與主持人。
