Cover photo by あお🐐
我們日常使用的社交媒體背後，AI和人類版主們正在努力刪除有害內容。然而，這項工作非常艱苦，對心理健康的嚴重影響已成為問題。
這次，我們將探討版主的現狀、AI技術的局限性，以及未來的可能性。
面對艱苦現實的版主們
在〈TikTok〉和〈Facebook〉等平台上，每天都有包含兒童虐待和暴力行為的有害內容被發布。AI首先對內容進行篩選，但在許多情況下，最終判斷由人類版主來做。這項工作的影響使得許多人承受心理創傷。
2020年，〈Meta〉向受到精神損害的版主提供了5,200萬美元的補償，但問題仍未解決。一些前版主組成了工會，呼籲改善待遇。
AI技術的進化與局限
AI被用來分析大量數據，過濾有害帖子，這些都是在人類查看之前完成的。然而，對於細微差別和上下文的判斷仍有局限，僅靠AI難以做出適當的反應。
此外，AI過度過濾可能侵犯言論自由，或錯過不當內容，這些都是挑戰。一位專家指出，「AI與人類版主的合作是不可或缺的」。
版主的未來與挑戰
未來的版主工作需要AI和人類互補彼此的優勢。AI快速高效地工作，而人類版主則考慮上下文和情感因素來做出判斷。這種合作有望實現用戶安全使用的線上空間。
此外，版主的心理健康對策和工作環境改善也是挑戰。最終，可能需要一種融合技術與人類力量的新方法。
