Cover photo by あお🐐
我们日常使用的社交媒体背后，AI和人类版主们正在努力删除有害内容。然而，这项工作极其艰苦，对心理健康的严重影响已成为问题。
这次，我们探讨版主的现状、AI技术的局限以及未来的可能性。
面临严酷现实的版主们
在〈TikTok〉和〈Facebook〉等平台上，每天都会发布包含儿童虐待和暴力行为的有害内容。虽然AI首先对内容进行筛选，但在许多情况下，人类版主做出最终判断。这项工作的影响使许多人承受精神创伤。
Photo by akira
2020年，〈Meta〉向因精神损害的版主支付了5200万美元的补偿，但问题仍未解决。一些前版主成立了工会，呼吁改善待遇。
AI技术的进化及其局限
AI被用于在人工审核前分析大量数据并过滤有害帖子。然而，在判断细微差别和上下文时存在局限，仅靠AI难以适当应对。
此外，AI过度过滤导致的言论自由侵害和不当内容的疏漏也是问题。一位专家指出，“AI与人类版主的合作是不可或缺的。”
版主的未来与挑战
未来的版主工作需要AI和人类相互补充各自的优势。AI快速高效地工作，而人类版主则考虑上下文和情感因素进行判断。通过这种合作，有望实现用户安全使用的在线空间。
Photo by Liysphoto
此外，版主的心理健康对策和工作环境改善也是挑战。最终，可能需要一种将技术与人类力量结合的新方法。
