Cuộc chiến của các nhà điều hành, biện pháp an toàn trên mạng xã hội | Release #375

Trên các nền tảng như và , nội dung độc hại bao gồm lạm dụng trẻ em và hành vi bạo lực được đăng tải hàng ngày. AI thực hiện sàng lọc nội dung trước tiên, nhưng trong nhiều trường hợp, các nhà điều hành phải đưa ra quyết định cuối cùng. Công việc này dẫn đến nhiều người trong số họ bị chấn thương tâm lý.

Vào năm 2020, đã bồi thường 52 triệu đô la cho các nhà điều hành bị tổn thương tinh thần, nhưng vấn đề vẫn chưa được giải quyết. Một số cựu nhà điều hành đã thành lập công đoàn để yêu cầu cải thiện điều kiện làm việc.

AI được sử dụng để phân tích lượng dữ liệu khổng lồ và lọc các bài đăng độc hại trước khi con người xem xét. Tuy nhiên, việc đánh giá sắc thái và ngữ cảnh có giới hạn, và chỉ AI thì khó có thể xử lý đúng cách.

Thêm vào đó, việc lọc quá mức của AI có thể vi phạm tự do ngôn luận hoặc bỏ sót nội dung không phù hợp. Một chuyên gia chỉ ra rằng, "Sự hợp tác giữa AI và các nhà điều hành là không thể thiếu."

Tương lai của điều hành đòi hỏi một hệ thống mà AI và con người bổ sung lẫn nhau. AI hoạt động nhanh chóng và hiệu quả, trong khi các nhà điều hành con người đưa ra quyết định dựa trên ngữ cảnh và yếu tố cảm xúc. Sự hợp tác này hứa hẹn tạo ra không gian trực tuyến an toàn cho người dùng.

Thêm vào đó, việc đối phó với sức khỏe tinh thần của các nhà điều hành và cải thiện môi trường làm việc cũng là thách thức. Cuối cùng, có lẽ cần một cách tiếp cận mới kết hợp sức mạnh của công nghệ và con người.