Sau khi bị cáo buộc về hành vi lừa đảo và ép buộc trên Discord, nền tảng này đang mở rộng các chính sách an toàn và cải thiện quản lý phụ huynh. Discord đang thực hiện những thay đổi lớn về chính sách an toàn trẻ em, cấm hẹn hò giữa các thanh niên và hình ảnh trẻ em được tạo bởi trí tuệ nhân tạo. Nền tảng này, được biết đến là phổ biến giữa các game thủ, đã bị đánh giá nghiêm trọng sau khi một điều tra của NBC phát hiện ra rằng các hành vi lừa đảo, ép buộc và lừa đảo trẻ em đang diễn ra nhiều trên trang web này.
Hiện nay, trung tâm này đã cụ thể cấm bất kỳ nội dung nào được tạo bởi trí tuệ nhân tạo nào tổng hợp các hình ảnh tình dục trẻ em, cũng như các phiên bản dựa trên văn bản. Trong một bài đăng trên blog, Discord nói rằng chính sách về tài liệu tình dục trẻ em của họ đã mở rộng để bao gồm “bất kỳ văn bản hoặc nội dung phương tiện truyền thông nào tổng hợp hình ảnh trẻ em, bao gồm hình ảnh được vẽ, hình ảnh thực tế và hình ảnh trẻ em tình dục được tạo bởi trí tuệ nhân tạo”.
Họ cũng rõ ràng đối với thái độ của họ về hành vi lừa đảo và hành vi tình dục với trẻ em, nói rằng Discord có “chính sách không khoan nhượng” cho hành vi lừa đảo bao gồm “mời lời mời online” và “ép buộc tình dục”.
Nền tảng này cũng đã cấm rõ ràng bất kỳ máy chủ nào được dành riêng cho hẹn hò giữa các thanh niên, và đã nói rằng bất kỳ người dùng dưới 18 tuổi nào cũng không thể gửi hoặc truy cập bất kỳ tài liệu tình dục nào. Khi nói đến chính sách hẹn hò, công ty nói rằng “hẹn hò trực tuyến có thể dẫn đến nguy cơ tự nguyện”. Các hướng dẫn của Discord(opens in a new tab) đã nói rằng công ty sẽ loại bỏ bất kỳ không gian nào “khuyến khích hoặc thúc đẩy hẹn hò giữa các thanh niên”, nhưng điều này đã được xác nhận thêm. Ngoài ra, các thanh niên lớn tuổi hơn cố gắng hoặc tham gia vào việc lừa đảo một thanh niên nhỏ tuổi hơn sẽ được đánh giá và hành động theo chính sách không thích hợp về tình dục với trẻ em và lừa đảo của Discord.
Discord được sử dụng bởi 150 triệu người dùng hoạt động hàng tháng, với 19 triệu máy chủ hoạt động hàng tuần. Trẻ em dưới 13 tuổi không được phép sử dụng Discord.
Nền tảng này nói rằng khoảng 15% nhân viên của họ, trên các bộ phận, được dành riêng cho việc làm việc về an toàn và cải thiện trải nghiệm này. Discord đã bắt đầu các bước nghiêm ngặt để cố gắng các chính sách và bảo vệ trẻ em trên trang web hai năm trước(opens in a new tab), nhưng vẫn thiếu sự kiểm soát phụ huynh mà Instagram và TikTok cung cấp.
Nền tảng này cũng vừa mới ra mắt một Trung tâm Gia đình(opens in a new tab), cho phép phụ huynh có các công cụ kiểm soát và truy cập tăng cường hơn trên tài khoản của trẻ em của họ – nếu trẻ em cho phép họ. Khi một người dùng trẻ em đăng ký, một phụ huynh hoặc người giám hộ có thể xem họ tương tác với ai, họ đã tham gia những máy chủ nào và thông tin cơ bản của những người họ đã nhắn tin hoặc gọi trong DM.
“Trung tâm Gia đình cung cấp cho phụ huynh những gì họ cần để giúp hư
Discord đã cấm các máy chủ hẹn hò trẻ tuổi và bất kỳ loại nội dung liên quan đến tình dục trẻ em mà được tạo bởi trí tuệ nhân tạo (AI).
Công ty phần mềm nhắn tin vui của Mỹ này đã công bố đây là bước để giữ cho trẻ prudish và tránh tình trạng tình dục trẻ em đang rộng rãi hiện nay.
“Chúng tôi đã quyết định – như một chiến lược khởi đầu – rằng chúng tôi sẽ tuy nhiên không cho phép bất kỳ loại nội dung liên quan đến hẹn hò trẻ tuổi ít nhất là 18 tuổi hoặc nội dung lạm dụng tình dục trẻ em được tạo bởi AI trên Discord,” Theo Discord công bố trên trang quản lý nhân quyền của công ty.
Các nhà phát triển AI ngày càng phát triển thuật toán phân tích người dùng và đặt cược với người xác định để tạo ra những gì họ cho là là “nội dung con người sáng tạo”. Discord khuyến khích người dùng cảnh báo nếu họ nhận thấy các máy chủ này chứa các nội dung khiêu dâm, hoặc bất kỳ nội dung nào không phù hợp với trẻ em.
Mặc dù các tín đồ của AI và nhà phát triển lại đã được đề xuất để góp phần bảo vệ trẻ em từ nội dung lạm dụng tình dục, lạm dụng trẻ em. Discord nhắc nhở rằng, tuyệt đối không có một AI nào là cần thiết để theo dõi các nội dung không phù hợp một cách hiệu quả. Vì vậy, họ cần người hỗ trợ của các cộng đồng để bảo vệ con người trong cuộc hành trình.
