Theo hãng tin AP, tổ chức được Chính phủ Đức tài trợ Jugendschutz.net vừa công bố báo cáo cho thấy giới trẻ hiện gần như không có khả năng tự vệ trước các nội dung thù hận, bạo lực và xâm hại trên internet. Báo cáo ghi nhận số lượng lớn các vụ việc liên quan đến hình ảnh lạm dụng trẻ em, quấy rối trực tuyến và nội dung cực đoan xuất hiện trên nhiều nền tảng mạng xã hội phổ biến.
Quy định chưa đủ mạnh
Jugendschutz.net nhấn mạnh rằng, mặc dù Đức và Liên minh châu Âu (EU) đã tăng cường các quy định quản lý nền tảng số trong những năm gần đây, song các công ty công nghệ vẫn chưa kiểm soát hiệu quả việc lan truyền nội dung độc hại. Những thuật toán đề xuất nội dung bị cho là góp phần đẩy trẻ vị thành niên tiếp cận nhanh hơn với các hình ảnh bạo lực, kích động thù hận hoặc nội dung tình dục không phù hợp.
Mức độ nghiêm trọng chưa từng có
Theo tổ chức này, các vụ việc được phát hiện đạt mức cao nhất từ trước tới nay. Đáng chú ý, nhiều đối tượng lợi dụng các ứng dụng trò chuyện, nền tảng video ngắn và diễn đàn trực tuyến để tiếp cận trẻ em, thao túng tâm lý hoặc phát tán tài liệu lạm dụng tình dục trẻ vị thành niên.
Thách thức từ trí tuệ nhân tạo
Báo cáo cũng cảnh báo rằng, trí tuệ nhân tạo (AI) đang tạo thêm thách thức mới cho công tác bảo vệ trẻ em trên môi trường số. Công nghệ AI có thể bị lạm dụng để tạo hình ảnh giả mạo, phát tán nội dung độc hại hoặc che giấu danh tính tội phạm mạng, khiến việc điều tra trở nên khó khăn hơn.
