AI thậm chí còn ca ngợi mại dâm bất hợp pháp, khoảng xám nguy hiểm của chất xám đang bị bào mòn

Giữa làn sóng phát triển mạnh mẽ của công nghệ trí tuệ nhân tạo, một góc tối mới của mạng xã hội đang lộ diện. Những hình ảnh, truyện tranh do AI tạo ra với nội dung miêu tả hoặc gián tiếp ca ngợi hoạt động mại dâm đang ngày càng xuất hiện phổ biến trên Instagram. Các nội dung này thu hút hàng triệu lượt xem nhưng lại chưa gặp phải sự kiểm duyệt hiệu quả từ nền tảng.

Hiện tượng này đặt ra câu hỏi lớn về năng lực kiểm soát nội dung trên mạng xã hội trong thời đại công nghệ sinh nội dung tự động. Đồng thời nó cũng cho thấy một lỗ hổng đáng lo ngại trong nhận thức xã hội về giá trị con người trong không gian số.

Nội dung đang gây tranh cãi hiện nay bao gồm hình ảnh và truyện tranh bốn khung được tạo bằng AI. Chủ đề xoay quanh cuộc sống thường nhật của các nữ nhân viên làm việc tại quán bar hoặc cơ sở dịch vụ giải trí dành cho nam giới. Dù không nói thẳng tới hành vi mại dâm nhưng phần lớn đều gợi ý, gián tiếp mô tả hoặc lồng ghép các tình huống mang tính khêu gợi, đôi khi đề cập thẳng đến những câu chuyện liên quan đến ma túy hoặc quan hệ tình dục thương mại.

Nhiều tài khoản tự nhận chia sẻ những câu chuyện có thật. Một số sử dụng các cụm từ như chị em trong ngành chia sẻ, trải nghiệm xúc động được vẽ bằng AI, 100 phần trăm câu chuyện có thật. Phần lớn các tài khoản này chỉ mới được tạo trong vài tuần gần đây nhưng đã nhanh chóng thu hút hàng nghìn người theo dõi. Mỗi ngày chúng đều đặn đăng tải từ một đến hai bài viết. Một số bài có lượt xem vượt quá 5 triệu.

Không chỉ đơn giản là số lượng, tính chất nội dung còn khiến giới chuyên gia và cộng đồng cảm thấy lo ngại. Các bài đăng miêu tả cảnh các nữ nhân viên trang điểm, chuẩn bị phục vụ khách lớn tuổi. Có bài thể hiện cảnh ba thế hệ đàn ông cùng tìm tới một cơ sở giải trí mà không hề biết rằng mình đang dùng chung dịch vụ. Một số khác vẽ cảnh phụ nữ sử dụng thuốc cấm hoặc giấu ma túy trong túi xách. Tất cả được thể hiện qua hình ảnh đẹp mắt theo phong cách truyện tranh. Không có bất kỳ cảnh báo nội dung nào dành cho người xem.

Điều đáng nói là Instagram vốn là nền tảng được giới trẻ sử dụng nhiều. Việc các nội dung mang tính khiêu dâm hoặc gián tiếp hợp pháp hóa mại dâm lan truyền mà không gặp phản ứng kịp thời từ hệ thống kiểm duyệt cho thấy rõ lỗ hổng trong cơ chế giám sát. Dù người dùng đã lên tiếng, nhiều tài khoản vẫn tiếp tục tồn tại mà không bị xử lý.

Phản hồi của công ty mẹ Meta càng làm dấy lên tranh cãi. Đại diện Meta cho biết chưa nắm được tình hình xuất hiện các tài khoản loại này. Họ cũng khẳng định sẽ xử lý nếu nội dung vi phạm rõ ràng chính sách cộng đồng, tuy nhiên nếu nội dung ở mức gợi ý hoặc diễn giải mơ hồ, việc xử lý sẽ phải xét theo từng trường hợp cụ thể. Điều này dẫn tới khoảng xám trong chính sách, nơi mà nội dung phản cảm nhưng được trình bày dưới vỏ bọc nghệ thuật hoặc chia sẻ trải nghiệm cá nhân khó bị xóa bỏ ngay lập tức.

Những gì đang diễn ra trên Instagram không chỉ là vấn đề kiểm duyệt nội dung. Đây còn là cuộc tranh luận về ranh giới giữa quyền tự do sáng tạo và trách nhiệm xã hội. Khi AI giúp ai cũng có thể trở thành nhà sáng tạo nội dung, việc xác định mức độ vi phạm của một bài viết càng trở nên phức tạp. Về mặt pháp lý, Hàn Quốc vẫn chưa có khung kiểm soát cụ thể với các nội dung do AI tạo ra, nhất là những nội dung nằm ở ranh giới giữa nghệ thuật, giả tưởng và hành vi trái pháp luật. Điều này khiến các nền tảng mạng xã hội dễ rơi vào thế bị động. Trong khi đó người dùng, đặc biệt là thanh thiếu niên, lại đang tiếp xúc hằng ngày với luồng nội dung thiếu lành mạnh mà không có hướng dẫn hay cảnh báo cụ thể.

Các chuyên gia xã hội học cho rằng cần nhanh chóng xây dựng khung pháp lý phù hợp với thời đại nội dung do AI tạo ra. Song song với đó, nền tảng cũng cần đầu tư mạnh vào hệ thống nhận diện nội dung rủi ro và tăng cường phối hợp với cơ quan chức năng để xử lý kịp thời. 

Từ trải nghiệm cá nhân và những gì mình quan sát được, bản chất của công nghệ không xấu, nhưng cách con người sử dụng nó sẽ quyết định hướng đi của xã hội. Việc để mặc những nội dung bình thường hóa mại dâm lan truyền rộng rãi chính là cái giá mà cộng đồng phải trả nếu không kiểm soát kịp thời. 

Và tất nhiên, sẽ chẳng ai muốn nếu những bức ảnh phản cảm đó tới với con em chúng ta ngày một nhiều đến nỗi mất kiểm soát đúng không?