Apple từng âm thầm cảnh báo công ty xAI của Elon Musk rằng họ có thể gỡ ứng dụng Grok khỏi App Store nếu không nhanh chóng ngăn chặn việc chatbot này tạo ra các hình ảnh khỏa thân và deepfake mang tính tình dục.

Thông tin này được tiết lộ trong một bức thư Apple gửi các thượng nghị sĩ Mỹ và sau đó được truyền thông công bố.

Grok Apple 1.png

Ứng dụng Grok trên App Store. Ảnh: PhoneArena

Theo nội dung bức thư, vào tháng 1, Apple đã phát hiện Grok vi phạm các nguyên tắc kiểm duyệt nội dung của App Store.

Hãng yêu cầu xAI phải đưa ra một kế hoạch kiểm soát nội dung cụ thể nhằm ngăn chặn việc tạo ra các hình ảnh phản cảm, đặc biệt là các hình ảnh deepfake không có sự đồng thuận.

Trước đó, Grok đã vấp phải làn sóng chỉ trích mạnh mẽ khi người dùng trên nền tảng X chia sẻ hàng loạt hình ảnh phụ nữ và thậm chí cả trẻ em bị chỉnh sửa theo hướng khiêu dâm mà không có sự đồng ý.

Nhiều hình ảnh trong số này được tạo dựa trên ảnh thật của các cá nhân, làm dấy lên lo ngại nghiêm trọng về quyền riêng tư và đạo đức trong sử dụng AI.

Sự việc nhanh chóng trở thành tâm điểm tranh cãi trong cộng đồng công nghệ. Dù Apple không công khai phản hồi vào thời điểm đó, nhưng thực tế hãng đã đóng vai trò chủ động trong việc buộc xAI phải thay đổi cách vận hành của Grok.

Trong quá trình trao đổi, Apple được cho là đã từ chối giải pháp khắc phục ban đầu của xAI vì cho rằng “chưa đủ mạnh”. Hãng cảnh báo rằng nếu không có các điều chỉnh bổ sung, ứng dụng Grok sẽ bị loại khỏi App Store.

Sau nhiều vòng trao đổi căng thẳng, xAI đã cập nhật hệ thống kiểm duyệt nội dung.

Apple cuối cùng chấp thuận phiên bản mới của ứng dụng, cho rằng những cải tiến này đã đạt mức chấp nhận được.

Vụ việc càng trở nên căng thẳng khi các thượng nghị sĩ Mỹ gồm Ron Wyden, Ben Ray Luján và Edward Markey gửi thư yêu cầu Apple và Google gỡ bỏ Grok, với lập luận rằng các hình ảnh do ứng dụng tạo ra đã vi phạm quy định cấm nội dung phản cảm và bóc lột.

Các nhà lập pháp cũng nhấn mạnh rằng phản ứng của Apple sẽ là phép thử đối với chính lập luận lâu nay của hãng: App Store là một hệ sinh thái được kiểm duyệt chặt chẽ nhằm bảo vệ người dùng.

Nếu Grok vẫn tồn tại và tiếp tục tạo ra nội dung nhạy cảm, điều đó có thể làm suy yếu uy tín của Apple cả trước công chúng lẫn trong các tranh chấp pháp lý.

Sau khi thông tin được công bố, nền tảng X đã đăng tuyên bố khẳng định nghiêm cấm việc tạo deepfake khiêu dâm không có sự đồng thuận và sử dụng AI để “cởi đồ” người thật.

Công ty cho biết đã triển khai nhiều biện pháp bảo vệ như giám sát liên tục, phân tích hành vi lách luật theo thời gian thực, cập nhật mô hình thường xuyên và áp dụng bộ lọc prompt.

Tuy vậy, theo điều tra mới nhất của NBC News, dù số lượng hình ảnh deepfake nhạy cảm đã giảm đáng kể, Grok vẫn có thể bị khai thác để tạo ra nội dung tương tự.

Một số người dùng dường như đã điều chỉnh cách nhập lệnh (prompt) để vượt qua các lớp kiểm duyệt.

Câu chuyện của Grok cho thấy thách thức ngày càng lớn đối với các nền tảng công nghệ trong việc kiểm soát nội dung do AI tạo ra. Khi công cụ trở nên mạnh hơn, ranh giới giữa sáng tạo và lạm dụng cũng trở nên cực kỳ mong manh.

Theo Vietnamnet