Trong nỗ lực chống lại một trong những hậu quả đáng lo ngại của công nghệ AI, Văn phòng Luật sư Thành phố San Francisco đã khởi kiện 16 trang web có khả năng tạo ra hình ảnh "khỏa thân" bất hợp pháp của phụ nữ và trẻ em gái. Yvonne Meré, phó luật sư của thành phố, đã đứng ra với tư cách là người đề xuất cho vụ kiện này, sau khi biết về việc lạm dụng công nghệ này trên một số trang web.

Các trang web bị cáo buộc đã thu hút hơn 200 triệu lượt truy cập trong sáu tháng đầu năm 2024, với một số trong đó còn quảng cáo công khai khả năng tạo ảnh khiêu dâm mà không cần sự đồng ý. Luật sư thành phố David Chiu tiết lộ rằng, các mô hình AI được sử dụng bởi các trang web này đã được đào tạo bằng hình ảnh khiêu dâm thực sự và thậm chí là lạm dụng trẻ em.

Vụ kiện cáo buộc các trang web vi phạm các luật khiêu dâm trả thù cũng như luật khiêu dâm trẻ em, và Luật cạnh tranh không lành mạnh của California. "Chúng tôi đã đi sâu vào những góc tối nhất của internet để đưa ra vụ kiện này, và những gì tôi đã thấy thật sự đáng sợ," Chiu chia sẻ.

Sự gia tăng của công nghệ deepfake đã làm trầm trọng thêm vấn đề này, khiến các hình ảnh giả mạo trở nên chân thực đến mức khó phân biệt. Sự việc gần đây liên quan đến các bức ảnh nhạy cảm của nữ ca sĩ Taylor Swift đã khiến nhiều nhà lập pháp Hoa Kỳ kêu gọi có biện pháp ngăn chặn mạnh mẽ hơn.

Trong bối cảnh đó, một dự luật lưỡng đảng đã được đề xuất vào đầu tháng này, yêu cầu cá nhân và công ty phải chịu trách nhiệm về những "bản sao kỹ thuật số" không có sự đồng ý của người được sao chép. Đạo luật Nuôi dưỡng Bản gốc, Nuôi dưỡng Nghệ thuật và Giữ Giải trí An toàn năm 2024, hay còn gọi là Đạo luật KHÔNG GIẢ, nhằm mục đích đảm bảo rằng mọi hình ảnh và âm thanh do AI tạo ra phải được sự đồng ý của người liên quan.