Google thông báo tạm dừng tính năng tạo hình ảnh người trong công cụ AI
- Phan Anh
- •
Google đã quyết định tạm dừng tính năng tạo hình ảnh người trong công cụ AI mới ra mắt là Gemini, sau khi chương trình này tạo ra hình ảnh lính phát xít là người thuộc nhiều nhóm dân tộc khác nhau, theo tờ CNN.
Quyết định của Google được đưa ra sau khi một người dùng mạng xã hội chia sẻ hình ảnh do Gemini tạo ra với yêu cầu tạo hình ảnh một người lính Đức năm 1943. Theo người dùng X có tên John L, công cụ AI đã tạo ra 4 hình ảnh bao gồm một người da trắng, một người da đen và hai phụ nữ da màu. Google tuyên bố đang nỗ lực giải quyết các vấn đề gần đây, đồng thời thông báo sẽ sớm phát hành phiên bản cải tiến.
Các công ty công nghệ coi AI là tương lai cho mọi thứ, từ công cụ tìm kiếm đến camera trên điện thoại thông minh. Tuy nhiên, các chương trình AI – không chỉ những chương trình do Google sản xuất – đã bị chỉ trích rộng rãi vì duy trì sự thiên vị về chủng tộc trong kết quả các chương trình.
Hiện nay các công ty công nghệ lớn bị cáo buộc tung ra thị trường các sản phẩm AI trước khi chúng được thử nghiệm đúng cách.
Google từng gặp vấn đề khi tung ra các sản phẩm AI. Tháng 2 năm ngoái, công ty đã xin lỗi sau khi một quảng cáo cho chatbot Bard mới phát hành cho thấy chương trình này đã trả lời sai một câu hỏi cơ bản về thiên văn học. Bard là tiền thân của Gemini, chương trình được Google cho ra mắt hôm 8/2.
Trước đó, các chuyên gia về, trong đó có cả Yoshua Bengio – nhà nghiên cứu AI tiên phong – đã ký tên vào lá thư ngỏ kêu gọi tăng cường quản lý hoạt động sáng tạo nội dung sử dụng công nghệ giả mạo khuôn mặt (deepfake) tiềm ẩn nhiều nguy cơ cho xã hội.
Lá thư có đoạn nêu rõ ngày nay, deepfake thường bị sử dụng trong sáng tạo các nội dung hình ảnh khiêu dâm, gian lận hoặc lan truyền các thông tin chính trị sai lệch. Khi AI phát triển ngày càng nhanh, các hình ảnh giả mạo khuôn mặt lại càng dễ được sáng tạo thì các công cụ bảo vệ càng trở nên quan trọng hơn.
Những hình ảnh giả mạo khuôn mặt được sáng tạo nhờ các thuật toán AI và thường được dùng cho các nội dung hình ảnh, âm thanh và video bắt chước nhân vật thật. Những cải tiến không ngừng trong công nghệ này đã giúp AI tạo ra những hình ảnh khó có thể phân biệt với sản phẩm do con người tạo ra.
Lá thư với tiêu đề “Can thiệp chuỗi cung ứng giả mạo khuôn mặt” cũng có những đề xuất về cách quản lý công nghệ này, trong đó có hình sự hóa mọi hành vi dùng công nghệ deepfake để sản xuất nội dung khiêu dâm trẻ em, áp các án phạt hình sự với mọi cá nhân cố tình sáng tạo hoặc tiếp tay lan truyền các nội dung deepfake gây hại, yêu cầu các công ty AI tìm cách đảm bảo các sản phẩm của mình không bị sử dụng để tạo ra các nội dung deepfake có hại.
Phan Anh
Xem thêm
Từ khóa google nguy cơ của trí tuệ nhân tạo
