Story
Alphabet tạm dừng tính năng tạo ảnh AI trên Google Earth do vi phạm chính sách
Alphabet (GOOGL), công ty mẹ của Google, đã thông báo tạm dừng một tính năng tạo ảnh bằng trí tuệ nhân tạo (AI) mới được tích hợp vào Google Earth, chỉ một ngày sau khi triển khai. Quyết định này được đưa ra sau khi người dùng chia sẻ các hình ảnh do AI tạo ra có dấu hiệu vi phạm chính sách của công ty.
Diễn biến vụ việc
Tính năng này, được vận hành bởi mô hình AI Nano Banana 2 của Google, cho phép người dùng tạo ra các hình ảnh quang học chân thực dựa trên dữ liệu vệ tinh, trên không và 3D của Google Earth chỉ bằng cách nhập một câu lệnh văn bản. Tuy nhiên, công cụ này đã nhanh chóng vấp phải chỉ trích về nguy cơ lan truyền thông tin sai lệch, khi nó có thể được sử dụng để tạo ra các kịch bản giả mạo trên hình ảnh thực tế của các di tích và địa danh.
Trong một thông báo trên mạng xã hội X, Google cho biết: "Chúng tôi đã thấy các chuyên gia không gian địa lý sử dụng tính năng này cho nhiều mục đích hữu ích, tuy nhiên chúng tôi cũng thấy mọi người chia sẻ ảnh chụp màn hình của các hình ảnh được tạo ra có vẻ vi phạm chính sách của chúng tôi." Công ty nói thêm rằng họ đang tạm dừng tính năng này để "xây dựng các hàng rào bảo vệ mạnh mẽ hơn".
Google không nêu rõ loại hình ảnh nào đã vi phạm chính sách. Hãng nhấn mạnh rằng các hình ảnh này không xuất hiện trong trải nghiệm chính của Google Earth và đều được đóng dấu bản quyền (watermark) là do AI tạo ra.
AdBối cảnh và Tác động
Sự việc này phản ánh một thách thức lớn hơn trong ngành công nghệ: cuộc chạy đua tích hợp các công cụ AI tạo sinh vào sản phẩm thường đi trước việc xây dựng các biện pháp kiểm soát lạm dụng hiệu quả. Các công ty công nghệ lớn liên tục phải điều chỉnh, hạn chế hoặc tạm thời vô hiệu hóa các tính năng AI để đối phó với các vi phạm của người dùng và lo ngại về an toàn.
Đây không phải là trường hợp cá biệt. Ví dụ, Meta gần đây đã phải ngừng hoạt động Muse Image, một tính năng AI cho phép tạo hình ảnh từ các tài khoản Instagram công khai, sau khi bị chỉ trích rộng rãi về các vấn đề riêng tư. Đối với các nhà đầu tư, những sự cố như vậy nhấn mạnh rủi ro về mặt vận hành và uy tín đi kèm với việc triển khai nhanh chóng công nghệ AI, đòi hỏi sự cân bằng giữa đổi mới và trách nhiệm.