Meta Ngăn Cản Voicebox Vì Lo Ngại Rủi Ro Của Công Cụ Nhận Dạng Giọng Nói AI.

Một công cụ giọng nói AI mới của Meta tạo ra lời nói đã được coi là quá rủi ro để phát hành

Meta, tổ chức mẹ của Facebook, đã quyết định không phát hành Voicebox, một công cụ giọng nói AI mới, để tránh những hậu quả có thể xảy ra. Meta lo ngại rằng công cụ có thể tạo ra lời nói chính xác bằng nhiều giọng nói này có thể bị lạm dụng để tạo ra hàng giả hoặc lan truyền thông tin sai lệch. Mặc dù Voicebox có một số ứng dụng hữu ích, chẳng hạn như sản xuất sách nói hoặc trợ giúp các cá nhân gặp vấn đề về giọng nói, nhưng Meta lo ngại về khả năng sử dụng sai mục đích của nó, chẳng hạn như tạo video tin tức giả mạo hoặc tham gia vào các hoạt động lừa đảo.

Mặc dù Meta không cung cấp các ví dụ cụ thể về cách Voicebox có thể bị lạm dụng, nhưng công ty đã xác định các rủi ro sau đây là mối lo ngại tiềm ẩn:

1. sâu giả: Các công cụ giọng nói AI Meta có thể tạo ra các đoạn âm thanh hoặc video giả sâu nhằm gán sai các từ hoặc hành động cho các cá nhân. Deepfakes đã được sử dụng để lan truyền thông tin sai lệch và gây tổn hại đến danh tiếng của mọi người.
2. Thông tin không chính xác: Thư thoại có thể tạo video hoặc bản ghi âm tin tức giả mạo, lan truyền thông tin sai lệch. Điều này có thể được thực hiện để gây ảnh hưởng đến các cuộc bầu cử, kích động rối loạn hoặc lừa dối công chúng.
3. Gian lận: Thư thoại có khả năng mạo danh cá nhân, đánh cắp danh tính hoặc lừa người khác cung cấp thông tin nhạy cảm.

Do rủi ro tiềm ẩn này, Meta đã quyết định không cung cấp Hộp thoại vào lúc này. Công ty cho biết nó vẫn đang trong quá trình phát triển và sẽ đánh giá cẩn thận các rủi ro trước khi quyết định có phát hành hay không. Lựa chọn của Meta để giữ lại việc phân phối Hộp thoại thể hiện một bước phát triển quan trọng trong sự tiến bộ về mặt đạo đức của AI.

Công ty nhận ra rằng mặc dù AI có thể là một công cụ có giá trị cho các mục đích tích cực, nhưng nó cũng có khả năng bị lạm dụng. Bằng cách thực hiện các bước để giảm nguy cơ lạm dụng, Meta góp phần vào việc sử dụng AI có trách nhiệm và có ích trong xã hội.

Tuy nhiên, giữ đầu ra của Voicebox chỉ là bước đầu tiên để đảm bảo AI được sử dụng cho mục đích tốt. Vẫn còn nhiều việc phải làm trong việc nâng cao nhận thức cộng đồng về những lợi thế và bất lợi tiềm năng của AI và xây dựng các tiêu chuẩn đạo đức cho sự phát triển của AI. Cùng nhau, chúng ta có thể đảm bảo rằng AI được khai thác cho các mục đích tích cực.