OpenAI treo thưởng 1 triệu USD cho ý tưởng quản lý AI

Trong một thông báo ngày 25 tháng 5, OpenAI cho biết họ sẽ trao 10 khoản tài trợ trị giá 100.000 đô la cho 10 ý tưởng giúp tìm ra cách quản lý phần mềm trí tuệ nhân tạo để giải quyết sự thiên vị và các yếu tố khác, Reuters đưa tin.

Khoản tài trợ sẽ được trao cho các nghiên cứu nổi tiếng giúp trả lời những câu hỏi hóc búa, chẳng hạn như liệu AI có nên chỉ trích các nhân vật của công chúng hay không và AI nên coi ai là người trung gian.

OpenAI đã tuyên bố trên tờ báo: “Các hệ thống AI sẽ mang lại lợi ích cho toàn nhân loại và càng toàn diện càng tốt. Việc chúng tôi khởi động chương trình tài trợ này là bước đầu tiên theo hướng này.”

Công ty có trụ sở tại San Francisco cho biết khoản tài trợ này có thể ảnh hưởng đến lập trường của OpenAI về quản trị AI, nhưng lưu ý rằng không có đề xuất nào có tính ràng buộc.

Tài trợ cho OpenAI không quá lớn trong nghiên cứu AI. Theo Reuters, kỹ sư trí tuệ nhân tạo và một số công việc khác trong ngành hot này có thể dễ dàng kiếm được 100.000 USD/năm, thậm chí có thể vượt 300.000 USD.

Các nhà phê bình cho rằng các hệ thống AI như ChatGPT bị sai lệch bởi thông tin mà chúng nhận được. Trong quá trình tương tác, người dùng phát hiện phản ứng phân biệt chủng tộc hoặc phân biệt giới tính từ phần mềm AI.

Điều đó đã làm dấy lên mối lo ngại ngày càng tăng rằng khi trí tuệ nhân tạo được sử dụng để thay thế các công cụ tìm kiếm như Google của Alphabet hay Bing của Microsoft, nó có thể tạo ra thông tin không chính xác theo những cách thuyết phục.

Hầu hết mọi ngành công nghiệp đều quan tâm đến tiềm năng của AI để tăng năng suất và giảm chi phí lao động. Tuy nhiên, kéo theo đó là lo ngại rằng AI sẽ lan truyền thông tin sai lệch và những điều không chính xác nhưng sẽ khiến mọi người tin tưởng. Nhiều trường hợp đã được đưa ra để chứng minh quan điểm này. Cụ thể, trên mạng xã hội mới đây lan truyền hình ảnh một vụ nổ gần Lầu Năm Góc. Vụ việc có tác động tạm thời đến thị trường chứng khoán, nhưng sau đó người ta xác định rằng bức ảnh được tạo ra một cách giả tạo.

OpenAI là công ty đi đầu trong việc kêu gọi quy định về trí tuệ nhân tạo, theo Reuters. Đồng thời, công ty cũng tung ra các bản cập nhật mới cho công cụ hình ảnh ChatGPT và DALL-E. Tại một phiên điều trần trước quốc hội Hoa Kỳ vào tháng này, Tổng giám đốc OpenAI Sam Altman nói rằng nếu công nghệ AI thất bại, có thể có những hậu quả đáng kể.

Microsoft, công ty đã đầu tư 10 tỷ USD vào OpenAI, gần đây cũng đã ủng hộ việc quản trị AI toàn diện, mặc dù công ty đã tuyên bố sẽ kết hợp công nghệ này vào các sản phẩm để mang đến cho người dùng và doanh nghiệp, cạnh tranh với OpenAI, Google và các công ty khởi nghiệp khác.