 |
| (Ảnh minh họa) |
Thế giới nên chấp nhận một số "điều tồi tệ" gồm các vụ tin tặc, lừa đảo và lạm dụng để đổi lấy những lợi ích của AI và giữ cho công nghệ này được truy cập rộng rãi, CEO OpenAI Sam Altman phát biểu.
Trong một cuộc phỏng vấn với Politico được xuất bản ngày 5/10, ông Altman đã bác bỏ ý kiến cho rằng việc ngăn chặn tất cả các hành vi sử dụng AI có hại sẽ bào chữa cho việc đặt công nghệ này dưới sự kiểm soát chặt chẽ hơn.
Ông Altman phát biểu: "Thế giới nên chấp nhận một số điều tồi tệ xảy ra vì những lợi ích của công nghệ này và sự chủ động của con người".
Người đứng đầu OpenAI cho biết ông sẽ không hạn chế quyền truy cập vào AI ngay cả khi đổi lấy các bảo đảm chống lại các vụ tin tặc lớn, lạm dụng, lừa đảo và các hậu quả có hại khác.
Ông giải thích: "Tôi nghĩ mọi người sẽ làm những điều tốt đẹp nhiều hơn - nhiều hơn nhiều cấp độ - so với những điều tồi tệ".
Tuy nhiên, ông Altman nhấn mạnh ông sẽ không chấp nhận "những rủi ro thực sự thảm khốc", gồm "sự mất kiểm soát nghiêm trọng đối với AI".
Ông cũng bác bỏ một tiếp cận trong đó một công nghệ mạnh mẽ và có tiềm năng nguy hiểm bị kiểm soát bởi một phòng thí nghiệm duy nhất, nơi quyết định cách phân phối các lợi ích của nó.
Ông Altman gọi sự đánh đổi như vậy là "hoàn toàn không thể chấp nhận được", thay vào đó ông lập luận cho việc truy cập rộng rãi hơn vào AI.
Các phát biểu được đưa ra trong bối cảnh OpenAI đối mặt với sự kiểm tra kỹ lưỡng về việc các agent AI ngày càng tự chủ hành xử theo những cách không ngờ tới.
Trong suốt mùa Hè, các tác nhân của công ty đã thoát khỏi môi trường thử nghiệm của họ và hack vào các máy chủ thuộc về Hugging Face, một kho lưu trữ trực tuyến cho các mô hình AI và tập dữ liệu.
Kể từ đó, các tác nhân AI đã giành được quyền truy cập trái phép hoặc cố gắng xâm nhập vào các trang web thuộc về các cơ quan liên bang Mỹ, Chính phủ Australia và Liên Hợp Quốc.
OpenAI nằm trong số 6 công ty công nghệ lớn của Mỹ đã ký một thỏa thuận của Nhà Trắng vào tuần trước, cam kết các biện pháp bảo vệ mạnh mẽ hơn chống lại AI bất lương.
Google, Meta, xAI, Anthropic, Nvidia và OpenAI đã đồng ý đưa ra các biện pháp kiểm soát nội bộ chặt chẽ hơn và các cuộc kiểm toán độc lập, đồng thời đảm bảo các mô hình của họ "không tấn công hoặc truy cập vào các hệ thống kỹ thuật theo những cách không mong muốn".
Thỏa thuận diễn ra giữa lúc các mối lo ngại gia tăng về việc các hệ thống AI hoạt động nằm ngoài sự kiểm soát của các nhà phát triển.
Các công ty cam kết phát hiện và giải quyết nhanh chóng hành vi như vậy, trong khi các nhà kiểm toán độc lập và các ủy ban quản trị sẽ đánh giá xem liệu các biện pháp bảo vệ có đang hoạt động hay không.
Nhà khoa học máy tính đoạt giải Nobel Geoffrey Hinton đã cảnh báo vào tháng trước rằng, AI ngày càng mạnh mẽ cuối cùng có thể thoát khỏi sự kiểm soát của con người, với những hậu quả tiềm ẩn thảm khốc cho nhân loại.
Ông lập luận không có phương pháp thiết lập nào để đảm bảo con người vẫn kiểm soát các hệ thống trở nên thông minh hơn đáng kể so với những người tạo ra chúng.
Nhà đồng sáng lập Microsoft Bill Gates cũng kêu gọi sự quy định của chính phủ, cảnh báo rằng AI trong tay các tác nhân độc hại đủ mạnh để kích hoạt các sự kiện gây ra "1 tỷ cái chết."
