Trong thời đại 'thiên tài trung tâm dữ liệu', nhà phát triển AI Dario Amodei cảnh báo về sự sống còn > tin tức

Cảnh báo chính của Dario Amodei là cách tiếp cận tự chủ hiện tại nhằm đảm bảo tính minh bạch hiện đã đạt đến giới hạn. Ông nhấn mạnh rằng mô hình Next Frontier đặt ra rủi ro thực sự trong 4 lĩnh vực quan trọng: an ninh mạng, sản xuất vũ khí sinh học, mất quyền tự chủ và tăng tốc nghiên cứu và phát triển tự động. Để đạt được điều này, ông lập luận rằng chúng ta nên áp dụng khung pháp lý ràng buộc với sự can thiệp của chính phủ đối với các mô hình AI vượt quá sức mạnh tính toán nhất định, giống như ngành công nghiệp máy bay trải qua quá trình kiểm tra trước và chứng nhận nghiêm ngặt thông qua Cục Hàng không Liên bang (FAA). Thay vì chỉ đơn giản là hạn chế công nghệ, những đề xuất này tìm cách thiết lập các biện pháp bảo vệ mạnh mẽ cho phép các chính phủ ngăn chặn trước hoặc rút lại việc triển khai các mô hình nguy hiểm và chưa được chứng minh.

Amodei cũng trình bày một phân tích rất tỉnh táo và có cấu trúc về tác động của AI đối với thị trường lao động. Ông cảnh báo rằng AI sẽ vượt xa vai trò là một công cụ đơn giản và sẽ trở thành vật thay thế kinh tế cho mọi khả năng nhận thức của con người, điều này có thể dẫn đến tình trạng thất nghiệp quy mô lớn trở thành một vấn đề xã hội cố hữu hơn là một hiện tượng tạm thời. Ông cho rằng để giải quyết vấn đề này, chúng ta phải tích cực thực hiện các chính sách hỗ trợ việc làm, như trợ cấp thuế cho người sử dụng lao động và tăng cường bảo hiểm tiền lương, hỗ trợ đào tạo nghề cho người lao động có nguy cơ thất nghiệp. Hơn nữa, nếu xảy ra tình huống mà bản thân nhu cầu lao động đang giảm dần về mặt cơ cấu, thì quan điểm cấp tiến là chúng ta nên xem xét nghiêm túc việc áp dụng thu nhập cơ bản phổ thông được tài trợ bằng cách tăng thuế lãi vốn hoặc đánh thuế các công ty AI.

Trong khi đó, nó cũng thể hiện sự linh hoạt về mặt chiến lược bằng cách nhấn mạnh sự cần thiết phải bãi bỏ quy định về các nút thắt cản trở đổi mới công nghệ. Mặc dù AI đang tăng đáng kể tốc độ phát hiện các loại thuốc mới trong lĩnh vực y sinh và phát triển thuốc mới, nhưng người ta chỉ ra rằng hệ thống đánh giá hiện tại của Cục Quản lý Thực phẩm và Dược phẩm Hoa Kỳ (FDA) hoặc Cơ quan Dược phẩm Châu Âu (EMA), mất vài năm, đang trở thành một trở ngại cho dòng chảy đổi mới. Do đó, Armodei gợi ý rằng cần có một thiết kế quy định phức tạp để chủ động thiết lập các tiêu chuẩn quy định mới dựa trên AI, chẳng hạn như sử dụng dữ liệu lâm sàng ảo hoặc dự đoán độc tính, nhằm đảm bảo an toàn nhưng tăng tốc độ đổi mới. Đây không phải là sự kiểm soát vô điều kiện, nhưng thể hiện quan điểm chính sách chín chắn rằng cường độ và hướng điều tiết cần được điều chỉnh tùy theo bản chất của công nghệ.

Cuối cùng, Amodei định nghĩa AI là 'tài sản chiến lược' quan trọng quyết định sức mạnh kinh tế và quân sự của một quốc gia, đồng thời kêu gọi sự đoàn kết dân chủ từ góc độ địa chính trị. Khoảng cách giữa các quốc gia có AI mạnh và những quốc gia không có sẽ rất lớn, có thể so sánh với khoảng cách về sức mạnh quân sự trong Thế chiến thứ hai, và nếu rơi vào tay một chế độ độc tài, có nguy cơ cao nó sẽ trở thành công cụ giám sát hàng loạt hoặc thao túng dư luận. Do đó, ông cho rằng các nền dân chủ nên cân bằng quyền bá chủ công nghệ bằng cách chia sẻ chuỗi cung ứng chất bán dẫn và xây dựng hệ thống phòng thủ AI. Ngoài ra, người ta nhấn mạnh rằng đổi mới quản trị là điều cần thiết để ngăn chặn các công ty tự ý quyết định số phận của AI bằng cách dàn trải các biện pháp kiểm tra và cân bằng trong công ty, chẳng hạn như 'Quỹ tín thác lãi suất dài hạn' của Antropic, trong toàn ngành.