Di era 'jenius pusat data', pengembang AI Dario Amodei memperingatkan kita akan kelangsungan hidup. > berita

Peringatan utama Dario Amodei adalah bahwa pendekatan otonom yang ada untuk memastikan transparansi kini telah mencapai batasnya. Ia menyoroti bahwa model Next Frontier menimbulkan risiko nyata di empat bidang penting: keamanan siber, produksi senjata biologis, hilangnya kendali otonom, dan percepatan penelitian dan pengembangan otomatis. Untuk mencapai hal ini, ia berpendapat bahwa kita harus mengadopsi kerangka peraturan yang mengikat dengan intervensi pemerintah untuk model AI yang melebihi kekuatan komputasi tertentu, seperti halnya industri pesawat terbang yang menjalani pra-pengujian dan sertifikasi yang ketat melalui Federal Aviation Administration (FAA). Daripada sekadar membatasi teknologi, usulan-usulan ini berupaya untuk menetapkan perlindungan yang kuat yang memungkinkan pemerintah untuk terlebih dahulu memblokir atau menarik penerapan model-model yang tidak terbukti dan berbahaya.

Amodei juga menyajikan analisis yang sangat dingin dan terstruktur mengenai dampak AI terhadap pasar tenaga kerja. Ia memperingatkan bahwa AI akan lebih dari sekadar alat sederhana namun akan menjadi pengganti ekonomi bagi semua kemampuan kognitif manusia, yang dapat menyebabkan pengangguran skala besar menjadi masalah sosial yang sudah mengakar dan bukan fenomena yang bersifat sementara. Ia mengatakan bahwa untuk mengatasi masalah ini, kita harus secara aktif menerapkan kebijakan pro-ketenagakerjaan, seperti memberikan tunjangan pajak kepada pemberi kerja dan memperkuat asuransi upah dan dukungan pelatihan kerja bagi pekerja yang berisiko menganggur. Selain itu, jika ada situasi di mana permintaan tenaga kerja menurun secara struktural, pandangan radikalnya adalah kita harus secara serius mempertimbangkan untuk memperkenalkan pendapatan dasar universal yang dibiayai dengan menaikkan pajak keuntungan modal atau mengenakan pajak pada perusahaan AI.

Sementara itu, hal ini juga menunjukkan fleksibilitas strategis dengan menekankan perlunya deregulasi hambatan yang menghalangi inovasi teknologi. Meskipun AI secara signifikan meningkatkan kecepatan penemuan kandidat obat baru di bidang biomedis dan pengembangan obat baru, terlihat bahwa sistem peninjauan yang dilakukan oleh Food and Drug Administration (FDA) atau European Medicines Agency (EMA) saat ini, yang memakan waktu beberapa tahun, menjadi penghambat aliran inovasi. Oleh karena itu, Armodei menyarankan bahwa desain peraturan yang canggih diperlukan untuk secara proaktif menetapkan standar peraturan baru berbasis AI, seperti memanfaatkan data klinis virtual atau memprediksi toksisitas, untuk memastikan keamanan namun meningkatkan kecepatan inovasi. Hal ini bukan merupakan pengendalian tanpa syarat, namun menunjukkan perspektif kebijakan yang matang bahwa kekuatan dan arah regulasi harus disesuaikan dengan sifat teknologinya.

Terakhir, Amodei mendefinisikan AI sebagai ‘aset strategis’ utama yang menentukan kekuatan militer dan ekonomi suatu negara dan menyerukan solidaritas demokratis dari perspektif geopolitik. Kesenjangan antara negara-negara yang memiliki AI yang kuat dan negara-negara yang belum memiliki AI akan sangat besar, sebanding dengan kesenjangan kekuatan militer selama Perang Dunia II, dan jika negara tersebut jatuh ke tangan rezim otoriter, terdapat risiko tinggi bahwa negara tersebut akan menjadi alat pengawasan massal atau manipulasi opini publik. Oleh karena itu, ia berpendapat bahwa negara-negara demokrasi harus menyeimbangkan hegemoni teknologi dengan berbagi rantai pasokan semikonduktor dan membangun sistem pertahanan AI. Selain itu, ditekankan bahwa inovasi tata kelola sangat penting untuk mencegah perusahaan secara sewenang-wenang menentukan nasib AI dengan menyebarkan checks and balances di dalam perusahaan, seperti 'Long-Term Interest Trust' Antropic, ke seluruh industri.