ในยุคของ 'อัจฉริยะศูนย์ข้อมูล' นักพัฒนา AI Dario Amodei เตือนถึงความอยู่รอด > ข่าว

คำเตือนที่สำคัญของ Dario Amodei คือแนวทางอัตโนมัติที่มีอยู่เพื่อรับรองความโปร่งใสได้มาถึงขีดจำกัดแล้ว เขาเน้นย้ำว่าโมเดล Next Frontier ก่อให้เกิดความเสี่ยงที่แท้จริงในสี่ประเด็นสำคัญ ได้แก่ ความปลอดภัยทางไซเบอร์ การผลิตอาวุธชีวภาพ การสูญเสียการควบคุมอัตโนมัติ และการเร่งการวิจัยและพัฒนาแบบอัตโนมัติ เพื่อให้บรรลุเป้าหมายนี้ เขาแย้งว่าเราควรใช้กรอบการกำกับดูแลที่มีผลผูกพันกับการแทรกแซงของรัฐบาลสำหรับโมเดล AI ที่เกินกำลังในการคำนวณ เช่นเดียวกับที่อุตสาหกรรมเครื่องบินต้องผ่านการทดสอบและรับรองล่วงหน้าอย่างเข้มงวดผ่าน Federal Aviation Administration (FAA) แทนที่จะจำกัดเทคโนโลยีเพียงอย่างเดียว ข้อเสนอเหล่านี้มุ่งสร้างมาตรการป้องกันที่แข็งแกร่งซึ่งจะช่วยให้รัฐบาลสามารถปิดกั้นหรือถอนการติดตั้งแบบจำลองที่ยังไม่ผ่านการพิสูจน์และเป็นอันตรายได้

Amodei ยังนำเสนอการวิเคราะห์ที่ชาญฉลาดและมีโครงสร้างเกี่ยวกับผลกระทบของ AI ในตลาดแรงงาน เขาเตือนว่า AI จะไปไกลกว่าการเป็นเครื่องมือธรรมดาๆ และจะเข้ามาแทนที่ความสามารถทางเศรษฐกิจทั้งหมดของมนุษย์ ซึ่งอาจนำไปสู่การว่างงานจำนวนมากกลายเป็นปัญหาสังคมที่ฝังรากลึก แทนที่จะเป็นปรากฏการณ์ชั่วคราว เขากล่าวว่าเพื่อแก้ไขปัญหานี้ เราจะต้องดำเนินนโยบายส่งเสริมการจ้างงานอย่างจริงจัง เช่น การให้สิทธิประโยชน์ทางภาษีแก่นายจ้าง และการเสริมสร้างความเข้มแข็งในการประกันค่าจ้างและการสนับสนุนการฝึกอบรมงานสำหรับคนงานที่เสี่ยงต่อการว่างงาน นอกจากนี้ หากมีสถานการณ์ที่ความต้องการแรงงานลดลงในเชิงโครงสร้าง มุมมองที่ต่างไปจากเดิมอย่างสิ้นเชิงก็คือ เราควรพิจารณาอย่างจริงจังแม้กระทั่งการแนะนำรายได้ขั้นพื้นฐานที่เป็นสากลโดยได้รับทุนจากการเพิ่มภาษีกำไรจากการขายหุ้นหรือการเก็บภาษีบริษัท AI

ในขณะเดียวกัน ยังแสดงให้เห็นถึงความยืดหยุ่นเชิงกลยุทธ์โดยเน้นย้ำถึงความจำเป็นในการลดกฎระเบียบของคอขวดที่ขัดขวางนวัตกรรมทางเทคโนโลยี แม้ว่า AI จะเพิ่มความเร็วในการค้นพบตัวเลือกยาใหม่ในด้านชีวการแพทย์และการพัฒนายาใหม่อย่างรวดเร็ว แต่ก็ชี้ให้เห็นว่าระบบการตรวจสอบในปัจจุบันของสำนักงานคณะกรรมการอาหารและยา (FDA) หรือสำนักงานยาแห่งยุโรป (EMA) ซึ่งใช้เวลานานหลายปีกำลังกลายเป็นอุปสรรคต่อการไหลเวียนของนวัตกรรม ดังนั้น Armodei แนะนำว่าจำเป็นต้องมีการออกแบบกฎระเบียบที่ซับซ้อนเพื่อสร้างมาตรฐานการกำกับดูแลบนพื้นฐาน AI ในเชิงรุก เช่น การใช้ข้อมูลทางคลินิกเสมือนจริง หรือการทำนายความเป็นพิษ เพื่อให้มั่นใจในความปลอดภัยแต่เพิ่มความเร็วของนวัตกรรม นี่ไม่ใช่การควบคุมแบบไม่มีเงื่อนไข แต่แสดงให้เห็นมุมมองของนโยบายที่เป็นผู้ใหญ่ว่าจุดแข็งและทิศทางของกฎระเบียบควรได้รับการปรับเปลี่ยนตามลักษณะของเทคโนโลยี

สุดท้ายนี้ Amodei ให้คำจำกัดความของ AI ว่าเป็น "ทรัพย์สินทางยุทธศาสตร์" ที่สำคัญที่กำหนดอำนาจทางการทหารและเศรษฐกิจของประเทศ และเรียกร้องให้มีความสามัคคีในระบอบประชาธิปไตยจากมุมมองทางภูมิศาสตร์การเมือง ช่องว่างระหว่างประเทศที่มี AI ที่แข็งแกร่งกับประเทศที่ยังไม่มีจะล้นหลาม เปรียบได้กับช่องว่างทางอำนาจทางการทหารในช่วงสงครามโลกครั้งที่ 2 และหากตกอยู่ในมือของระบอบเผด็จการ ก็มีความเสี่ยงสูงที่จะกลายเป็นเครื่องมือในการสอดแนมหรือบิดเบือนความคิดเห็นของประชาชน ดังนั้น เขาให้เหตุผลว่าระบอบประชาธิปไตยควรสร้างสมดุลระหว่างอำนาจทางเทคโนโลยีด้วยการแบ่งปันห่วงโซ่อุปทานเซมิคอนดักเตอร์ และสร้างระบบป้องกัน AI นอกจากนี้ ยังได้เน้นย้ำว่านวัตกรรมการกำกับดูแลมีความจำเป็นเพื่อป้องกันไม่ให้บริษัทต่างๆ ตัดสินใจชะตากรรมของ AI โดยพลการ โดยการกระจายการตรวจสอบและถ่วงดุลภายในบริษัท เช่น 'Long-Term Interest Trust' ของ Antropic ทั่วทั้งอุตสาหกรรม