ใหญ่บ้าง ดูเหมือนว่าบริษัท AI คิดว่าวิธีที่ดีที่สุดในการป้องกันไม่ให้โมเดลวุ่นวายหรือเป็นอันตรายเกินไปคือการล็อกโมเดลไว้ภายในห้องปฏิบัติการ หากมีเพียงไม่กี่คนเท่านั้นที่สามารถเข้าถึงได้ ก็คิดว่าสิ่งเหล่านี้อาจก่อให้เกิดอันตรายน้อยลงในโลกแห่งความเป็นจริง เนื่องจากนักวิจัยพยายามทำความเข้าใจสิ่งที่พวกเขาสามารถทำได้
Nathan Lambert และ Tom Zick นักวิทยาศาสตร์ในอุตสาหกรรมสองคนเชื่ออย่างอื่น ทั้งคู่ก่อตั้ง Trillium Labs ซึ่งเป็นองค์กรไม่แสวงผลกำไร ซึ่งจะทำงานในด้านต่างๆ ของการวิจัย AI รวมถึงพื้นที่ที่อาจมีปัญหา เช่น การพัฒนาตนเองแบบเรียกซ้ำ (RSI) และตัวแทน ด้วยวิธีที่โปร่งใสมากขึ้น ในทางปฏิบัติ นี่จะหมายถึงการเผยแพร่รายละเอียดของการทดลองเพื่อให้นักวิทยาศาสตร์ภายนอกสามารถศึกษาและทำซ้ำได้
Lambert กล่าวว่าวิธีที่ห้องปฏิบัติการ AI ชายแดนเก็บงานไว้เป็นความลับจะลดความสามารถของชุมชนในการตรวจสอบแนวคิดและสนับสนุนแนวทางใหม่ๆ เขาเชื่อว่าการอนุญาตให้ผู้เชี่ยวชาญภายนอกเห็นว่าโมเดลถูกสร้างขึ้นและปรับแต่งอย่างไรอาจมีความสำคัญต่อการลดความเสี่ยง
“ในช่วงไม่กี่พันปีที่ผ่านมา มนุษยชาติมีวิธีการทางวิทยาศาสตร์ในกล่องเครื่องมือเพื่อบรรเทาอันตรายและสร้างอนาคตที่ดีกว่า” Lambert กล่าวกับ WIRED “วิถีการพัฒนา AI แนวหน้าแบบปิดในปัจจุบันกำลังพาเราถอยหลังไปหนึ่งก้าว”
โมเดลที่ทรงพลังที่สุดในโลก เช่น โมเดลจาก OpenAI และ Anthropic สามารถเข้าถึงได้ผ่านแอปหรือ Application Programming Interface (API) เท่านั้น สิ่งนี้มักจะมาพร้อมกับความโปร่งใสเกี่ยวกับวิธีการสร้างแบบจำลองและลักษณะการทำงานของแบบจำลอง
บริษัทอื่นๆ โดยเฉพาะในประเทศจีน นำเสนอโมเดลที่ค่อนข้างทรงพลัง ซึ่งสามารถดาวน์โหลดและรันบนฮาร์ดแวร์ของผู้ใช้เองได้ ตัวอย่างเช่น บริษัท Xiaomi ของจีน เพิ่งเผยแพร่รายละเอียดสดของเซสชันการฝึกอบรมหลักที่เกี่ยวข้องกับหนึ่งในโมเดลของตน และนักวิจัยจากมหาวิทยาลัยสแตนฟอร์ดก็กำลังฝึกอบรมโมเดล Marin AI ล่วงหน้าอย่างเปิดเผย
ขณะนี้อุตสาหกรรมกำลังอยู่ในการต่อสู้เพื่อแย่งชิงกลยุทธ์ที่ดีที่สุด สาเหตุหลักมาจากประสิทธิภาพของโมเดลชายแดนในปัจจุบัน พวกเขาสามารถทำให้การค้นพบช่องโหว่ของซอฟต์แวร์ใหม่เป็นไปโดยอัตโนมัติ ตลอดจนตรวจสอบและเจาะระบบโดยอัตโนมัติ และคลื่นของแฮกเกอร์ที่มีชื่อเสียงระดับสูงในช่วงที่ผ่านมาได้นำไปสู่การตรวจสอบอย่างละเอียดยิ่งขึ้น
ผู้เสนอระบบการเข้าถึงที่จำกัดกล่าวว่า สิ่งสำคัญคือต้องรักษาอำนาจนั้นให้อยู่ในมือของคนเพียงไม่กี่คนที่เชื่อถือได้ ในขณะที่ผู้ที่อยู่ในค่ายของ Lambert และ Zick เชื่อว่าความเข้าใจร่วมกันเกี่ยวกับความเสี่ยงหมายความว่าเราทุกคนจะดีขึ้น
About the Author
