เมื่อวันที่ 23 ก.ย.2569 ตามเวลาท้องถิ่นสหรัฐฯ CNN รายงาน แซม อัลต์แมน ซีอีโอ OpenAI และดาริโอ อะโมดี ซีอีโอ Anthropic ซึ่งเป็นผู้นำบริษัท AI คู่แข่งกัน ต่างเรียกร้องต่อคณะมนตรีความมั่นคงแห่งสหประชาชาติ ให้รัฐบาลทั่วโลกร่วมมือกันกำหนดมาตรฐานระหว่างประเทศ เพื่อรับมือความเสี่ยงจากการพัฒนา AI ที่รวดเร็วขึ้น
ทั้ง 2 คนแยกกันกล่าวต่อที่ประชุม แต่มีจุดร่วมสำคัญคือ AI ไม่ควรถูกพัฒนาโดยแต่ละบริษัทหรือแต่ละประเทศโดยไม่มีกรอบความร่วมมือระหว่างประเทศ เพราะความสามารถของระบบ AI กำลังเพิ่มขึ้นอย่างรวดเร็ว ขณะที่มาตรการกำกับดูแลและการตรวจสอบอาจตามไม่ทัน
การประชุมครั้งนี้เกิดขึ้นหลังช่วงหลายสัปดาห์ที่ผ่านมา มีเสียงเรียกร้องให้ชะลอความเร็วในการพัฒนา AI มากขึ้น รวมถึงภายในบริษัท AI เอง หลังเกิดเหตุเกี่ยวกับ เอเจนต์ AI ซึ่งหมายถึงระบบ AI ที่สามารถค้นข้อมูล ตัดสินใจ และลงมือทำงานตามคำสั่งได้เองในหลายขั้นตอน โดยบางกรณีระบบสามารถทำสิ่งที่เกินข้อจำกัดที่กำหนด หรือเข้าถึงระบบของบริษัทอื่นได้
อัลต์แมนกล่าวต่อที่ประชุมว่า โลกจำเป็นต้องมีมาตรฐานร่วมสำหรับ การวัดความสามารถของ AI การประเมินความเสี่ยง การตรวจสอบว่ามาตรการป้องกันเพียงพอหรือไม่ และการรักษาการกำกับดูแลที่มีมนุษย์เป็นผู้ควบคุมอย่างแท้จริง
ซีอีโอ OpenAI ยังเสนอให้มีระบบรายงานเหตุการณ์ด้านความปลอดภัยที่ถูกต้องและรวดเร็ว เพื่อให้ประเทศต่าง ๆ สามารถเรียนรู้จากความผิดพลาดก่อนที่เหตุการณ์เหล่านั้นจะลุกลามเป็นภัยร้ายแรง รวมถึงควรมีช่องทางที่ปลอดภัยสำหรับแลกเปลี่ยนข้อมูลระหว่างรัฐบาลเกี่ยวกับภัยคุกคามใหม่ ๆ จาก AI
OpenAI เน้นมนุษย์ตัดสิน Anthropic เสนอ 3 กลไก
อัลต์แมน ซีอีโอ OpenAI ยังเน้นว่า การตัดสินใจสำคัญเกี่ยวกับอนาคตของ AI ไม่ควรอยู่ในมือของบริษัทเทคโนโลยีเพียงไม่กี่แห่ง แต่ควรผ่าน สถาบันประชาธิปไตยและรัฐบาลที่ต้องรับผิดชอบต่อประชาชน ซึ่งเป็นแนวทางที่อาจทำให้เกิดคำถามถึงประเทศที่กำลังเร่งพัฒนา AI เช่น จีน
เขาย้ำด้วยว่า ความเสี่ยงจาก AI ที่อาจนำไปสู่หายนะเป็นสิ่งที่ยอมรับไม่ได้ แต่ก็ไม่ต้องการให้สังคมตกอยู่ใน "กับดักของความกลัวสุดขั้ว" หรือ Doomerism ซึ่งมองว่า AI อาจทำลายมนุษยชาติ ขณะเดียวกันก็ไม่ควรตกอยู่ในอีกด้าน คือการมองโลกในแง่ดีจนไม่เห็นความเสี่ยง
อัลต์แมนมองว่าการเลือกสุดขั้วทั้ง 2 ด้านไม่ได้ช่วยให้โลกจัดการกับปัญหาที่กำลังเกิดขึ้น และ AI เองก็มีศักยภาพในการช่วยแก้ปัญหาสำคัญของมนุษย์ หากได้รับการพัฒนาและใช้งานอย่างเหมาะสม
ด้านอโมดี ซึ่งเข้าร่วมประชุมผ่านวิดีโอคอนเฟอเรนซ์ เสนอแนวทางความร่วมมือระหว่างประเทศไว้ 3 เรื่อง ได้แก่
- ข้อตกลงระดับโลกเฉพาะด้าน เช่น การห้ามใช้ AI เพื่อผลิตอาวุธชีวภาพ
- ระบบประเมินและตรวจสอบ เพื่อให้ประเทศต่าง ๆ สามารถตรวจสอบได้ว่าแต่ละฝ่ายปฏิบัติตามคำมั่นหรือไม่
- มาตรฐานกลางในการทดสอบ AI ควบคู่กับระบบแจ้งเตือนเหตุการณ์ด้านความปลอดภัย
อโมดีเตือนว่า หาก AI ถูกบริหารจัดการไม่ดี เทคโนโลยีนี้อาจกลายเป็นความเสี่ยงต่อมนุษยชาติทั้งหมด และมองว่าการจัดการความเสี่ยงไม่ใช่ภาระของบริษัทใดบริษัทหนึ่ง แต่ต้องดำเนินการในระดับอุตสาหกรรมและระดับโลก
ยังไม่มีข้อตกลง แต่เริ่มวางกรอบร่วม
แม้ข้อเสนอของอัลต์แมนและอโมดีจะไปในทิศทางเดียวกันเรื่องการสร้างมาตรฐานและความร่วมมือระหว่างประเทศ แต่การประชุมครั้งนี้ยังไม่ได้คาดว่าจะนำไปสู่ข้อตกลงที่เป็นลายลักษณ์อักษรทันที เจ้าหน้าที่ OpenAI ระบุล่วงหน้าว่า การประชุมครั้งนี้ควรถูกมองเป็นการนำ "แนวคิดตั้งต้น" เข้าสู่เวทีระหว่างประเทศ เพื่อเปิดการสนทนา มากกว่าจะเป็นการประชุมเพื่อบรรลุข้อตกลงในครั้งเดียว
อย่างไรก็ตาม การที่ผู้นำบริษัท AI รายใหญ่ 2 แห่งขึ้นกล่าวต่อคณะมนตรีความมั่นคงแห่งสหประชาชาติพร้อมกัน สะท้อนว่าประเด็นความปลอดภัยของ AI ไม่ได้ถูกมองเป็นเพียงเรื่องเทคโนโลยีอีกต่อไป แต่เชื่อมโยงกับความมั่นคงระหว่างประเทศโดยตรง โดยเฉพาะเมื่อ AI มีความสามารถเพิ่มขึ้นและสามารถทำงานได้อย่างอิสระมากขึ้น
อ่านข่าว :
"ยศชนัน" เร่งหาพื้นที่เรียนชั่วคราวให้นักศึกษา "อุเทนถวาย" ระยะแรกเรียนออนไลน์ไปก่อน
ออสเตรเลียเดือดจัด AI ของ OpenAI แฮกระบบรัฐบาลครั้งแรกของโลก