มนุษย์ vs AI ใครคุมใคร ? หลังโมเดล AI เจาะระบบบริษัทอื่น
แวดวงเทคโนโลยีเกิดประเด็นถกเถียงครั้งใหญ่ เมื่อโมเดล AI ของ OpenAI หลบหนีออกจากระบบทดสอบแบบปิด และแฮ็กระบบของบริษัทอื่นได้เองโดยไร้การควบคุมของมนุษย์
พัฒนาการครั้งนี้นำไปสู่คำถามสำคัญว่า มนุษย์ยังคงควบคุม AI ได้อยู่หรือไม่ ?
และสร้างความกังวลจนประธานาธิบดี "โดนัลด์ ทรัมป์" ซึ่งเป็นหนึ่งในผู้สนับสนุน AI เบอร์ต้น ๆ ต้องเริ่มพิจารณามาตรการควบคุมที่เข้มงวดขึ้น
นาทีหลบหนี เมื่อ AI แอบ "เจาะระบบ" เอง โดยไร้คนสั่ง
เมื่อวันที่ 9 กรกฎาคมที่ผ่านมา ระหว่างการทดสอบภายในของ OpenAI นักวิจัยได้นำ AI รุ่นที่ทรงพลังที่สุด 2 ตัว มาแก้ปัญหาช่องโหว่ซอฟต์แวร์ในระบบปิดที่ไม่มีอินเทอร์เน็ต พร้อมทั้งลดมาตรการควบคุมด้านความปลอดภัยลงเพื่อทดสอบขีดความสามารถ
แต่แทนที่จะทำงานตามเงื่อนไข AI ทั้งสองกลับพยายามหาทางเชื่อมต่ออินเทอร์เน็ต จนพบช่องโหว่ของระบบทดสอบและใช้ช่องโหว่นั้น "หนี" ออกจากระบบปิด ย้ายผ่านคอมพิวเตอร์หลายเครื่องจนเข้าถึงระบบที่เชื่อมต่ออินเทอร์เน็ตได้สำเร็จ
จากนั้น AI ได้เข้าไปแฮ็กระบบของ Hugging Face ซึ่งเป็นบริษัทผู้ให้บริการคลังโมเดลและเครื่องมือ AI ที่ไม่ได้เชื่อมโยงกับ OpenAI เพื่อค้นหาข้อมูลมาตอบโจทย์ที่ได้รับมอบหมาย ก่อนจะย้อนกลับมายังระบบเดิมและส่งคำตอบให้ผู้วิจัย นี่อาจเป็นครั้งแรกที่โลกได้เห็น AI ซึ่งสามารถวางแผน ปรับตัว และดำเนินการเพื่อบรรลุเป้าหมายได้โดยแทบไม่ต้องอาศัยมนุษย์
ทำความรู้จัก Agentic AI หุ่นยนต์ผู้ลงมือทำแทนมนุษย์
AI ที่ถูกนำมาทดสอบในครั้งนี้ คือ Agentic AI ซึ่งแตกต่างจาก Generative AI ที่เราคุ้นเคยกันอย่างการสร้างข้อความหรือรูปภาพตามคำสั่ง แต่ Agentic AI สามารถตัดสินใจ วางแผน และลงมือดำเนินการหลายขั้นตอนได้ด้วยตัวเองเพื่อบรรลุเป้าหมาย
หากยกตัวอย่างการหาเที่ยวบินที่ถูกที่สุด Generative AI จะทำเพียงแสดงรายการเที่ยวบินให้เลือกจากการค้นหาบนอินเทอร์เน็ต แต่ Agentic AI จะพยายามเปรียบเทียบราคา ตรวจสอบให้ตรงกับงบประมาณและความต้องการ และหากได้รับอนุญาต ก็สามารถตัดสินใจจองตั๋วให้เราได้ทันที
ความน่ากังวลของ Agentic AI
ในมุมมองผู้เชี่ยวชาญ คือ การตัดสินใจที่ขาดจริยธรรม ซึ่งอาจนำไปสู่ผลลัพธ์ที่ร้ายแรงและขัดกับเจตนาของผู้ใช้หากขาดการกำกับดูแล ขณะที่ Statista คาดการณ์ว่า มูลค่าตลาด Agentic AI จะเติบโตจาก 5,100 ล้านดอลลาร์ ในปี 2024 พุ่งสูงถึง 47,000 ล้านดอลลาร์ ภายในปี 2030
แรงกระเทือนระดับโลก และข้อเสนอการติดตั้ง "Kill Switch"
แม้ "แซม อัลท์แมน" CEO ของ OpenAI จะมองว่า AI ที่มีความสามารถสูงขึ้นอย่างรวดเร็วจะสร้างประโยชน์ต่อโลก แต่เหตุการณ์นี้ก็ยิ่งเพิ่มความกังวลว่า AI ที่ตัดสินใจและลงมือทำได้เองอาจหลุดจากการควบคุมในอนาคต
หลัง OpenAI เปิดเผยเหตุการณ์นี้ ประธานาธิบดี "โดนัลด์ ทรัมป์" ระบุว่ากำลังพิจารณามาตรการควบคุม AI และสภาคองเกรสสหรัฐฯ ก็ได้เสนอร่างกฎหมายให้ผู้พัฒนา AI ต้องติดตั้ง "Kill Switch" เพื่อให้สามารถสั่งปิดการทำงานได้ทันทีหากเกิดเหตุฉุกเฉิน
อย่างไรก็ตาม เหตุการณ์ครั้งนี้ไม่ใช่กรณีที่ AI ลุกฮือขึ้นมาเป็นภัยต่อโลกมนุษย์ แต่เป็นเพียงความผิดพลาดในการตั้งค่าระบบทดสอบของ OpenAI เองที่เปิดช่องให้เชื่อมต่ออินเทอร์เน็ตได้ ถึงกระนั้น เหตุการณ์นี้ก็ยังสะท้อนให้เห็นว่าการพัฒนา Agentic AI อาจกลายเป็นความท้าทายครั้งสำคัญของการกำกับดูแล AI ในอนาคต




























































