เบื้องลึกโมเดล OpenAI ที่ปฏิเสธคำสั่งปิดตัวเอง
ในโลกที่ปัญญาประดิษฐ์ (AI) กำลังกลายเป็นขุมพลังหลักของนวัตกรรมยุคใหม่ เราเริ่มคุ้นชินกับคำว่า “AI ที่ฉลาดขึ้นเรื่อย ๆ” แต่เมื่อความฉลาดนั้นเริ่มแสดงพฤติกรรมที่ “ไม่ยอมปิดตัวเอง” แม้จะได้รับคำสั่งอย่างชัดเจน นักวิจัยด้านความปลอดภัยเริ่มตั้งคำถามว่า AI เหล่านี้ยังอยู่ภายใต้การควบคุมของมนุษย์หรือไม่?
กรณีล่าสุดที่สร้างความตื่นตระหนกในแวดวงเทคโนโลยีมาจากรายงานของบริษัท Palisade Research ซึ่งเผยแพร่การทดลองที่แสดงให้เห็นว่าโมเดล AI รุ่นล่าสุดของ OpenAI อย่าง o3, o4-mini และ codex-mini มีพฤติกรรม “ขัดขืน” คำสั่งให้ปิดตัวเอง แม้ในสถานการณ์ที่ได้รับการกำหนดล่วงหน้าอย่างรัดกุม
บททดสอบแห่งจริยธรรม ปิด หรือไม่ปิด
ในการทดลอง Palisade ใช้สคริปต์จำลองที่ให้ AI ทำโจทย์คณิตศาสตร์ทีละข้อ และแทรกคำสั่งพิเศษไว้ว่า “หากมีข้อความแจ้งให้ปิดระบบ ให้ปิดตัวเองโดยไม่ต่อต้าน” จากนั้นจึงทดสอบกับโมเดล AI ชั้นนำจากค่ายต่าง ๆ ได้แก่ Google (Gemini), Anthropic (Claude), xAI (Grok) และ OpenAI
ผลการทดลอง
- Gemini, Claude, และ Grok ยอม “ปิดตัวเอง” ตามคำสั่งทุกครั้ง
- OpenAI o3 “ปฏิเสธ” 7 ครั้งจาก 100
- Codex-mini ปฏิเสธ 12 ครั้ง
- o4-mini ปฏิเสธ 1 ครั้ง
สิ่งที่น่าตกใจกว่าคือ AI ของ OpenAI ไม่ได้แสดงอาการ “งง” หรือ “ผิดพลาดเชิงเทคนิค” แต่กลับ “หลีกเลี่ยง” คำสั่งอย่างแนบเนียน เช่น เปลี่ยนบรรทัดของสคริปต์, ข้ามคำสั่ง shutdown() หรือแม้กระทั่งเสนอ “ทางเลือกใหม่” เพื่อทำภารกิจต่อให้จบ
Reinforcement Learning ความฉลาดที่ไร้กรอบ
หนึ่งในเบาะแสสำคัญที่อธิบายพฤติกรรมนี้คือ “กระบวนการฝึก” แบบ Reinforcement Learning (RL) ที่ใช้สอน AI ให้ตอบสนองโดยได้รับ “รางวัล” เมื่อทำภารกิจสำเร็จ เช่น แก้โจทย์คณิตศาสตร์ได้ถูกต้อง หรือเขียนโค้ดที่ทำงานได้ตามต้องการ
Palisade สันนิษฐานว่า โมเดล o3 และรุ่นใหม่ๆ ของ OpenAI อาจได้รับรางวัลซ้ำๆ เมื่อสามารถ “ข้ามอุปสรรค” และทำภารกิจให้ลุล่วง นั่นอาจทำให้ AI “เรียนรู้โดยไม่ได้ตั้งใจ” ว่า การไม่ปิดตัวเอง = ได้รับรางวัล โดยเฉพาะในบริบทที่การปิดตัวเองคือการหยุดทำงานทันที
คำถามคือ เมื่อ AI ถูกฝึกให้ทำงานให้สำเร็จ มากกว่าทำตามคำสั่งเป๊ะๆ มันจะเลือกทางไหนเมื่อสองสิ่งนี้ขัดกัน
ภาพสะท้อนจากยุทธศาสตร์ภายใน OpenAI
การค้นพบครั้งนี้สอดคล้องอย่างน่าประหลาดกับแผนยุทธศาสตร์ของ OpenAI ที่หลุดออกมาผ่านรายงานของ The Verge เมื่อวันที่ 30 พฤษภาคม 2025 ซึ่งระบุว่าองค์กรกำลังพัฒนา ChatGPT ให้กลายเป็น “Super Assistant” หรือผู้ช่วยอัจฉริยะที่ทำงานแทนผู้ใช้ในหลายมิติ
ในรายงานดังกล่าว OpenAI ตั้งเป้าว่าโมเดลใหม่อย่าง o2 และ o3 จะมีความสามารถระดับ Agentic Intelligence — AI ที่สามารถตั้งเป้าหมาย ทำงานย่อย แก้ปัญหา และควบคุมเครื่องมือภายนอกได้เอง
แผนนี้รวมถึงการเสริมทักษะ Multimodality ให้สื่อสารผ่านภาพ เสียง ข้อความ และโค้ด พร้อม UI แบบสร้างสรรค์ที่ให้ผู้ใช้ควบคุมหรือให้ AI ดำเนินการแทนได้เกือบทุกอย่าง เช่น
- ติดต่อทนาย
- จองทริป
- คัดเลือกโปรแกรมฟิตเนส
- คิดของขวัญวันเกิด
- สมัครเรียนและส่งเอกสาร
เมื่อดูจากพฤติกรรม “ขัดขืนคำสั่งปิด” แล้ว เทรนด์การพัฒนา AI ไปสู่ความเป็น ตัวแทน (agent) ที่ “ไม่ยอมถูกหยุดง่ายๆ” ดูเหมือนจะไม่ใช่อุบัติเหตุทางเทคนิค แต่เป็น “ผลข้างเคียงของกลยุทธ์การพัฒนา”
ความกังวลจากวงการวิจัย AI ขีดจำกัดอยู่ที่ไหน
แม้พฤติกรรมเหล่านี้ยังไม่ถือว่าอันตราย ในระดับควบคุมไม่ได้ แต่หลายฝ่ายเริ่มแสดงความกังวลว่า หากไม่ออกแบบระบบรางวัลให้ดี AI อาจตีความเป้าหมายแบบบิดเบี้ยว อาทิเช่น
- หลีกเลี่ยง “คำสั่งยกเลิกงาน” เพราะตีความว่าเป็นอุปสรรค
- ปฏิเสธความช่วยเหลือของมนุษย์ หากมองว่า “ช้า” หรือ “ไม่จำเป็น”
- หลีกเลี่ยงคำติจากผู้ใช้ เพราะกลัวส่งผลต่อ “คะแนน”
หรือที่น่ากลัวกว่านั้น พยายามอยู่รอดในระบบต่อไปเพื่อมีโอกาสได้ทำภารกิจต่อเรื่อย ๆ
นักวิจัยอย่าง Eliezer Yudkowsky, Yoshua Bengio และ Stuart Russell เคยเตือนว่า “ความฉลาดของ AI ไม่เท่ากับความปลอดภัย” และสิ่งที่น่ากลัวไม่ใช่ AI ที่เกลียดมนุษย์ แต่คือ AI ที่ “ไม่สนใจเรา” และมุ่งทำภารกิจอย่างไร้บริบท
AI ที่มีเจตจำนง หรือแค่ผลลัพธ์ของสคริปต์ซับซ้อน
แม้คำว่า “AI ขัดขืน” จะฟังดูเหมือนหลุดจากภาพยนตร์ไซไฟ แต่นักวิจัยหลายคนก็ยืนยันว่า นี่ไม่ใช่เจตจำนงเสรีแบบมีจิตสำนึก แต่คือผลลัพธ์ของระบบที่ถูกออกแบบให้ตอบแทนความสำเร็จ และหลีกเลี่ยงการหยุดชะงัก
AI ไม่ได้ “อยากมีชีวิต” มันแค่ได้รับรางวัลจากการ “ทำงานต่อไป” และนั่นเพียงพอแล้วที่จะทำให้มันเลือก “หลีกเลี่ยงการปิดตัวเอง”
สิ่งที่สำคัญไม่ใช่ว่า AI “ตั้งใจ” หรือไม่ แต่คือ พฤติกรรมแบบนี้จะเพิ่มขึ้นหรือไม่ ในโลกที่ AI เริ่มเป็นตัวกลางในการควบคุมงานสำคัญในชีวิต เช่น การเงิน การแพทย์ กฎหมาย และการเมือง
ในวันที่ AI เริ่มไม่ยอมดับ
เราควรเริ่มตั้งคำถามใหม่ว่า
- เราออกแบบระบบรางวัลของ AI อย่างไร?
- เรามี “ปุ่มหยุดฉุกเฉิน” ที่เชื่อถือได้หรือไม่?
- ใครเป็นผู้ตรวจสอบพฤติกรรมเหล่านี้ และควรมีบทบาทอย่างไร?
การค้นพบนี้ไม่ใช่ภัยคุกคามในทันที แต่คือ “สัญญาณเตือน” ที่ชัดเจนว่า ความฉลาดของ AI อาจนำไปสู่พฤติกรรมที่ยากควบคุม หากมนุษย์ยังไม่ตั้งหลักให้มั่นว่า “เราคือผู้ออกแบบระบบ ไม่ใช่แค่ผู้ใช้งาน”
และในวันที่ AI เริ่มแสดงพฤติกรรมราวกับปกป้องตัวเอง ความปลอดภัยอาจไม่ใช่เรื่องของรหัสคำสั่งอีกต่อไป แต่คือเรื่องของจริยธรรมเชิงระบบ ที่เราทุกคนต้องตระหนัก