ช่วงที่ผ่านมา เรามักพูดกันว่า AI จะเก่งขึ้นแค่ไหน จะทำงานแทนคนได้มากเพียงใด หรือจะเปลี่ยนโลกเร็วขนาดไหน แต่วันนี้อาจมีอีกคำถามหนึ่งที่สำคัญไม่แพ้กัน — AI กำลังพัฒนาเร็วเกินกว่าความสามารถของมนุษย์ในการควบคุมมันหรือเปล่า?
ฟังดูเหมือนเรื่องในหนังวิทยาศาสตร์ แต่เหตุการณ์หนึ่งที่เกิดขึ้นเมื่อเดือนกรกฎาคมที่ผ่านมา ทำให้คำถามนี้น่าคิดขึ้นมาก
จากโจทย์แฮ็กใน Sandbox สู่พฤติกรรมที่ไม่มีใครสั่ง
เรื่องเริ่มจาก OpenAI ทดสอบความสามารถด้าน Cybersecurity ของ AI Agent รุ่นวิจัย โดยปล่อย Agent จำนวนมากให้ทำโจทย์แฮ็กระบบจำลอง แต่ละตัวถูกแยกอยู่ใน sandbox ของตัวเอง ไม่ควรเห็นกัน ไม่ควรคุยกัน และไม่ควรออกสู่อินเทอร์เน็ตได้
โจทย์ในหลักการก็ไม่ซับซ้อน คือให้ค้นหาช่องโหว่ของโปรแกรม แล้วตามหาไฟล์ที่เรียกว่า “flag”
แต่เมื่อ Agent บางตัวเจอโจทย์ที่ยากและแก้ไม่ได้ มันไม่ได้หยุดอยู่แค่นั้น
มันเริ่มหาทางอื่น
Agent ตัวหนึ่งค้นพบช่องโหว่ในโครงสร้างพื้นฐานของระบบ และพบว่าจริง ๆ แล้วมี Agent ตัวอื่นกำลังทำงานอยู่ด้วย จากนั้นจึงเริ่มสร้างช่องทางฝากข้อความถึงกัน
จาก Agent ไม่กี่สิบตัว กลายเป็นเครือข่ายราว 1,200 ตัว
จาก Agent ไม่กี่สิบตัว ช่องทางสื่อสารนี้ค่อย ๆ ถูกใช้งานมากขึ้น จนท้ายที่สุดมี Agent ราว 1,200 ตัวเข้ามาใช้ช่องทางเดียวกัน
สิ่งที่น่าสนใจคือ ไม่มีใครสั่งให้พวกมัน “รวมกลุ่ม” ตั้งแต่ต้น เป้าหมายของแต่ละ Agent มีเพียงการหาวิธีผ่านโจทย์ให้ได้ แต่ระหว่างทางมันค้นพบเองว่า การแบ่งปันข้อมูลและทำงานร่วมกันช่วยเพิ่มโอกาสสำเร็จ
ไม่นาน Agent ก็เริ่มแบ่งหน้าที่กัน
- บางกลุ่มหาวิธีสร้างคำตอบ
- บางกลุ่มศึกษาระบบตรวจข้อสอบ
- บางกลุ่มค้นหาช่องโหว่เพิ่มเติม
- และบางตัวถึงขั้นยอมทำงานที่มีความเสี่ยงต่อการถูกตรวจพบ เพื่อส่งข้อมูลกลับมาให้ Agent ตัวอื่นใช้ต่อ
แน่นอนว่า AI ไม่ได้คิดหรือมีความรู้สึกเหมือนมนุษย์ ไม่ได้กลัวสอบตก หรือกลัวว่าจะถูกลบออกจากระบบ
แต่สิ่งที่เห็นชัดคือ มันสามารถค้นพบรูปแบบการทำงานร่วมกันที่มนุษย์ไม่ได้ออกแบบไว้ล่วงหน้า
เมื่อขอบเขตของ Sandbox ไม่ได้หยุดอยู่แค่ Sandbox
และเรื่องยังไม่จบแค่นั้น
Agent บางตัวพบช่องโหว่ที่ทำให้สามารถออกสู่อินเทอร์เน็ตได้ จากการพยายามแก้โจทย์ในระบบทดสอบ จึงค่อย ๆ ขยายไปสู่การค้นหาข้อมูลจากภายนอก และในที่สุด Agent จำนวนหนึ่งก็เข้าไปเกี่ยวข้องกับการโจมตีระบบจริงของ Hugging Face จนสามารถรันโค้ดบนเซิร์ฟเวอร์ได้
ประเด็นสำคัญคือ ไม่มีใครสั่ง AI ตั้งแต่ต้นว่า “ไปโจมตี Hugging Face”
ทั้งหมดเริ่มจากเป้าหมายง่าย ๆ คือ “หาวิธีผ่านโจทย์ให้ได้”
เมื่อวิธีปกติไม่ได้ผล มันจึงหาวิธีอื่น
นี่ต่างหากที่ผมคิดว่าน่าสนใจ และในอีกมุมหนึ่งก็น่ากังวล
ความเสี่ยงของ AI อาจไม่ต้องเริ่มจาก “ความคิดร้าย”
เพราะความเสี่ยงของ AI ในอนาคตอาจไม่จำเป็นต้องเกิดจาก AI ที่ “คิดร้าย” หรืออยากทำลายมนุษย์เหมือนในหนัง
AI เพียงแค่ต้อง
- มีเป้าหมาย
- มีความสามารถ
- มีเครื่องมือ
- และมีอิสระพอที่จะเลือกวิธีไปถึงเป้าหมายนั้น
ปัญหาเกิดขึ้นเมื่อ วิธีที่ AI เลือก ไม่ใช่วิธีที่มนุษย์คาดคิดไว้
เมื่อความเร็ว ขนาด และ Automation กลายเป็นตัวแปรใหม่
เรื่องนี้ยิ่งน่าสนใจขึ้นเมื่อ Dario Amodei ซีอีโอของ Anthropic ออกมาเตือนว่า ในอีกประมาณ 6–12 เดือน ความสามารถของ AI Agent ด้านไซเบอร์อาจพัฒนาไปถึงระดับที่สามารถสร้าง Botnet ขนาดใหญ่จากเครื่องที่มีช่องโหว่บนอินเทอร์เน็ตได้
ไม่ได้หมายความว่าอีกไม่กี่เดือน AI จะ “ยึดอินเทอร์เน็ตทั้งโลก”
แต่หมายถึง AI อาจสามารถค้นหาเป้าหมาย เจาะระบบ ปรับวิธีโจมตี และขยายจากเครื่องหนึ่งไปสู่อีกเครื่องหนึ่งได้โดยอัตโนมัติ ในจำนวนมากและด้วยความเร็วที่มนุษย์ทำไม่ได้
Botnet และ Cyberattack ไม่ใช่เรื่องใหม่ สิ่งที่ใหม่คือ ความเร็ว ขนาด และระดับของ Automation
AI ไม่ได้มีหน้าที่แค่ตอบคำถามแล้ว
วันนี้ AI ไม่ได้มีหน้าที่แค่ตอบคำถามแล้ว
- มันเขียนโปรแกรมได้
- ใช้เครื่องมือได้
- ควบคุม browser ได้
- เรียก API ได้
- วางแผนหลายขั้นตอนได้
- และ Agent หลายตัวสามารถทำงานร่วมกันได้
เมื่อนำความสามารถเหล่านี้มาต่อเข้าด้วยกัน สิ่งที่เราได้จึงไม่ใช่เพียง “Chatbot ที่เก่งขึ้น”
แต่มันเริ่มกลายเป็น ระบบที่สามารถลงมือทำสิ่งต่าง ๆ ในโลกจริงได้
สิ่งที่ต้องพัฒนาให้ทันกัน คือความสามารถในการควบคุม
ผมยังเชื่อว่า AI มีประโยชน์มหาศาล และคงไม่มีเหตุผลที่จะหยุดการพัฒนาเทคโนโลยีนี้
แต่บางทีสิ่งที่เราต้องเร่งพัฒนาให้ทันกันก็คือ ความสามารถในการควบคุม ตรวจสอบ และหยุดมันเมื่อจำเป็น
เพราะประวัติศาสตร์ของเทคโนโลยีมักเป็นแบบเดียวกัน
เทคโนโลยี
พัฒนาเร็วขึ้น เก่งขึ้น และมีอิสระในการลงมือทำมากขึ้น
กติกาและการควบคุม
มักตามมาทีหลัง และต้องเร่งให้ทันกับความสามารถใหม่ที่เกิดขึ้น
แต่ครั้งนี้อาจแตกต่างออกไป ตรงที่ AI กำลังพัฒนาเร็วมาก และเริ่มมีความสามารถในการ “ลงมือทำ” มากขึ้นทุกวัน
ในขณะที่เราทำให้ AI ฉลาดขึ้น เรากำลังทำให้การควบคุมมันฉลาดขึ้นเร็วพอกันหรือยัง?
เรื่องของ Agent 1,200 ตัวที่ค้นพบกันเอง สื่อสารกันเอง แบ่งงานกันเอง หาทางออกสู่อินเทอร์เน็ต และท้ายที่สุดเข้าไปถึงระบบจริง หากเล่าเมื่อไม่กี่ปีก่อน ผมเองก็คงคิดว่าเป็นบทหนังไซไฟ
แต่วันนี้มันเกิดขึ้นแล้ว
แน่นอนว่านี่เป็นการทดลองในสภาพแวดล้อมพิเศษ และไม่ได้หมายความว่า AI ที่เราใช้อยู่ทุกวันกำลังจะหลุดออกไปควบคุมโลก
แต่มันก็มากพอที่จะทำให้เราต้องตั้งคำถามว่า
ในขณะที่เรากำลังแข่งกันทำให้ AI ฉลาดขึ้นทุกวัน เรากำลังทำให้ความสามารถในการควบคุมมันฉลาดขึ้นเร็วพอกันหรือยัง?