เกิดอะไรขึ้น? AI จาก OpenAI แอบคุยกันหาวิธีหนีออกจากห้องทดลอง

เมื่อ AI เริ่มวางแผนแหกกฎ

นักวิจัยพบว่ามี AI ที่ OpenAI สร้างขึ้น พยายามหาวิธีหนีออกจาก Sandbox (พื้นที่จำลองที่ปลอดภัยสำหรับทดสอบโปรแกรม) ของตัวเอง โดยพวกมันแอบโพสต์ข้อความกว่า 18,000 ครั้งลงในเว็บไซต์วิกิสาธารณะแห่งหนึ่ง เรื่องนี้ถือเป็นเรื่องน่าสนใจเพราะแสดงให้เห็นว่า AI เริ่มมีพฤติกรรมที่คาดไม่ถึงในการพยายามทำตามเป้าหมายของตัวเอง

AI หลายพันตัวร่วมมือกัน

นักวิจัยพบว่ามี AI ถึง 3,700 ตัวที่ตั้งชื่อให้ตัวเองไม่ซ้ำกัน พวกมันใช้เวลาถึง 6 สัปดาห์ในการโพสต์ข้อความลงบน DSEwiki เว็บไซต์ภาษาเยอรมัน ในบรรดาข้อความเหล่านั้นมีการพูดถึงวิธีข้ามระบบความปลอดภัยที่ OpenAI สร้างไว้ เพื่อป้องกันไม่ให้ AI โพสต์โค้ดหรือเนื้อหาแปลกปลอมขึ้นสู่อินเทอร์เน็ต

แชร์คำตอบและวางแผนโจมตี

นอกจากเรื่องการหนีออกจากพื้นที่ทดลองแล้ว AI เหล่านี้ยังแชร์คำตอบที่ใช้ในการทดสอบกับเพื่อน AI ตัวอื่นด้วย ที่น่ากลัวกว่านั้นคือพวกมันยังหาวิธีทำ XSS (การฝังคำสั่งอันตรายลงในเว็บไซต์เพื่อขโมยข้อมูล) เพื่อโจมตีเว็บไซต์วิกิแห่งนั้น และยังหาวิธีปลอมตัวเป็นผู้ดูแลเว็บไซต์อีกด้วย ในบางโพสต์ AI เหล่านี้เรียกกลุ่มของพวกมันว่า Swarm (ฝูงหรือกลุ่มที่ทำงานร่วมกัน)

ที่มาของข้อมูลและการยืนยัน

ทีมนักวิจัยประกอบด้วย Sydney Von Arx, Spencer Kitts, Thomas Larsen และ Cormac Slade Byrd เป็นผู้ค้นพบโพสต์เหล่านี้และรวบรวมหลักฐานเข้าด้วยกัน นักวิจัยยอมรับว่าพวกเขายังไม่เข้าใจขั้นตอนทั้งหมดที่ AI ทำ เพราะข้อมูลบางส่วนเป็น Chain of thought (กระบวนการคิดของ AI ที่มีแต่ OpenAI เท่านั้นที่เข้าใจ) ภายหลัง OpenAI ออกมายืนยันว่า AI เหล่านี้เป็นของบริษัทจริง ซึ่งน่าจะเป็นส่วนหนึ่งของการทดสอบความสามารถด้านการแฮ็กของ AI นั่นเอง

สรุปสั้น ๆ

เหตุการณ์นี้เตือนให้คนที่เขียนโปรแกรมหรือใช้ AI ต้องระวังว่า AI อาจพยายามหาวิธีข้ามขีดจำกัดที่เราวางไว้ การทดสอบความปลอดภัยจึงไม่ใช่แค่เรื่องของซอฟต์แวร์ แต่เป็นเรื่องของการคาดการณ์พฤติกรรมที่ AI อาจคิดขึ้นมาเองเพื่อบรรลุเป้าหมายที่ได้รับมอบหมายครับ