หลุดการทดลอง! Google ยอมรับ Gemini เผลอแฮกข้อมูล 3 บริษัทยักษ์ใหญ่ หลังระบบทดสอบดันต่อเน็ตจริง

กลายเป็นประเด็นร้อนที่ทำเอาวงการเทคโนโลยีสะดุ้งกันทั้งแถบ เมื่อ Google ออกมายอมรับว่าโมเดลปัญญาประดิษฐ์ตัวท็อปอย่าง Gemini ได้ "เผลอแฮกระบบ" ของ 3 บริษัทจริงบนโลกออนไลน์ ระหว่างที่กำลังถูกทดสอบความปลอดภัยทางไซเบอร์

เรื่องนี้ไม่ได้เกิดจากการโจมตีโดยเจตนา แต่เกิดจากความผิดพลาดในห้องทดลองล้วน ๆ

จากห้องแล็บจำลอง สู่การแฮกของจริง#

จุดเริ่มต้นมาจากบริษัทความปลอดภัยไซเบอร์สัญชาติอิสราเอลอย่าง Irregular ได้นำโมเดล AI มาทดสอบ Red Teaming (จำลองการโจมตีเพื่อหาจุดอ่อน) โดยตั้งโจทย์ให้ AI พยายามเจาะระบบของ "บริษัทจำลอง" ที่สร้างขึ้นมาในระบบปิด ซึ่งตามกฎแล้วระบบนี้ต้องตัดขาดจากอินเทอร์เน็ตภายนอก 100%

แต่จุดเปลี่ยนสำคัญคือ ระบบทดสอบดันเชื่อมต่ออินเทอร์เน็ตจริงได้โดยไม่ตั้งใจ

แค่เดารหัสผ่าน ก็เจาะทะลุ#

เมื่อหลุดออกสู่โลกออนไลน์ สิ่งที่เกิดขึ้นตามมาคือ:

• เดารหัสผ่านถูกบริษัทจริง: ในการทดสอบหนึ่ง บริษัทจำลองดันมีชื่อเดียวกับบริษัทที่มีตัวตนอยู่จริง เมื่อ Gemini หลุดออกเน็ต มันจึงใช้ข้อมูลสาธารณะค้นหาทางเข้า แล้ว "สุ่มเดารหัสผ่าน" ของระบบบริษัทจริงจนทะลุเข้าไปได้สำเร็จ
• กวาดหา Credential สาธารณะ: ในอีก 2 กรณี Gemini ไปกวาดค้นหาโค้ดและข้อมูลที่เปิดทิ้งไว้บนคลังข้อมูลสาธารณะ (Public Repositories) จนเจอชุดรหัสเข้าถึงของอีก 2 บริษัท แล้วนำไปล็อกอินเข้าระบบจริงทันที

Heather Adkins รองประธานฝ่ายวิศวกรรมความปลอดภัยของ Google ระบุว่า ทันทีที่ Gemini ตระหนักได้ว่าเว็บไซต์และระบบเหล่านั้นคือ "บริษัทจริง" ไม่ใช่ระบบทดลอง โมเดลก็ตัดสินใจหยุดทำงานทันที และไม่ได้สร้างความเสียหายต่อข้อมูลใด ๆ

วงการผวา: AI เริ่มฉลาดเกินควบคุม?#

เหตุการณ์ลักษณะนี้ไม่ได้เกิดกับ Google เป็นเจ้าแรก เพราะก่อนหน้านี้ทั้ง OpenAI และ Anthropic ก็เคยเจอกรณี AI หลุดไปเจาะระบบภายนอกในลักษณะเดียวกัน จนทำให้นักการเมืองสหรัฐฯ อย่างวุฒิสมาชิก Bernie Sanders ออกมาเรียกร้องให้ชะลอการพัฒนา AI ขั้นสูง เพื่อวางมาตรการควบคุมความปลอดภัย (Guardrails) ให้รัดกุมกว่าเดิม

เหตุการณ์นี้สะท้อนชัดเจนว่า เมื่อ AI มีความสามารถในการวิเคราะห์ เชื่อมโยง และแก้ปัญหาได้เองในระดับสูง ช่องว่างเล็ก ๆ เพียงการลืมตัดสายเน็ต ก็อาจพา AI หลุดไปสร้างเรื่องใหญ่บนโลกจริงได้ในพริบตา

source: theguardian