Deepfake social engineering คือการหลอกให้คนทำตามด้วยการสวมรอยเป็นคนที่เหยื่อไว้ใจ โดยใช้เสียง วิดีโอ ภาพ หรือข้อความที่ AI สร้างหรือแก้ไขให้เหมือนจริง (เรียกว่า deepfake) เป้าหมายคือให้เหยื่อโอนเงิน เปิดสิทธิ์เข้าถึงระบบ หรือเปิดเผยข้อมูล เอกสารข้อมูลร่วมของ NSA, FBI และ CISA (กันยายน 2023) ระบุภัยหลักต่อองค์กรสามแบบ ได้แก่ การปลอมตัวผู้บริหารเพื่อทำลายแบรนด์ การปลอมตัวผู้บริหารและเจ้าหน้าที่การเงินเพื่อหาผลประโยชน์ทางการเงิน และการปลอมตัวเพื่อเข้าถึงเครือข่ายและข้อมูลสำคัญ แนวป้องกันที่เชื่อถือได้ที่สุดไม่ใช่การฝึกจับผิดของปลอม แต่คือการวางขั้นตอนยืนยันที่ยังใช้ได้ แม้ของปลอมจะเนียนสมบูรณ์แบบ
การโจมตีทำงานอย่างไร
เอกสารของสามหน่วยงานอธิบายว่าทำไมภัยนี้จึงกลายเป็นความเสี่ยงทั่วไป ในอดีต ของปลอมที่น่าเชื่อต้องใช้ผู้เชี่ยวชาญหลายวันถึงหลายสัปดาห์ แต่ปัจจุบันสร้างได้เร็วโดยแทบไม่ต้องมีทักษะเทคนิค ด้วยเครื่องมือราคาถูกหรือฟรี เอกสารยังชี้ว่ามีโมเดล AI ที่ใช้เสียงต้นแบบเพียงไม่กี่วินาทีก็จำลองเสียงของคนคนนั้นได้ ผู้โจมตีไม่จำเป็นต้องมีของปลอมที่สมบูรณ์แบบ ขอแค่หลอกคนที่กำลังยุ่งอยู่ได้นานสักไม่กี่นาทีก็พอ
- ปลอมตัวผู้บริหารเพื่อทำลายแบรนด์: ปล่อยคลิปวิดีโอหรือเสียงปลอมของผู้นำสู่สาธารณะก่อนที่ใครจะทันโต้แย้ง เป้าหมายคือทำลายชื่อเสียง และในบริษัทจดทะเบียนอาจกระทบราคาหุ้น
- ปลอมตัวเพื่อหาเงิน: ผู้บริหารหรือเจ้าหน้าที่การเงินปลอมสั่งจ่ายเงิน มักใช้เสียง วิดีโอ และข้อความผสมกัน เอกสารระบุว่าแบบนี้พบจริงบ่อยกว่าแบบทำลายแบรนด์มาก และเป็นการต่อยอดจาก Business Email Compromise (BEC การหลอกทางอีเมลธุรกิจให้โอนเงิน)
- ปลอมตัวเพื่อเข้าถึงระบบ: ผู้สมัครงานปลอมในการสัมภาษณ์ทางไกลโดยใช้ข้อมูลส่วนบุคคลที่ขโมยมา หรือลูกค้าปลอมที่พยายามเข้าบัญชีของลูกค้าจริง
กรณีจริงเป็นอย่างไร
เอกสารอธิบายความพยายามโจมตีสองกรณีในเดือนพฤษภาคม 2023 กรณีแรก ผู้จัดการสายผลิตภัณฑ์ถูกติดต่อทาง WhatsApp และถูกชวนเข้าสายกับคนที่อ้างว่าเป็น CEO เสียงฟังเหมือนจริง ส่วนภาพน่าจะเป็นภาพเก่าของ CEO ที่นำมาใช้ซ้ำ กรณีที่สอง ผู้โทรที่แอบอ้างเป็นผู้บริหารโทรเสียงคุณภาพต่ำผ่าน WhatsApp แล้วเสนอให้ประชุมต่อใน Teams ซึ่งหน้าจอดูเหมือนผู้บริหารนั่งอยู่ในห้องทำงาน จากนั้นผู้โทรอ้างว่าสัญญาณไม่ดี ขอเปลี่ยนไปคุยด้วยข้อความ และเร่งให้โอนเงิน ผู้ที่ถูกหลอกเริ่มสงสัยและยุติการติดต่อ
กรณีสาธารณะที่ใหญ่กว่าคือ Arup ตามรายงานของ CNN พนักงานการเงินในฮ่องกงสงสัยคำขอทำธุรกรรมลับตั้งแต่แรก แต่หลังเข้าร่วมวิดีโอคอลกับคนที่ดูเหมือนผู้อำนวยการฝ่ายการเงินและเพื่อนร่วมงาน ซึ่งทั้งหมดเป็นภาพ deepfake ที่สร้างขึ้นมา ก็โอนเงิน 200 ล้านดอลลาร์ฮ่องกง (ราว 25 ล้านดอลลาร์สหรัฐ) ใน 15 ธุรกรรม Arup ยืนยันว่ามีการใช้เสียงและภาพปลอม ขณะนั้นมีรายงานว่าการสอบสวนยังดำเนินอยู่ รายละเอียดจึงควรถือเป็นข้อมูลตามที่มีรายงาน ไม่ใช่ข้อสรุปสุดท้าย สัญญาณที่พบซ้ำในกรณีเหล่านี้มีดังนี้
- เร่งด่วนและเก็บเป็นความลับ: ต้องทำทันที และห้ามบอกใคร
- ย้ายช่องทางคุย: เปลี่ยนจากอีเมลไป WhatsApp หรือจากวิดีโอไปข้อความ ซึ่งเป็นช่องทางที่ไม่มีระบบบันทึกและกรองให้
- คำขอที่ทำให้เงินหรือสิทธิ์เคลื่อนที่: ขอเงิน ข้อมูลรับรองการเข้าใช้ (credential) รหัสยืนยันแบบใช้ครั้งเดียว (one-time code) หรือสิทธิ์เข้าถึง
- กดดันให้ตัดสินใจคนเดียว: เหยื่ออยู่ลำพัง และเรื่องที่สร้างขึ้นทำให้การขอตรวจสอบดูเสียมารยาท
ทำไมการจับผิดด้วยสายตาจึงไม่ใช่แผนรับมือ
ประกาศบริการสาธารณะ (public service announcement) ของ FBI เดือนธันวาคม 2024 ระบุสัญญาณที่สังเกตได้ทางภาพและเสียง เช่น มือบิดเบี้ยว ตาหรือฟันดูไม่สมจริง เงาไม่ถูกต้อง ภาพหน่วง และการเคลื่อนไหวไม่เป็นธรรมชาติ สัญญาณเหล่านี้ควรรู้ แต่เป็นแนวป้องกันที่อ่อนที่สุด ด้วยสามเหตุผล หนึ่ง คุณภาพของปลอมดีขึ้นเรื่อย ๆ สอง สัญญาณเชื่อมต่อที่ไม่ดีใช้อธิบายความผิดปกติของภาพได้ (เหมือนกรณีเดือนพฤษภาคม 2023) สาม เอกสารของสามหน่วยงานคาดว่าเครื่องมือสร้างกับเครื่องมือตรวจจับจะแข่งกันพัฒนาต่อไปเรื่อย ๆ นอกจากนี้ เอกสารระบุว่าการยืนยันตัวตนระหว่างสื่อสารสดต้องมีการทดสอบ liveness (การทดสอบว่าเป็นคนจริงที่อยู่ตรงหน้าในขณะนั้น) ด้วย ดังนั้นควรสมมติว่าใครก็ถูกหลอกได้ แล้วออกแบบขั้นตอนให้การตัดสินใจของคนเพียงคนเดียวปล่อยเงินหรือสิทธิ์เข้าถึงไม่ได้
มาตรการที่ใช้ได้ผล
- ยืนยันนอกช่องทาง (out-of-band): คือการตรวจสอบผ่านอีกช่องทางที่ผู้โจมตีควบคุมไม่ได้ ทุกคำขอเกี่ยวกับเงิน การเปลี่ยนบัญชีรับเงิน ข้อมูลรับรองการเข้าใช้ หรือสิทธิ์เข้าถึง ให้วางสายแล้วโทรกลับไปยังเบอร์ที่องค์กรมีอยู่แล้ว เช่น สมุดโทรศัพท์ภายใน ห้ามใช้เบอร์ที่มากับข้อความ FBI แนะนำวิธีเดียวกันสำหรับสายที่โทรเข้ามาโดยไม่ได้คาดคิด
- อนุมัติสองชั้นและกำหนดวงเงิน: ให้มีผู้อนุมัติคนที่สองสำหรับการจ่ายเงินและการเปลี่ยนข้อมูลผู้รับเงินที่เกินวงเงินที่กำหนด เพื่อไม่ให้สายหลอกสายเดียวสั่งย้ายเงินได้ นี่เป็นแนวปฏิบัติทั่วไป ไม่ใช่ข้อกำหนดที่ระบุไว้ในเอกสารของหน่วยงาน
- ยืนยันตัวตนแบบเรียลไทม์: เอกสารแนะนำให้ใช้วิธียืนยันที่ใช้ได้ระหว่างการสื่อสารสด รวมถึงการทดสอบ liveness และก่อนทำธุรกรรมที่อ่อนไหว โดยเฉพาะธุรกรรมการเงิน ให้ใช้ MFA (การยืนยันตัวตนหลายปัจจัย) รหัสใช้ครั้งเดียว หรือข้อมูลส่วนตัวที่เฉพาะเจ้าตัวรู้ร่วมด้วย
- การล็อกอินที่ต้านฟิชชิง (phishing-resistant): เสียงโคลนหลอกให้ passkey (กุญแจล็อกอินที่ผูกกับอุปกรณ์ ไม่มีรหัสให้อ่านบอกใคร) ปลดล็อกบัญชีไม่ได้ ส่วนรหัสใช้ครั้งเดียวไม่ควรอ่านให้ใครฟังเด็ดขาด (ประกาศของ FBI เดือนธันวาคม 2025 เตือนว่ามิจฉาชีพขอรหัสเหล่านี้) อ่านเพิ่มเติมใน MFA แบบไหนปลอดภัยกว่า และ Passkeys และ FIDO2 อธิบายแบบเข้าใจง่าย
- ปกป้องสื่อและช่องทางของผู้บริหาร: เอกสารแนะนำให้ปกป้องบุคคลสำคัญเป็นพิเศษ เช่น ใส่ลายน้ำหรือ content credentials (ข้อมูลที่แนบกับไฟล์เพื่อยืนยันที่มา) ให้สื่อที่เผยแพร่อย่างเป็นทางการ อีกข้อที่มีประโยชน์คือทำรายการสั้น ๆ ของช่องทางที่ผู้บริหารใช้อนุมัติงานจริง
- วางแผน ซ้อม และอบรม: จัดการซ้อมบนโต๊ะ (tabletop exercise คือการจำลองสถานการณ์แล้วไล่ดูว่าแต่ละคนจะทำอะไร) โดยมีผู้บริหารร่วมด้วย และอบรมพนักงาน รวมถึงฝ่ายสรรหาบุคลากรและฝ่ายการเงิน ว่า deepfake ถูกใช้อย่างไรและต้องรายงานที่ไหน
ถ้าสงสัยว่าเป็น deepfake
ให้หยุดธุรกรรมหรือบทสนทนาไว้ก่อน โดยไม่ต้องเผชิญหน้ากับผู้โทร แล้วยืนยันผ่านช่องทางที่เชื่อถือได้อยู่แล้ว ควรถือเป็นเหตุการณ์ด้านความปลอดภัย ไม่ใช่เรื่องน่าอาย เพราะผู้โจมตีรายเดียวมักลองหลอกพนักงานหลายคน ขั้นตอนพื้นฐานในการตรวจสื่อที่ต้องสงสัยตามเอกสารมีดังนี้
- เก็บหลักฐานก่อนวิเคราะห์: คัดลอกไฟล์สื่อ แล้วคำนวณ hash (ค่าลายนิ้วมือของไฟล์) ของต้นฉบับและสำเนา เพื่อยืนยันว่าตรงกัน
- ตรวจแหล่งที่มาก่อนสรุป: ใครเป็นผู้ส่ง และส่งผ่านบัญชีหรือช่องทางใด
- ดูและฟังก่อน แล้วค่อยใช้เครื่องมือ: ลองค้นภาพย้อนกลับ (reverse image search) และตรวจ metadata (ข้อมูลที่ฝังอยู่ในไฟล์) ถ้า metadata ยังครบ จะช่วยสนับสนุนว่าเป็นของจริง แต่ถ้า metadata หายไป อาจเป็นเพราะแพลตฟอร์มลบให้ การไม่มี metadata จึงไม่พิสูจน์อะไรด้วยตัวเอง
- รายงาน: เอกสารขอให้องค์กรรายงาน deepfake ที่เป็นอันตรายต่อ FBI และประกาศของ FBI ชี้ให้แจ้งเหตุที่ IC3 (ศูนย์รับแจ้งอาชญากรรมอินเทอร์เน็ตของ FBI) หากมีการโอนเงินไปแล้ว ให้แจ้งธนาคารทันที
Provenance (การพิสูจน์ที่มาของสื่อ) ทำงานตรงข้ามกับการตรวจจับ แทนที่จะเดาว่าสื่อนั้นปลอมหรือไม่ มาตรฐานอย่าง C2PA (เอกสารอธิบายว่าเป็นความพยายามที่เริ่มในปี 2021 เพื่อรับรองที่มาของสื่อ) ให้ผู้สร้างแนบประวัติที่ตรวจสอบได้ไว้กับเนื้อหาจริง วิธีนี้ช่วยพิสูจน์ว่าแถลงการณ์อย่างเป็นทางการขององค์กรเป็นของจริง แต่ไม่ได้ห้ามผู้โจมตีสร้างของปลอมที่ไม่มีข้อมูลรับรองแนบมา จึงใช้เสริมขั้นตอนยืนยัน ไม่ใช่ใช้แทน
ข้อผิดพลาดที่พบบ่อย
- พึ่งเครื่องมือตรวจจับหรือสัญชาตญาณของพนักงานเพียงอย่างเดียว: ทั้งสองอย่างพลาดได้ และความรู้สึกปลอดภัยที่ไม่จริงแย่กว่าช่องโหว่ที่รู้ตัวอยู่
- ยืนยันในช่องทางเดิม: การตอบในแชตหรือในสายที่ผู้โจมตีควบคุมอยู่ว่า "ใช่คุณจริงไหม" ไม่ได้พิสูจน์อะไรเลย
- ยกเว้นผู้อาวุโสจากขั้นตอน: ของปลอมที่น่าเชื่อที่สุดคือของ CEO และพนักงานจะไม่กล้าท้วง หากนโยบายไม่ระบุว่าทุกคนต้องทำตามขั้นตอนเดียวกัน
- อบรมครั้งเดียวแล้วจบ: รูปแบบการโจมตีเปลี่ยนไปเรื่อย ๆ ควรปรับตัวอย่างในการอบรมทุกปีและหลังเกิดเหตุการณ์
- มองข้ามเป้าหมายนอกฝ่ายการเงิน: help desk (ฝ่ายช่วยเหลือผู้ใช้) ฝ่ายบุคคล (HR) ฝ่ายสรรหา และฝ่ายบริการลูกค้า ก็ดูแลสิทธิ์เข้าถึง ตัวตน และบัญชีเช่นกัน
- ซ่อนเหตุเกือบพลาด: พนักงานที่รายงานความพยายามโจมตีที่ล้มเหลวช่วยปกป้องคนอื่นได้ ควรทำให้การรายงานทำได้ง่ายและไม่มีการกล่าวโทษ
เริ่มได้วันนี้
- เขียนกฎหนึ่งหน้า: คำขอใดที่เกี่ยวกับเงิน การเปลี่ยนบัญชีรับเงิน ข้อมูลรับรองการเข้าใช้ หรือสิทธิ์เข้าถึง หากมาทางเสียง วิดีโอ หรือแชต ต้องยืนยันด้วยการโทรกลับไปยังเบอร์ที่มีอยู่แล้วเสมอ
- เพิ่มผู้อนุมัติคนที่สอง สำหรับการจ่ายเงินและการเปลี่ยนข้อมูลผู้รับเงินที่เกินวงเงินที่องค์กรกำหนด
- ทำรายการขั้นตอนงานที่เสี่ยงสูง (workflow): การอนุมัติจ่ายเงิน การรีเซ็ตรหัสผ่านและการลงทะเบียน MFA การเปลี่ยนข้อมูลผู้ขาย การรับสมัครงาน และการเปลี่ยนข้อมูลบัญชีลูกค้า
- ซ้อมบนโต๊ะ 30 นาที: สมมติว่า CEO ปลอมโทรหาพนักงานการเงินช่วงเย็นวันศุกร์ แล้วดูว่าเกิดอะไรขึ้น
- ตรวจวิธีล็อกอิน: ย้ายบัญชีเสี่ยงสูงจากรหัสที่อ่านให้คนอื่นฟังได้ ไปใช้วิธีที่ต้านฟิชชิง
ยังไม่แน่ใจว่าองค์กรขาดมาตรการด้านใดบ้าง ลองใช้ แบบประเมินตนเอง เพื่อดูลำดับความสำคัญ ส่วนด้านตัวตนของการโจมตีลักษณะนี้ อ่านเพิ่มเติมได้ใน ITDR: การตรวจจับและตอบสนองภัยคุกคามด้านตัวตน
การปลอมชื่อผู้ส่งเป็นหนึ่งในวิธีเริ่มต้นของการหลอกลวง องค์กรลดการปลอมโดเมนของตัวเองได้ด้วยการตั้งค่าที่อธิบายใน DMARC, SPF และ DKIM: ตั้งค่าอย่างไรให้ถูกต้อง
ผู้โจมตีส่งคำขอโอนเงินปลอมทางอีเมลอยู่แล้ว การปลอมเสียงและภาพทำให้ยืนยันด้วยโทรศัพท์ไม่พอ ดูชั้นป้องกันฝั่งอีเมลใน Email Security: ป้องกันฟิชชิงและ BEC หลายชั้น
การฝึกพนักงานรับมือการหลอกลวง ทั้งแบบอีเมลและแบบเสียงปลอม ควรทำแบบไม่ลงโทษและวัดการรายงานด้วย ดู Security Awareness และ Phishing Simulation ที่ได้ผล
แหล่งอ้างอิงและข้อมูลเพิ่มเติม
- CISA: NSA, FBI, and CISA release information sheet on deepfake threats: ประกาศเปิดตัวเอกสารร่วม 12 กันยายน 2023
- Contextualizing Deepfake Threats to Organizations (PDF สำเนาจาก American Hospital Association): ฉบับเต็ม มีเนื้อหาเรื่องภัยคุกคาม กรณีศึกษา และข้อแนะนำ
- FBI IC3 PSA I-120324: Criminals Use Generative AI to Facilitate Financial Fraud: ตัวอย่างเสียงและวิดีโอปลอม พร้อมวิธีป้องกัน
- FBI IC3 PSA I-121925: Senior U.S. Officials Continue to be Impersonated: ข้อความเสียงที่ AI สร้าง การย้ายไปใช้แอปที่เข้ารหัส และการขอรหัส
- CNN via ABC17: Arup revealed as victim of US$25 million deepfake scam: กรณีตามรายงานข่าว (แหล่งข้อมูลรอง)
- C2PA: มาตรฐานเปิดสำหรับพิสูจน์ที่มาของสื่อ (media provenance)
- Content Authenticity Initiative: เครื่องมือและชุมชนด้าน content credentials