Deepfake

นักวิจัยพบบอทอันตราย Deepfake ใน Telegram ที่สร้างภาพเปลือยแบบปลอม ๆ ได้

นักวิจัยได้ค้นพบ Deepfake ในแอปส่งข้อความ Telegram ที่มีบอทสร้างภาพเปลือยปลอมตามคำขอ ผู้ใช้ที่โต้ตอบกับบอทเหล่านี้กล่าวว่าพวกเขาส่วนใหญ่สร้างภาพเปลือยของผู้หญิงที่พวกเขารู้จักโดยใช้ภาพที่ถ่ายจากโซเชียลมีเดียจากนั้นพวกเขาจะแชร์และแลกเปลี่ยนกันในช่องทางต่างๆของ Telegram การตรวจสอบดังกล่าวมาจากบริษัทรักษาความปลอดภัย Sensity ซึ่งมุ่งเน้นไปที่สิ่งที่เรียกว่าข้อมูลภัยคุกคามที่มองเห็นได้โดยเฉพาะการแพร่กระจายของรูปแบบของการปลอมแปลงเนื้อหา Deepfake ในแอปส่งข้อความ Telegram ที่มีบอทสร้างภาพเปลือยปลอมตามคำขอ ได้อย่างรวดเร็ว นักวิจัยของ Sensity พบว่ามีการสร้างและแชร์รูปภาพมากกว่า 100,000 ภาพในช่อง Telegram ที่เปิดการเข้าถึงแบบสาธารณะจนถึงเดือนกรกฎาคม 2020 ซึ่งเป็นไปได้ว่าภาพที่สร้างขึ้นทั้งหมดซึ่งรวมถึงภาพที่ไม่เคยแชร์และที่สร้างขึ้นตั้งแต่เดือนกรกฎาคมนั้นสูงกว่ามาก ผู้ใช้งานบอท Deepfake  ส่วนใหญ่ในช่อง Telegram เหล่านี้ประมาณ 70 เปอร์เซ็นต์มาจากรัสเซียและประเทศใกล้เคียง ซึ่งหลายช่องทางที่นักวิจัยสามารถตรวจสอบได้ยังคงมีการใช้งานอยู่ บอทเหล่านี้สามารถใช้งานได้ฟรี แต่จะสร้างภาพเปลือยปลอมพร้อมลายน้ำหรือภาพเปลือยบางส่วนเท่านั้น  แต่หากอยากได้ภาพที่เปิดเผยมากกว่านี้จะต้องจ่ายค่าะรรมเนียมเพิ่มเติม มีความพยายามติดต่อไปยัง Telegram ว่าทำไมจึงอนุญาตให้มีการใช้งานบอท Deepfake เหล่านี้ในระบบแต่ดูเหมือนว่าจะยังไม่ได้รับคำตอบ ผู้วิจัยยังได้เปิดเผยรายละเอียดเพิ่มเติมว่าซอฟต์แวร์ที่ใช้สร้างภาพเหล่านี้เรียกว่า DeepNude ปรากฏครั้งแรกบนเว็บเมื่อเดือนมิถุนายนที่ผ่านมา แต่ผู้พัฒนาได้ปิดเว็บไซต์ของตนเองไปหลายชั่วโมงหลังถูกโจมตีว่าเป็นซอฟท์แวร์ที่อันตรายเกินไปและอาจมีคนนำไปใช้ในทางที่ผิดๆได้มาก อย่างไรก็ตามซอฟต์แวร์ยังคงแพร่กระจายไปตามช่องทางต่างๆ และถูกเก็บไว้ในรูปแบบโอเพนซอร์สและเว็บไซต์ทอร์เรนต์ ซึ่งตอนนี้ก็ถูกใช้เพื่อขับเคลื่อนบอท  เพื่อสร้างเนื้อหา Deepfake ที่ทำเงินเข้ากระเป๋าแก่ผู้ถือสิทธิ์ซอฟท์แวร์ DeepNude ใช้เทคนิค AI ที่เรียกว่า Generative […]