ข่าวไอที Blognone » AI ไม่ได้เก่งกว่าคนทุกกรณี, งานวิจัยสร้างภาพหลอก AI ให้มองภาพผิดเริ่มใช้งานได้จริง

AI ไม่ได้เก่งกว่าคนทุกกรณี, งานวิจัยสร้างภาพหลอก AI ให้มองภาพผิดเริ่มใช้งานได้จริง

24 ธันวาคม 2017
8   0

ช่วงหลังเราได้ยินข่าวการพัฒนาปัญญาประดิษฐ์ให้สามารถพิจารณาภาพแบบต่างๆ ให้เก่งกว่ามนุษย์ แต่ข้อจำกัดอย่างหนึ่งของปัญญาประดิษฐ์เหล่านี้คือมันมักจะหารูปแบบเฉพาะบางอย่างในภาพทำให้ถูกหลอกได้ งานวิจัยล่าสุดจากทีมวิจัย LabSix จาก MIT สามารถสร้างภาพหลอกปัญญาประดิษฐ์ให้จัดหมวดหมู่ภาพเป็นหมวดหมู่อะไรก็ได้ตามกำหนด

งานวิจัยสร้างภาพเพื่อหลอกให้ปัญญาประดิษฐ์จัดหมวดหมู่ภาพ (image labelling) มีมานานหลายปี แต่งานวิจัยก่อนหน้านี้มักต้องสร้างภาพเพื่อทดสอบกับปัญญาประดิษฐ์เป้าหมายนับแสนนับล้านครั้ง หรือบางครั้งก็ต้องรู้ค่าพารามิเตอร์และสถาปัตยกรรมของปัญญาประดิษฐ์ ทำให้การโจมตีในโลกความเป็นจริงทำได้ยาก เช่น Google Cloud Vision API นั้นจำกัดการเรียก API ไว้ 20 ล้านภาพต่อเดือน แต่งานวิจัยล่าสุดจาก LabSix สามารถสร้างภาพหลอกได้โดยใช้ข้อมูลผลการจัดหมวดหมู่ภาพเท่านั้น

รายงานสาธิตการปลอมภาพจากชุดข้อมูล CIFAR-10 และ ImageNet โดยเลือกภาพสุ่มจากชุดทดสอบจำนวน 1,000 ภาพ และสุ่มหมวดหมู่เป้าหมายที่ต้องการให้ปัญญาประดิษฐ์จัดหมวดหมู่ตามต้องการ โดยจำกัดการทดสอบภาพไว้ที่ 1,000,000 ครั้ง ชุดข้อมูล CIFAR-10 อัตราความสำเร็จอยู่ที่ 99.6% และจำนวนครั้งทดสอบภาพเฉลี่ย 4,910 ครั้ง ขณะที่ชุดข้อมูล ImageNet อัตราความสำเร็จอยู่ที่ 99.2% และจำนวนครั้งทดสอบภาพเฉลี่ย 24,780 ครั้ง

ภาพตัวอย่างที่ทีมงานเปิดให้ดาวน์โหลดเป็นภาพคนเล่นสกี โดยสามารถหลอก Google Cloud Vision API ให้จัดภาพเป็นสุนัขได้สำเร็จ

อันตรายจากการโจมตีเช่นนี้มีได้หลายอย่าง ตั้งแต่การหลบหลีกการเซ็นเซอร์อนาจารด้วยปัญญาประดิษฐ์ ไปจนถึงการหลอกรถไร้คนขับที่อาจจะก่อให้เกิดอุบัติเหตุร้ายแรงได้

ที่มา - LabSix

[source: https://www.blognone.com/node/98600]