Apple นำ AI สังเคราะห์มาใส่ใน iPhone รุ่นเก่าได้อย่างไร

ตามรายงานของ Android Authority เอกสารการวิจัยของ Apple ได้ระบุรายละเอียดเกี่ยวกับโซลูชันสำหรับการรันโมเดลภาษาขนาดใหญ่ (LLM) บนอุปกรณ์ที่มี RAM จำกัด เอกสารดังกล่าวเผยให้เห็นว่าบริษัทสามารถจัดเก็บ "พารามิเตอร์โมเดล" และโหลดบางส่วนลงใน RAM ของอุปกรณ์เมื่อจำเป็น แทนที่จะโหลดโมเดลทั้งหมดลงใน RAM

Cách Apple đưa AI tổng hợp vào iPhone đời cũ- Ảnh 1. — Apple กำลังมองหาวิธีช่วย iPhone รุ่นเก่าที่มี RAM น้อยกว่าในการรัน AI ทั่วไป

เอกสารดังกล่าวระบุว่าวิธีการนี้ช่วยให้สามารถรันโมเดลที่ต้องการ RAM สองเท่าของ iPhone ได้ โดยยังคงรับประกันความเร็วในการอนุมานที่ 4-5 เท่าและ 20-25 เท่าเมื่อเปรียบเทียบกับวิธีการโหลดแบบง่ายๆ บน CPU และ GPU ตามลำดับ

การใช้ AI สังเคราะห์บนอุปกรณ์ที่มี RAM มากขึ้นจะเป็นประโยชน์อย่างมากเนื่องจากจะทำให้ความเร็วในการอ่าน/เขียนเร็วขึ้น ความเร็วเป็นสิ่งสำคัญสำหรับ AI บนอุปกรณ์ ช่วยให้เวลาในการอนุมานเร็วขึ้นมาก เนื่องจากผู้ใช้ไม่จำเป็นต้องรอหลายสิบวินาที (หรือมากกว่านั้น) สำหรับการตอบสนองหรือผลลัพธ์สุดท้าย ทั้งหมดนี้หมายความว่าผู้ช่วย AI บนอุปกรณ์อาจทำงานด้วยความเร็วการสนทนา สร้างภาพ/ข้อความได้เร็วขึ้นมาก สรุปบทความได้เร็วขึ้น เป็นต้น แต่โซลูชันของ Apple หมายความว่าผู้ใช้ไม่จำเป็นต้องมี RAM จำนวนมากเพื่อเพิ่มความเร็วในการตอบสนองงานของ AI บนอุปกรณ์

แนวทางของ Apple จะช่วยให้ iPhone รุ่นเก่าและรุ่นใหม่สามารถนำเสนอคุณสมบัติ AI สังเคราะห์บนอุปกรณ์ได้โดยตรง ซึ่งถือเป็นเรื่องสำคัญเนื่องจาก iPhone ของ Apple มักจะมี RAM น้อยกว่าโทรศัพท์ Android ระดับไฮเอนด์ ตัวอย่างเช่น ซีรีส์ iPhone 11 มี RAM เพียง 4GB ในขณะที่ iPhone 15 รุ่นเริ่มต้นก็มี RAM เพียง 6GB

Apple ไม่ใช่บริษัทมือถือเพียงบริษัทเดียวที่กำลังดำเนินการลดขนาด LLM ชิปเรือธงล่าสุดของ Qualcomm และ MediaTek ต่างก็รองรับความแม่นยำ INT4 เพื่อลดขนาดโมเดลเหล่านี้ ไม่ว่าจะด้วยวิธีใดก็ตาม บริษัทต่างๆ กำลังพยายามหาวิธีใหม่ๆ เพื่อลดความต้องการของระบบสำหรับ AI บนอุปกรณ์ ทำให้แม้แต่โทรศัพท์ระดับล่างก็สามารถเสนอคุณสมบัติดังกล่าวได้

ลิงค์ที่มา