เวลาเราใช้ ChatGPT, Gemini หรือบริการ AI ออนไลน์ทั่วไป ข้อความที่พิมพ์เข้าไปจะถูกส่งไปประมวลผลบนเซิร์ฟเวอร์ของผู้ให้บริการ แล้วจึงส่งคำตอบกลับมาให้เรา
แต่ช่วงหลังเริ่มมีอีกคำที่ได้ยินบ่อยขึ้นคือ Local AI
แนวคิดง่ายมาก คือแทนที่จะส่งงานไปให้ AI บนอินเทอร์เน็ต เราเอาโมเดล AI มารันบนคอมพิวเตอร์ของเราเองเลย
Local AI คืออะไร?
Local AI คือการนำโมเดลปัญญาประดิษฐ์มาประมวลผลบนอุปกรณ์ของเราเอง เช่น PC, Notebook, Mac หรือ Server ภายในบ้านและบริษัท
ตัวอย่างเช่น เราอาจติดตั้งโปรแกรมอย่าง Ollama หรือ LM Studio แล้วดาวน์โหลดโมเดลอย่าง Llama, Qwen, Gemma หรือ Mistral มาใช้งานบนเครื่องของตัวเอง
แล้วต่างจาก ChatGPT ยังไง?
ความแตกต่างหลักอยู่ที่ว่า AI ทำงานอยู่ที่ไหน
บริการอย่าง ChatGPT โดยทั่วไปจะประมวลผลบนระบบ Cloud เราจึงไม่จำเป็นต้องมีคอมพิวเตอร์แรงมากก็ใช้งานได้
ส่วน Local AI จะใช้ CPU, RAM และ GPU ของเครื่องเราเอง ยิ่งโมเดลใหญ่ ก็ยิ่งต้องการเครื่องที่มีประสิทธิภาพมากขึ้น
ข้อดีของ Local AI
ข้อมูลอยู่ในเครื่องของเรา
ข้อมูลสามารถถูกประมวลผลภายในเครื่อง โดยไม่จำเป็นต้องส่งเอกสารหรือข้อมูลสำคัญออกไปยังบริการ Cloud จึงเหมาะกับงานที่ต้องการความเป็นส่วนตัว
ใช้งานแบบ Offline ได้
หากดาวน์โหลดโมเดลและโปรแกรมที่จำเป็นไว้เรียบร้อยแล้ว Local AI หลายแบบสามารถทำงานได้โดยไม่ต้องเชื่อมต่ออินเทอร์เน็ต
ไม่ต้องจ่ายค่า Token ทุกครั้ง
หลังจากมีเครื่องและดาวน์โหลดโมเดลมาแล้ว การถาม AI ซ้ำ ๆ ไม่ได้มีค่า API ตามจำนวน Token เหมือนบริการ Cloud บางประเภท
แต่ก็ยังมีต้นทุนเรื่องคอมพิวเตอร์ การ์ดจอ ไฟฟ้า และเวลาในการดูแลระบบ
แล้วข้อเสียล่ะ?
Local AI ไม่ได้ดีกว่า Cloud AI ทุกด้าน
ปัญหาหลักคือ เครื่องของเราต้องรับภาระการประมวลผลเอง หากเครื่องมี RAM น้อยหรือไม่มี GPU ที่เหมาะสม AI อาจตอบช้า หรือใช้โมเดลขนาดใหญ่ไม่ได้
นอกจากนี้ โมเดลขนาดเล็กที่รันบนเครื่องทั่วไป อาจมีความสามารถไม่เท่ากับโมเดลระดับสูงที่ให้บริการผ่าน Cloud
ต้องมีการ์ดจอแรงแค่ไหน?
Local AI สามารถรันด้วย CPU ได้ แต่ถ้าต้องการความเร็วที่ใช้งานได้สบาย GPU จะช่วยได้มาก
โมเดลขนาดเล็กสามารถทำงานบนเครื่องทั่วไปได้ค่อนข้างดี โดยเฉพาะโมเดลแบบ Quantized ซึ่งถูกลดขนาดให้ใช้ RAM และ VRAM น้อยลง
Local AI เหมาะกับใคร?
Local AI เหมาะกับคนที่ชอบทดลองเทคโนโลยี โปรแกรมเมอร์ คนทำระบบภายในบริษัท หรือผู้ที่ต้องทำงานกับข้อมูลที่ต้องการความเป็นส่วนตัวสูง
แต่ถ้าต้องการเพียงเปิดเว็บแล้วถาม AI ทันที ไม่อยากตั้งค่าอะไร และต้องการโมเดลที่มีความสามารถสูง Cloud AI อย่าง ChatGPT ก็ยังสะดวกกว่า
สรุปง่าย ๆ
ถ้า Cloud AI เปรียบเหมือนเราเช่าคอมพิวเตอร์ขนาดใหญ่ของคนอื่นมาใช้ Local AI ก็คือการนำ AI มาทำงานอยู่บนคอมพิวเตอร์ของเราเอง
ไม่มีแบบไหนดีที่สุดสำหรับทุกคน เพราะทั้ง Local AI และ Cloud AI ต่างมีจุดแข็งของตัวเอง
ในอนาคตเราอาจใช้ทั้งสองแบบควบคู่กัน โดยใช้ Local AI สำหรับงานที่ต้องการความเป็นส่วนตัว และ Cloud AI สำหรับงานที่ต้องการโมเดลที่มีความสามารถสูง