Bagi penggemar teknologi dan AI enthusiast yang suka utak-atik model bahasa besar (LLM), berita terbaru ini wajib dicatat! Kita berbicara tentang Project Maya, sebuah perangkat lunak inferensi LLM, yang baru saja merilis versi 1.1.28 dengan peningkatan performa signifikan untuk DeepSeek. Model AI sekelas DeepSeek-V4.1-Flash-1017 (dengan parameter total 748B) sebelumnya dianggap hanya bisa berjalan di server raksasa. Namun kini, berkat optimasi ini, Anda bahkan bisa menjalankan kekuatan super tersebut langsung dari PC lokal Anda!
Peningkatan terbesar terletak pada kecepatan decoding DeepSeek yang optimal untuk lingkungan satu GPU NVIDIA di Linux. Menurut pengujian, optimasi terbaru ini mampu membuat performa DeepSeek melonjak hingga sekitar dua kali lipat (2x) saat menggunakan kartu seperti GeForce RTX 3090. Bagi pengguna dengan VRAM terbatas, peningkatannya bisa mencapai 35%, sementara pada perangkat lain seperti V100 juga merasakan peningkatan signifikan sebesar 14%.
Akses Kekuatan AI Raksasa di PC Hobi Anda
Project Maya dirancang untuk mendemokratisasi akses terhadap model-model MoE (Mixture of Experts) super besar, termasuk GLM-5.3-Flash dan DeepSeek. Ini sangat penting karena memungkinkan pengguna memiliki privasi penuh; semua pemrosesan data terjadi secara lokal tanpa harus bergantung pada layanan cloud berbayar yang mahal.
Selain peningkatan kecepatan decoding ini, versi 1.1.28 juga menambahkan fitur krusial lainnya. Pengguna kini dapat menangani konteks super besar hingga 512K dan bahkan 1 juta token. Ini artinya, AI Anda mampu mengingat detail percakapan atau dokumen yang jauh lebih panjang—sesuatu yang sangat dibutuhkan untuk riset mendalam atau troubleshooting teknis.
Fleksibilitasnya juga makin ditingkatkan. Selain dukungan NVIDIA yang optimal, kini ada dukungan untuk menjalankan GLM di GPU AMD, serta opsi opt-in untuk DeepSeek pada konfigurasi multi-GPU. Semua ini membuat pengalaman menjalankan LLM lokal menjadi lebih stabil—bahkan saat fitur streaming chat digunakan.
Intinya, Project Maya menjadikan PC hobi Anda sebagai pusat pemrosesan AI yang sangat mumpuni. Ini membuka peluang baru bagi para kreator dan peneliti yang ingin bereksperimen dengan model terdepan tanpa batas biaya cloud. Kalau kamu tertarik mendalami hardware atau teknologi terbaru, jangan lupa cek berita Tech lainnya di GameIndo!
Pengembangan semacam ini benar-benar mengubah paradigma penggunaan AI. Sudah siap menjadikan PC Anda sebagai AI powerhouse pribadi? Pantau terus perkembangan Project Maya untuk tahu dukungan hardware apa lagi yang akan mereka rilis!
