AMD Ungkap Kemampuan Gorgon Halo dengan Memori Terpadu untuk Pemrosesan AI Lokal

AMD kembali menjadi sorotan industri teknologi setelah mengungkap kemampuan Gorgon Halo, platform prosesor yang ditujukan untuk pemrosesan kecerdasan buatan secara lokal. Melalui jajaran Ryzen AI Max dan Ryzen AI Max PRO 400 Series, perusahaan memperkenalkan pendekatan komputasi yang menggabungkan CPU, GPU, NPU, serta memori terpadu berkapasitas besar. Konfigurasi tertingginya mendukung hingga 192GB RAM, dengan alokasi memori grafis mencapai 160GB untuk menangani model AI berukuran besar. Teknologi tersebut membuka peluang bagi pengembang dan perusahaan untuk menjalankan aplikasi AI tanpa selalu bergantung pada layanan cloud, sekaligus menawarkan fleksibilitas dalam mengelola data, biaya komputasi, dan kebutuhan perangkat profesional.

AMD Ryzen AI Max 400 Series Membuka Peluang Baru bagi Pemrosesan AI Lokal

Perkembangan TEKNOLOGI artificial intelligence menghadirkan perubahan terhadap kebutuhan perangkat komputasi. Dengan menghadirkan keluarga prosesor terbaru, AMD mengembangkan kemampuan komputer pribadi untuk mendukung aplikasi generatif tanpa ketergantungan penuh pada cloud. Keluarga prosesor terbaru tersebut mengintegrasikan pemrosesan komputasi umum, kemampuan komputasi paralel, dan akselerator kecerdasan buatan dalam arsitektur komputasi terpadu. Pendekatan pemrosesan tersebut dikembangkan guna mendukung aktivitas generatif kompleks dengan dukungan memori berkapasitas besar. Pada penggunaan profesional, kapasitas memori sering menjadi kebutuhan mendasar. Karena itu, AMD mengutamakan arsitektur unified memory sebagai bagian penting pengembangan.

Gorgon Halo dikembangkan sebagai kelanjutan dari keluarga Strix Halo. Perubahan yang paling menonjol adalah dukungan RAM yang lebih besar. Dalam konfigurasi terdahulu, kapasitas maksimum mencapai 128GB. Pada jajaran terbaru, kapasitas memori meningkat hingga 192GB. Peningkatan tersebut memungkinkan alokasi memori lebih luas bagi model bahasa besar. Walaupun kapasitas meningkat, setiap perangkat tidak otomatis memiliki RAM maksimal. Karena itu, pengembang dianjurkan memastikan kapasitas RAM yang dipasang sebelum membeli komputer untuk AI lokal.

Teknologi RAM Bersama pada Ryzen AI Max 400 Series

Salah satu keunggulan penting Gorgon Halo adalah arsitektur unified memory yang memberikan ruang kerja bersama bagi prosesor dan grafis pool RAM yang sama. Memiliki pendekatan berlainan dibandingkan komputer dengan GPU diskret, sistem terpadu tersebut tidak selalu memerlukan penyalinan data antarmemori terpisah antara unit pemrosesan yang terintegrasi. Keuntungan tersebut dapat membantu ketika memproses data generatif. Ketika LLM digunakan, parameter jaringan saraf harus dimuat ke memori. Melalui dukungan memori besar, sistem dapat menampung model lebih besar.

Menurut informasi perusahaan, sistem memungkinkan penggunaan alokasi memori grafis mencapai 160GB. Kapasitas grafis ini berbeda dari kapasitas VRAM dedicated pada GPU diskret. Pada platform Gorgon Halo, alokasi tersebut menggunakan pool RAM terpadu. Karakteristik tersebut penting dipahami karena CPU dan aplikasi lain tetap membutuhkan ruang. Apabila kapasitas tersedia semakin terbatas, aplikasi lain mungkin mengalami kekurangan memori. Selain itu, kecepatan akses data juga memengaruhi kelancaran pemrosesan model. Karena itu, RAM besar sebaiknya didukung bandwidth yang sesuai.

Gorgon Halo Mampu Menangani Model AI dengan Ratusan Miliar Parameter

Keunggulan yang ditonjolkan AMD adalah pemrosesan jaringan saraf berskala tinggi. Berdasarkan penjelasan perusahaan, platform dengan memori maksimal dirancang mendukung LLM berukuran melampaui 300B menggunakan kompresi parameter berpresisi 4-bit. Spesifikasi tersebut membuka peluang baru bagi organisasi teknologi yang mengembangkan aplikasi tanpa selalu menggunakan server cloud. Walaupun kemampuan tersebut menjanjikan, kemampuan memuat parameter bukan jaminan mendapatkan respons sangat cepat. Kecepatan sebenarnya ditentukan oleh kombinasi bandwidth memori serta konfigurasi sistem.

Quantization menjadi komponen utama dalam mengurangi kebutuhan memori AI. Jika bobot disimpan menggunakan banyak bit, setiap parameter membutuhkan ruang memori lebih banyak. Sebagai gambaran, sistem AI berukuran 300B pada format dua byte per parameter memiliki ukuran parameter teoritis mendekati 600GB. Ketika quantization empat bit digunakan, estimasi parameter murni menjadi sekitar 150 gigabyte. Namun demikian, file model biasanya membutuhkan informasi tambahan. Di samping ukuran parameter, sistem masih membutuhkan KV cache. Dengan mempertimbangkan kebutuhan tersebut, kapasitas RAM harus direncanakan secara menyeluruh.

Peran CPU Zen 5, GPU RDNA 3.5, dan NPU XDNA 2 pada Gorgon Halo

Tidak hanya mengutamakan kapasitas penyimpanan kerja, Gorgon Halo juga menggunakan prosesor berbasis AMD Zen 5, GPU terintegrasi berbasis RDNA 3.5, dan akselerator neural XDNA 2. Kombinasi tersebut mendukung pengelolaan komputasi berdasarkan karakter beban kerja. CPU berfungsi menjalankan berbagai proses aplikasi, sedangkan unit komputasi paralel dapat mempercepat perhitungan tensor. Sementara itu, NPU dirancang untuk menjalankan pekerjaan neural yang kompatibel. Berkat integrasi unit pemrosesan, pengembang dapat menyesuaikan akselerator yang didukung. Walaupun seluruh komponen mendukung AI, dukungan perangkat lunak tetap menentukan penggunaan.

Dalam model Ryzen AI Max PRO 400 Series kelas atas, AMD menawarkan prosesor dengan maksimum 16 core, grafis terintegrasi dengan 40 unit komputasi, dan NPU hingga 55 TOPS. Kombinasi kemampuan ini ditujukan untuk aktivitas komputasi profesional. Namun demikian, pengukuran tersebut tidak langsung menggambarkan hasil generasi token. Ketika menjalankan jaringan saraf berparameter tinggi, optimasi perangkat lunak dan komputasi paralel memiliki pengaruh besar. Karena itu, pengembang perlu memeriksa hasil benchmark pada model yang relevan, bukan mengandalkan klaim performa teoritis.

Pengujian Gorgon Halo Menjadi Sorotan dalam Persaingan Komputer AI

Dalam menjelaskan performa perangkat, AMD membagikan pengujian kinerja perusahaan. Rangkaian benchmark tersebut mencakup aplikasi kecerdasan buatan lokal seperti pemrosesan grafis berbasis AI dan inferensi model bahasa. Berdasarkan presentasi perusahaan, peningkatan kecepatan tidak sama pada setiap model dari peningkatan mendekati 1,1 kali hingga 32,2 kali terhadap platform pembanding yang digunakan. Sebagai catatan penting, hasil pengujian dilakukan dalam kondisi tertentu. Dengan mempertimbangkan sumber pengujian, peningkatan maksimum bukan gambaran performa umum.

Berdasarkan evaluasi tertentu, AMD memanfaatkan ComfyUI untuk pemrosesan gambar generatif. Perusahaan juga memakai format quantization dari Unsloth pada sejumlah beban kerja AI. Jenis perangkat lunak pengujian dapat memengaruhi konsumsi memori. Tidak kalah penting, jumlah token masukan juga dapat memengaruhi latensi generasi token. Pada konteks sangat panjang, throughput mungkin berkurang meskipun kapasitas memori mencukupi. Berdasarkan kondisi tersebut, pengembang sebaiknya melakukan pengujian independen sebelum menyimpulkan keunggulan performa.

Gorgon Halo Membantu Pengembangan AI Lokal dan Sistem Agen Digital

Peluang utama Gorgon Halo adalah pembuatan sistem kecerdasan buatan di perangkat. Dengan dukungan memori terpadu, organisasi memiliki kesempatan memanfaatkan sistem analisis dokumen langsung pada perangkat yang dikelola sendiri. Pendekatan ini berpotensi mendukung pengelolaan data dalam lingkungan lokal. Pada kebutuhan pengembangan, pengembang berpeluang membangun sistem pencarian informasi yang menangani data pada perangkat sendiri. Walaupun proses dilakukan di perangkat, perlindungan data masih membutuhkan perhatian. Perangkat lunak inferensi dapat menyediakan sinkronisasi eksternal, sehingga administrator sebaiknya meninjau alur data.

Selain model bahasa, Gorgon Halo berpotensi membantu penyusunan sistem kecerdasan buatan bertahap. Pada arsitektur agen, pekerjaan dapat melibatkan sejumlah komponen. Dalam penggunaan praktis, aplikasi mungkin menganalisis berkas referensi, kemudian menyusun ringkasan berdasarkan instruksi pengguna. Ruang kerja komputasi yang besar memberikan kesempatan menjalankan model serta data dalam satu sistem. Namun demikian, sistem otomatis masih memerlukan pengaturan sumber daya. Sebagai pertimbangan tambahan, tindakan otomatis harus diawasi agar proses kerja berlangsung lebih andal.

Kesimpulan: Memori Terpadu 192GB Menjadi Nilai Penting Gorgon Halo

Pengungkapan kemampuan Gorgon Halo oleh AMD membuka peluang baru dalam pengembangan sistem AI pada perangkat pribadi. Dengan menghadirkan RAM bersama berkapasitas besar, ruang pemrosesan grafis yang luas, serta kombinasi CPU Zen 5, GPU RDNA 3.5, dan NPU XDNA 2, platform tersebut berpotensi mendukung pengembangan agen digital. Kemampuan menjalankan model di atas 300B parameter menggunakan quantization 4-bit membuka pilihan menarik bagi peneliti AI. Meski kapasitas komputasinya tinggi, kecepatan model sebaiknya diperiksa berdasarkan panjang konteks dan bandwidth memori. Oleh sebab itu, calon pengguna sebaiknya memilih konfigurasi berdasarkan beban kerja. Bagaimana pendapat Anda mengenai, apakah memori terpadu 192GB akan membuat AI lokal semakin menarik? Anda dapat berbagi pandangan mengenai masa depan AI lokal.