AMD Ungkap Kemampuan Gorgon Halo dengan Memori Terpadu untuk Pemrosesan AI Lokal

AMD kembali menjadi sorotan industri teknologi setelah mengungkap kemampuan Gorgon Halo, platform prosesor yang ditujukan untuk pemrosesan kecerdasan buatan secara lokal. Melalui jajaran Ryzen AI Max dan Ryzen AI Max PRO 400 Series, perusahaan memperkenalkan pendekatan komputasi yang menggabungkan CPU, GPU, NPU, serta memori terpadu berkapasitas besar. Konfigurasi tertingginya mendukung hingga 192GB RAM, dengan alokasi memori grafis mencapai 160GB untuk menangani model AI berukuran besar. Teknologi tersebut membuka peluang bagi pengembang dan perusahaan untuk menjalankan aplikasi AI tanpa selalu bergantung pada layanan cloud, sekaligus menawarkan fleksibilitas dalam mengelola data, biaya komputasi, dan kebutuhan perangkat profesional.

AMD Memperkenalkan Kemampuan Gorgon Halo untuk Komputasi AI Lokal

Transformasi TEKNOLOGI artificial intelligence terus mendorong kebutuhan perangkat komputasi. Dengan menghadirkan keluarga prosesor terbaru, AMD memperluas potensi perangkat workstation untuk menjalankan model AI besar. Keluarga prosesor terbaru tersebut menggabungkan unit pemrosesan utama, akselerasi GPU, dan NPU khusus AI dalam platform prosesor terintegrasi. Kombinasi tersebut bertujuan membantu menjalankan berbagai pekerjaan AI dengan pengelolaan komputasi lebih terarah. Ketika aplikasi AI dijalankan langsung di perangkat, kapasitas memori sering menjadi pertimbangan penting. Dengan mempertimbangkan kebutuhan tersebut, AMD mengutamakan arsitektur unified memory sebagai keunggulan utama platform.

Platform Ryzen AI Max 400 Series hadir sebagai penyempurnaan dari arsitektur Ryzen AI Max sebelumnya. Perubahan yang paling menonjol adalah dukungan RAM yang lebih besar. Dalam konfigurasi terdahulu, batas memori sistem berada pada 128 gigabyte. Sebagai peningkatan, AMD menghadirkan dukungan RAM sampai 192GB. Peningkatan tersebut membuka kesempatan menjalankan beban lebih berat bagi sistem agen AI. Namun demikian, setiap perangkat tidak otomatis memiliki RAM maksimal. Oleh sebab itu, pengembang dianjurkan memastikan kapasitas RAM yang dipasang sebelum membeli komputer untuk AI lokal.

Memori Terpadu 192GB Menjadi Keunggulan Gorgon Halo

Salah satu keunggulan penting Gorgon Halo adalah sistem memori terpadu yang memberikan ruang kerja bersama bagi prosesor dan grafis pool RAM yang sama. Berbeda dari perangkat dengan VRAM khusus, sistem terpadu tersebut memungkinkan pertukaran informasi lebih langsung antara komponen utama dan grafis. Nilai tambahan sistem tersebut menjadi relevan ketika menjalankan model AI berukuran besar. Dalam pemrosesan bahasa alami, informasi numerik model harus dimuat ke memori. Berkat ketersediaan RAM terpadu yang luas, pengguna memiliki kesempatan menjalankan model lebih besar.

AMD menjelaskan, platform terbaru dapat mengalokasikan hingga 160GB memori untuk GPU. Jumlah tersebut bukan berarti perangkat memiliki VRAM fisik terpisah. Sebaliknya, GPU memanfaatkan bagian memori sistem. Perbedaan ini harus menjadi pertimbangan karena CPU dan aplikasi lain tetap membutuhkan ruang. Jika memori hampir penuh, performa sistem dapat terpengaruh. Tidak kalah penting, bandwidth memori memiliki dampak terhadap kecepatan inferensi. Dengan mempertimbangkan faktor tersebut, RAM besar sebaiknya didukung bandwidth yang sesuai.

Gorgon Halo Mampu Menangani Model AI dengan Ratusan Miliar Parameter

Salah satu kemampuan yang menjadi perhatian adalah dukungan terhadap model AI berukuran besar. Berdasarkan penjelasan perusahaan, platform dengan memori maksimal memungkinkan penggunaan LLM berukuran melampaui 300B menggunakan quantization 4-bit. Dukungan pemrosesan ini menjadi pencapaian menarik bagi pengembang AI yang ingin bereksperimen secara lokal. Walaupun kemampuan tersebut menjanjikan, menjalankan model tidak sama dengan mendapatkan respons sangat cepat. Performa inferensi aktual bergantung pada arsitektur model serta metode kompresi.

Teknik kuantisasi menjadi komponen utama dalam mengurangi kebutuhan memori AI. Dalam representasi numerik berukuran besar, setiap parameter membutuhkan kapasitas penyimpanan kerja yang besar. Untuk ilustrasi teknis, sistem AI berukuran 300B pada format dua byte per parameter membutuhkan sekitar 600GB hanya untuk bobot. Jika dikompresi menjadi 4-bit, kebutuhan teoritisnya turun menjadi sekitar 150GB. Perlu dipahami, file model biasanya membutuhkan informasi tambahan. Di samping ukuran parameter, proses inferensi menggunakan buffer komputasi. Dengan mempertimbangkan kebutuhan tersebut, pemilihan model perlu mempertimbangkan ruang memori tambahan.

Arsitektur AMD Menggabungkan Berbagai Unit Pemrosesan AI

Di samping dukungan RAM besar, Gorgon Halo memadukan unit komputasi utama generasi Zen 5, GPU terintegrasi berbasis RDNA 3.5, dan unit pemrosesan AI khusus berbasis XDNA 2. Kombinasi tersebut mendukung pengelolaan komputasi berdasarkan jenis tugas. Prosesor sentral menangani berbagai proses aplikasi, sedangkan GPU memiliki kemampuan untuk operasi paralel. Sebagai akselerator tambahan, NPU dikembangkan guna menangani aktivitas kecerdasan buatan dengan dukungan perangkat lunak. Melalui arsitektur tersebut, aplikasi memiliki peluang memanfaatkan metode pelaksanaan tugas. Walaupun seluruh komponen mendukung AI, pemrosesan model mungkin hanya menggunakan komponen tertentu.

Pada konfigurasi tertinggi, AMD menyediakan prosesor dengan maksimum 16 core, grafis terintegrasi dengan 40 unit komputasi, dan NPU hingga 55 TOPS. Kombinasi kemampuan ini dapat mendukung aktivitas komputasi profesional. Walaupun angka TOPS menunjukkan kapasitas teoritis, angka TOPS bukan satu-satunya penentu kecepatan LLM. Pada inferensi LLM, efisiensi memori serta runtime sering menjadi faktor penting. Dengan mempertimbangkan kondisi ini, calon pengguna disarankan mempertimbangkan pengujian kecepatan token nyata, bukan sekadar membandingkan jumlah TOPS.

Benchmark Gorgon Halo Menunjukkan Potensi untuk AI Generatif

Sebagai bagian dari pengenalan Gorgon Halo, AMD mengumumkan hasil benchmark internal. Pengujian tersebut melibatkan beban kerja AI generatif seperti pembuatan gambar dan pemrosesan teks menggunakan model besar. Berdasarkan presentasi perusahaan, peningkatan kecepatan tidak sama pada setiap model dari peningkatan mendekati 1,1 kali hingga hasil tertentu yang mencapai 32,2 kali terhadap sistem lain yang menjadi acuan. Sebagai catatan penting, hasil pengujian dilakukan dalam kondisi tertentu. Karena itu, peningkatan maksimum bukan gambaran performa umum.

Berdasarkan evaluasi tertentu, AMD menggunakan ComfyUI untuk pengujian alur kerja gambar. Pengujian turut melibatkan model terkompresi dengan dukungan Unsloth pada skenario pemrosesan model. Konfigurasi quantization turut menentukan konsumsi memori. Tidak kalah penting, ukuran context window juga dapat memengaruhi kebutuhan RAM tambahan. Ketika jumlah token meningkat besar, kecepatan dapat menurun meskipun perangkat mampu menjalankan inferensi. Berdasarkan kondisi tersebut, pengembang sebaiknya melakukan benchmark sesuai model yang digunakan sebelum menentukan perangkat.

Manfaat Memori Besar AMD bagi Developer serta Perusahaan

Penerapan yang paling relevan Gorgon Halo adalah pembuatan sistem kecerdasan buatan di perangkat. Dengan dukungan memori terpadu, pengembang berpotensi menjalankan model bahasa besar langsung pada workstation pribadi. Fleksibilitas pemrosesan tersebut berpotensi mendukung eksperimen model secara lebih mandiri. Sebagai contoh, pengembang berpeluang membangun asisten analisis dokumen yang menangani data pada perangkat sendiri. Walaupun proses dilakukan di perangkat, privasi tidak otomatis terjamin. Sistem yang digunakan dapat menyediakan sinkronisasi eksternal, sehingga pengguna perlu memahami kebijakan aplikasi.

Tidak hanya mendukung pemrosesan teks, Gorgon Halo berpotensi membantu penyusunan sistem kecerdasan buatan bertahap. Pada arsitektur agen, tugas bisa dibagi menjadi beberapa tahapan. Dalam penggunaan praktis, aplikasi mungkin menganalisis dokumen proyek, kemudian menyusun ringkasan berdasarkan informasi yang tersedia. Ruang kerja komputasi yang besar dapat membantu menyimpan model serta data dalam satu sistem. Namun demikian, aplikasi kompleks harus mempertimbangkan pembagian pekerjaan yang tepat. Selain itu, tindakan otomatis harus diawasi agar kesalahan tidak diteruskan ke tahap berikutnya.

Kesimpulan: Gorgon Halo Memperluas Kemampuan AI Lokal AMD

Pengungkapan kemampuan Gorgon Halo oleh AMD membuka peluang baru dalam pengembangan sistem AI pada perangkat pribadi. Melalui dukungan memori terpadu hingga 192GB, alokasi grafis sampai 160GB, serta kombinasi CPU Zen 5, GPU RDNA 3.5, dan NPU XDNA 2, generasi prosesor terbaru ini memberikan kesempatan inferensi model bahasa besar. Kemampuan menjalankan model di atas 300B parameter menggunakan representasi model berpresisi rendah memberikan nilai penting bagi peneliti AI. Meski kapasitas komputasinya tinggi, performa nyata harus dinilai berdasarkan jenis pekerjaan dan kebutuhan komputasi. Oleh sebab itu, pengembang perlu mengevaluasi sistem yang seimbang antara performa dan biaya. Menurut Anda, seberapa penting kemampuan menjalankan model besar tanpa cloud? Anda dapat berbagi pandangan mengenai masa depan AI lokal.