Jakarta, Technologue.id — AMD memperluas jangkauan komputasi AI lokal untuk segmen bisnis lewat kehadiran prosesor Ryzen AI Max dan Ryzen AI Max PRO 400 Series. Sistem berbasis chip terbaru ini kini tersedia melalui mitra AMD dan dirancang khusus untuk menjalankan beban kerja AI agentik secara lokal di PC perusahaan.

Langkah ini menjawab tekanan yang dihadapi perusahaan sejak AI generatif menjadi topik luas pada akhir 2022. Kini, perusahaan dituntut menjawab pertanyaan seputar kasus penggunaan komersial, adopsi, hingga laba atas investasi (ROI) dari teknologi tersebut.

Berbeda dari chatbot AI generatif yang umumnya mengandalkan pola tanya jawab, agen AI mampu menjalankan tugas kompleks yang terdiri atas beberapa langkah di berbagai aplikasi. Jika dikonfigurasi, agen tersebut juga dapat mengambil tindakan tertentu secara otonom dan mengerjakan proyek dalam waktu lama sementara penggunanya beralih ke pekerjaan lain.

Kemampuan agen menganalisis informasi dan menindaklanjutinya menjadi peluang menarik bagi perusahaan yang ingin memperoleh nilai lebih dari AI. Namun, kemajuan AI berbasis cloud maupun lokal membuat departemen TI menghadapi pertanyaan praktis soal lokasi eksekusi agen, akses data, dan efisiensi biaya.

Sistem baru ini mengandalkan hingga 16 core CPU "Zen 5", NPU berdaya 55 TOPS, serta 40 unit komputasi GPU. Kombinasi tersebut dipadukan dengan kumpulan memori DRAM terpadu berkapasitas sangat besar yang menjadi fondasi utama AI agentik lokal.

Prosesor Ryzen AI Max dan Max PRO Series dibangun di atas arsitektur memori terpadu yang pertama kali diperkenalkan AMD melalui Ryzen AI Max dan Max PRO 300 Series. Generasi terbaru ini menawarkan peningkatan kapasitas memori yang signifikan dibanding pendahulunya.

Jika sistem generasi sebelumnya memiliki memori total maksimum 128GB dengan hingga 96GB dialokasikan untuk beban kerja GPU, Ryzen AI Max 400 Series menawarkan hingga 192GB. Dari jumlah itu, hingga 160GB dapat didedikasikan untuk GPU atau peningkatan sebesar 1,67 kali.

AMD mengklaim Ryzen AI Max PRO 400 Series sebagai prosesor klien x86 pertama di dunia yang mampu menjalankan model dengan lebih dari 300 miliar parameter pada kuantisasi 4-bit. Kemampuan ini diraih tanpa perlu mengalihkan pemrosesan ke cloud.

Beban kerja agentik menuntut kapasitas memori besar karena berpotensi menggabungkan beberapa model, jendela konteks panjang, data perusahaan, serta sejumlah aplikasi dalam satu alur kerja. Kapasitas tambahan ini memberi perusahaan ruang lebih luas untuk mengembangkan dan menjalankan beban kerja tersebut secara lokal.

Agen enterprise membutuhkan lebih dari sekadar model dasar (foundation model). Tim pengembangan mungkin perlu menghubungkan model dengan dokumen internal dan repositori kode, membangun aplikasi retrieval-augmented generation (RAG), hingga mengevaluasi beragam model.

Selain itu, pengembang perlu membuat alat dan konektor, menguji perilaku agen, serta menentukan beban kerja mana yang tetap berjalan lokal dan mana yang menggunakan layanan cloud. Prosesor Ryzen AI Max PRO 400 Series menyediakan platform lokal untuk seluruh siklus pengembangan tersebut.

Kombinasi core CPU berkinerja tinggi, grafis terintegrasi, NPU bertenaga, dan memori terpadu besar mendukung pengembangan model, orkestrasi, pembuatan prototipe, dan eksekusi pada sistem yang sama. Platform ini mendukung lingkungan Windows dan Linux, dengan ekosistem software Ryzen AI yang mencakup PyTorch, vLLM, llama.cpp, Ollama, ComfyUI, dan LM Studio.

Pertanyaan soal eksekusi lokal atau cloud kerap dipandang sebagai pilihan antara keduanya. Namun, Ryzen AI Max PRO 400 Series mencerminkan pendekatan berbeda, yakni sumber daya AI cloud dan lokal dapat hadir berdampingan dalam strategi penerapan yang sama.

Model cloud terdepan tetap bernilai ketika beban kerja membutuhkan kemampuan yang tidak dapat disediakan model lokal. Namun, dalam kasus lain, sistem lokal dapat menangani sebagian atau seluruh beban kerja tersebut.

Sebagai contoh, HP memadukan prosesor AMD Ryzen AI Max+ PRO 495 dengan Perplexity Portable Computer pada HP ZBook Ultra G3a 16. Sistem ini dapat menjalankan model dan agen lokal bersamaan dengan aplikasi profesional, sementara pengguna tetap bisa mengakses model cloud jika diperlukan.

Eksekusi lokal juga memberi organisasi kendali lebih besar atas tempat data perusahaan diproses. Agen yang bekerja dengan dokumen internal, berkas rekayasa, kode sumber, atau informasi sensitif dapat melakukan operasi pada sistem itu sendiri, alih-alih mengirim setiap permintaan ke layanan inferensi eksternal.

Ada pula alasan ekonomi untuk mempertimbangkan pembagian beban kerja secara hybrid. AI agentik dapat mengonsumsi token dalam jumlah sangat besar, jauh lebih banyak daripada chatbot, karena agen berulang kali melakukan penalaran, revisi, pengambilan informasi, dan pemanggilan model dalam satu pekerjaan.

Inferensi cloud menjadikan setiap operasi tersebut sebagai biaya berulang. AMD Tokenomics Calculator memungkinkan organisasi mengeksplorasi potensi biaya penerapan AI yang hanya menggunakan cloud, hanya sistem lokal, atau hibrida berdasarkan perkiraan jumlah pengguna, konsumsi token, kebutuhan hardware, dan harga model cloud.

Biaya penggunaan layanan cloud dapat jauh melampaui biaya AI lokal dalam periode yang relatif singkat. Penerapan hybrid memungkinkan perusahaan menggunakan inferensi cloud untuk beban kerja yang sepadan dengan biayanya, sekaligus menjalankan pekerjaan lain secara lokal.

Agen enterprise kini beralih dari tahap eksperimen menuju penggunaan produksi. Dengan sistem Ryzen AI Max 400 Series dan Ryzen AI Max PRO 400 Series yang mulai sampai ke pelanggan, AMD menyediakan komputasi dan memori lokal jauh lebih besar untuk mendukung transisi tersebut. Perusahaan pun memperoleh tempat lain untuk membangun AI, menerapkannya, serta kendali lebih besar atas beban pekerjaan.