Jakarta, 20 Mei – Seiring dengan perkembangan pesat dalam bidang kecerdasan buatan (AI), AMD terus menunjukkan komitmennya dalam menghadirkan inovasi terdepan melalui produk-produk unggulannya di bidang CPU, GPU, dan NPU. AMD pertama kali memperkenalkan akselerator AI, atau NPU, untuk ekosistem x86 pada tahun 2023, dan sejak itu, perusahaan ini telah meluncurkan dua generasi produk PC mobile Ryzen AI ke pasar. Pada tahun 2024, AMD menjadi perusahaan pertama yang memperkenalkan NPU untuk prosesor desktop.
Baru-baru ini, AMD meluncurkan dua prosesor terbaru, yakni AMD Ryzen™ 7 8700F dan AMD Ryzen™ 5 8400F. Kedua prosesor ini dioptimalkan untuk efisiensi dengan konsumsi daya yang rendah serta kinerja overclock yang lebih tinggi. Khususnya, Ryzen™ 7 8700F dilengkapi dengan NPU canggih yang menawarkan efisiensi AI terbaik.
Teknologi Ryzen™ AI dan Software Pendukung
Prosesor Ryzen™ AI hadir dengan NPU khusus untuk akselerasi AI yang terintegrasi langsung dengan inti CPU. AMD menyediakan paket pengembangan perangkat lunak (SDK) yang memungkinkan pengembang untuk menjalankan model pembelajaran mesin yang dilatih di PyTorch atau TensorFlow pada PC bertenaga Ryzen AI. Ini memungkinkan optimalisasi tugas dan beban kerja secara cerdas, membebaskan sumber daya CPU dan GPU, serta memastikan kinerja optimal dengan konsumsi daya yang lebih rendah.
SDK Ryzen AI mencakup alat dan pustaka runtime untuk mengoptimalkan dan menerapkan inferensi AI pada NPU. Instalasinya sederhana, dan kit ini dilengkapi dengan berbagai model pra-quantized siap untuk diterapkan dari Hugging Face AMD model zoo. Pengembang dapat mulai membangun aplikasi mereka dalam hitungan menit, memanfaatkan potensi penuh akselerasi AI pada PC Ryzen AI.
Membangun Chatbot AI
AI chatbot biasanya membutuhkan daya pemrosesan yang besar sehingga sering dioperasikan melalui cloud. Namun, dengan teknologi Ryzen AI, chatbot AI dapat dijalankan secara lokal dengan kinerja optimal tanpa memerlukan dukungan cloud. Berikut adalah langkah-langkah sederhana untuk mengembangkan chatbot AI di laptop Ryzen AI:
- Unduh model opt-1.3b yang telah dilatih dari Hugging Face.
- Quantize model yang telah diunduh dari FP32 ke INT8.
- Terapkan aplikasi Chatbot dengan model tersebut.
Prasyarat
Pastikan bahwa Anda memiliki laptop AMD Ryzen AI dengan sistem operasi Windows® 11, Anaconda, driver dan perangkat lunak Ryzen AI AIE terbaru.
Pengalaman Meta Llama 3 dengan AMD Ryzen™ AI dan Grafik Radeon™ 7000 Series
Pengguna juga dapat mengunduh dan menjalankan model Llama 3 pada PC AMD Ryzen AI dengan panduan langkah demi langkah berikut:
- Unduh versi yang tepat dari LM Studio.
- Jalankan file tersebut.
- Klik tombol “Download” pada kartu Llama 3 – 8B Instruct.
- Setelah selesai diunduh, klik ikon chat di sisi kiri layar.
- Pilih Llama 3 dari daftar drop-down di tengah atas.
- Pilih “Accept New System Prompt” saat diminta.
- Mulai berinteraksi dengan chatbot Llama 3 jika Anda menggunakan PC berbasis AMD Ryzen™ AI.
Bagi pengguna dengan kartu grafis AMD Radeon™ 7000 series, ikuti langkah tambahan untuk konfigurasi hardware dan mulai chatting dengan Meta’s new Llama 3 chatbot.
