AMD XDNA 2 Jadi NPU Pertama yang Didukung Unsloth Desktop

AMD XDNA 2 Jadi NPU Pertama yang Didukung Unsloth Desktop
Ilustrasi (AI)

AMD dan Unsloth mengumumkan kolaborasi yang menjadikan NPU AMD XDNA 2 sebagai unit pemroses saraf (NPU) pertama di dunia yang didukung oleh Unsloth Desktop. Lewat kerja sama ini, pengembang mendapat cara baru untuk menjalankan model AI secara langsung di perangkat berbasis AMD dengan memanfaatkan akselerasi NPU khusus tanpa harus mengandalkan server cloud.

Dukung Lebih dari 100 Aplikasi AI

Melalui API Unsloth Desktop, inferensi model AI secara lokal kini dapat diakses oleh lebih dari 100 aplikasi dan alur kerja agentic AI, termasuk OpenClaw, Cline, LangChain, dan GitHub Copilot. Dengan begitu, pengembang dapat mengintegrasikan kemampuan AI ke berbagai alat bantu kerja tanpa harus membangun infrastruktur terpisah.

Bacaan Lainnya

Lebih Hemat Daya dan Ringan di CPU/GPU

Salah satu keuntungan utama kolaborasi ini adalah efisiensi daya. Dengan memindahkan beban kerja inferensi yang didukung ke NPU, sistem dapat mengoptimalkan daya tahan baterai sekaligus membebaskan sumber daya CPU dan GPU untuk menjalankan aplikasi lain secara bersamaan.

Integrasi ini juga dimungkinkan lewat dukungan Lemonade dan FastFlowLM, yang menjembatani Unsloth Desktop dengan kemampuan akselerasi NPU khusus milik AMD. Kombinasi ini diharapkan mempermudah adopsi AI lokal di berbagai perangkat berbasis chip AMD ke depannya.

Sumber: AMD dan Unsloth.

Pos terkait

Tinggalkan Balasan