3 April 2026 – Seiring perkembangan tersebut, MLCommons—konsorsium di balik benchmark standar industri MLPerf—telah mengembangkan MLPerf Endpoints, sebuah rangkaian benchmark inferensi AI baru yang berfokus pada layanan generative AI (genAI).
Menyadari pentingnya : I Benchmarking: AMD and MLPerf Endpoints
Lanskap evaluasi performa generative AI sedang mengalami perubahan penting. Fokusnya kini bergeser dari sekadar performa hardware menjadi evaluasi dari perspektif penyedia layanan. Meskipun pengukuran throughput token GPU masih penting, kemampuan menyajikan token tersebut kepada pelanggan kini menjadi prioritas utama. Infrastruktur juga berkembang dari fokus pada kerangka kerja individual ke layanan terkelola yang diberikan melalui inisiatif ini. AMD telah terlibat sejak hari pertama, membantu mendefinisikan beban kerja, aturan, dan infrastruktur untuk cara baru evaluasi kinerja. MLPerf Endpoints menghadirkan berbagai fitur baru termasuk arsitektur berbasis API dan pengiriman bergulir yang memungkinkan benchmarking secepat pembaruan software.
Inilah alasan AMD turut memimpin MLPerf Endpoints. Sebagai salah satu dari lima kolaborator awal yang menyediakan data endpoint pertama, AMD membantu membentuk inisiatif ini karena meyakini bahwa generasi berikutnya dari benchmark AI harus terbuka, dikelola oleh komunitas, dan berlandaskan pada penerapan dunia nyata. Bagi AMD, kepemimpinan dalam AI bukan hanya soal performa tinggi, tetapi juga tentang berkontribusi sejak awal, mendukung standar yang penting, dan mendorong model benchmarking yang transparan, partisipatif, serta terpercaya dalam jangka panjang.
“AMD telah lama mendukung standar terbuka dan benchmarking berbasis komunitas. Sebagai anggota pendiri MLCommons dan peserta rutin dalam MLPerf Training dan Inference, kami percaya evaluasi yang transparan memberikan manfaat bagi seluruh ekosistem. MLPerf Endpoints memperluas semangat kolaboratif tersebut ke layanan generative AI, dan AMD bangga mendukung inisiatif ini.” – Emad Barsoum, Corporate VP, AMD.
AMD juga membawa kredibilitas tambahan ke MLPerf Endpoints melalui komitmennya terhadap keterbukaan, yang sudah terlihat dalam tumpukan software AMD ROCm™. ROCm menyediakan fondasi terbuka untuk pengembangan dan penerapan AI, yang dirancang untuk mendukung kolaborasi ekosistem, transparansi, dan kompatibilitas luas pada software. AMD juga menerapkan prinsip yang sama dalam benchmarking dengan mempublikasikan panduan reproduksibilitas untuk seluruh submission MLPerf Inference dan Training menggunakan ROCm open-source dan framework AI open-source. Partisipasi AMD dalam MLPerf Endpoints merupakan kelanjutan dari komitmen tersebut terhadap perangkat lunak terbuka, benchmarking transparan, dan kemajuan komunitas.
MLPerf mendapatkan kepercayaan industri karena MLCommons membangunnya dengan evaluasi yang adil, representatif, dan dapat direproduksi melalui proses berbasis komunitas. Suite benchmark-nya ditentukan oleh kelompok kerja yang terdiri dari para ahli, sehingga standar ini dibentuk melalui proses terbuka industri, tidak hanya pada satu vendor.
“MLPerf Endpoints mengukur performa AI sebagaimana dialami pelanggan secara nyata—melalui endpoint API langsung, dengan hasil yang dihasilkan secara berkelanjutan menggunakan metode terpercaya dari MLPerf Inference. AMD membantu kami membangunnya sejak awal, dan kesediaan untuk menggunakan infrastruktur produksi nyata dalam benchmark inilah yang menjadikan MLPerf sebagai standar industri yang terpercaya.” – David Kanter, Co-founder MLCommons, Head of MLPerf.
Perbedaan ini menjadi semakin penting. Dalam lanskap AI yang bergerak cepat, industri membutuhkan benchmark yang tidak hanya relevan secara teknis tetapi juga dibentuk melalui partisipasi komunitas yang luas. MLPerf Endpoints menghadirkan dimensi tersebut melalui pengelolaan netral oleh organisasi nonprofit, pengembangan oleh kelompok kerja formal, serta model tata kelola yang memberi anggota suara dalam evolusi benchmark. Bagi AMD, pendekatan berbasis komunitas ini penting karena membantu menciptakan standar yang dapat ditinjau, dipengaruhi, dan dipercaya oleh seluruh ekosistem dalam jangka panjang.
MLPerf Endpoints mencerminkan prinsip yang selama ini didukung AMD di seluruh tumpukan AI: keterbukaan, transparansi, dan kemajuan berbasis komunitas. Dengan mengukur GenAI sebagaimana benar-benar digunakan—melalui API dan layanan produksi—benchmark ini memberikan gambaran performa yang lebih realistis dibandingkan model evaluasi tertutup yang dikendalikan satu organisasi serta menawarkan transparansi terbatas kedalam metodologi atau tata kelola. Dengan kerangka kerja berbasis API, pelaporan berbasis Pareto, dan submission berkelanjutan, MLPerf Endpoints menawarkan pendekatan yang lebih terbuka dan praktis untuk mengevaluasi sistem GenAI modern, sekaligus memperkuat komitmen AMD terhadap inovasi terbuka dan kolaborasi industri.
Seiring AI semakin menjadi layanan, industri membutuhkan benchmark yang realistis, transparan, dan dikelola secara terbuka. Hal ini penting karena metodologi benchmark semakin memengaruhi bagaimana infrastruktur AI dievaluasi, dipilih, dan dibeli. Dengan membantu memimpin MLPerf Endpoints, AMD menyampaikan pesan yang jelas: masa depan AI harus ditentukan oleh kombinasi performa canggih dan standar terbuka berbasis komunitas. AMD berharap dapat terus berkontribusi dalam pengembangan benchmark ini serta mempublikasikan hasil pada GPU AMD Instinct™ seiring kemajuan inisiatif tersebut.
