PASUNDAN EKSPRES – Boomingnya Layanan AI membuat GPU H100 juga A100 jadi banyak di cari dan membuat stoknya menjadi langka. Tetapi ada seseorang pengguna dari Reddit yang memodifikasi AMD Ryzen 5 4600G agar dapat beroperasi selayaknya Chip AI Nvidia tersebut.
Modifikasi AMD Ryzen 5 4600G
Pengguna dari Reddit tersebut bernama chain-77. Dia memodifikasi Ryzen 5 4600G, sebuah accelerated processing unit (APU) AMD, untuk dapat mengolah komputasi dari AI. Pada dasarnya, dia “memerintahkan” Linux untuk mengenali APU ini sebagai GPU dengan RAM 16 GB.
Tentunya untuk performanya sangat jauh berbeda di bandingkan chip yang memang di khususkan untuk AI, terutama pada sisi CPU. Tetapi komputasi AI ini lebih banyak mengutamakan memori, dan di sinilah APU memiliki keunggulan karena dapat mengalokasikan RAM secara bebas.
Chain-77 mengalokasikan setengah RAM-nya yang berkapasitas 32 GB ke APU, yakni 16 GB. Sebenarnya, di beberapa Motherboard tertentu, kapasitas yang di alokasikan dapat lebih besar, tapi tak di uji coba oleh chain-77, demikian yang telah di lansir dari Techspot, pada hari Selasa 22 Agustus 2023.
Dengan modifikasi tersebut, chain-77 dapat membuat sistem AI (rakitan) yang mendukung AMD ROC dan dapat menjalankan Pytorch juga Tensorflow. Pada saat di jajal di Stable Diffusion, 4600G dapat menghasilkan gambar dengan 50-step 512×512 Pixel dengan waktu yang kurang dari 2 menit.
Fastchat, MiniGPT 4, dan Whisper pun dapat di operasikan, tapi APU tersebut kesulitan beroperasi pada LLaMA. Untuk opsi lain untuk keperluan tersebut yakni Ryzen 5 5600G yang lebih baru.
Perlu di ketahui, APU 4600G ini di hargai hanya 95 USD juga hanya menarik daya sekitar 0.35 KWh setiap hatinya. Untuk perbandingan chip khusus AI seperti H100 pada saat ini di hargai sebesar 25 ribu USD hingga 30 ribu USD, sementara untuk chip lain dengan skala yang lebih kecil harganya dapat mencapai ratusan ribu dolar.
Sebenarnya telah di beritakan, bahwa Nvidia di sebut telah mendapatkan keuntungan yang sangat besar dari setiap H100 yang mereka jual, sampai mencapai 1000 persen.
Baca juga: Inilah 8 Warna Baru Scoopy 2023, yang Bikin Kamu Makin Stylish
Untuk informasi, H100 merupakan GPU data Center yang sudah di jadikan akselerator untuk AI. Dan GPU tersebut kini menjadi incaran banyak perusahaan, Startup, juga siapa saja yang ingin menggarap data center AI. Bahkan stoknya saja sudah mulai langka.
Sudah menjadi incaran para konsumen, bahkan kabarnya uang yang di raup Nvidia dari setiap terjualnya H100 sangat besar. Menurut Tae Kim, penulis dari teknologi di Barron, Nvidia hanya keluarkan dana sebesar 3.320 USD pada saat memproduksi chip H100. (FHL)
