Techno.id - Di tengah era di mana artificial intelligence (AI) menjadi mainstream, Neural Processing Unit (NPU) kini menjadi pertimbangan penting saat pengguna membeli PC atau laptop generasi berikutnya. Tapi tahukah kamu perbedaan antara NPU dengan Graphics Processing Unit (GPU)? 

NPU

foto: techno.id/yani andriyansyah/copilot designer

NPU adalah prosesor khusus yang digunakan untuk mempercepat operasi jaringan saraf, termasuk tugas komputasi AI dan machine learning (ML). Ini mencakup pengoptimalan perangkat keras khusus yang membuatnya lebih berkinerja sambil tetap mencapai efisiensi energi yang tinggi.

NPU memiliki kemampuan pemrosesan paralel (mampu menjalankan beberapa operasi secara bersamaan), dan dengan pengoptimalan arsitektur perangkat keras, NPU dapat secara efisien melakukan tugas AI dan ML seperti inferensi dan pelatihan. NPU dapat digunakan untuk melakukan tugas AI yang berbeda, seperti pengenalan wajah, dan bahkan melatih sistem AI.

GPU

foto: techno.id/yani andriyansyah/copilot designer

GPU adalah prosesor khusus yang digunakan untuk mempercepat tugas grafis seperti pemrosesan dan rendering gambar atau video. Mirip dengan NPU, GPU mendukung pemrosesan paralel dan dapat melakukan triliunan operasi per detik.

Awalnya digunakan untuk mempercepat pemrosesan grafik dan tugas rendering seperti pengeditan gambar atau video dan permainan, GPU sekarang digunakan untuk berbagai tugas komputasi. Karena throughput-nya yang tinggi, GPU melakukan operasi intensif data seperti pemrosesan data skala besar dan perhitungan kompleks seperti penambangan mata uang kripto.

Untuk alasan yang sama, GPU juga digunakan untuk melatih jaringan saraf yang besar. Misalnya, perusahaan teknologi menggunakan GPU H-100 tingkat perusahaan Nvidia untuk melatih model bahasa besar (LLM) mereka.

GPU vs NPU

NPU vs GPU

foto: techno.id/yani andriyansyah/copilot designer

Perbedaan penting antara NPU dan GPU adalah bahwa yang pertama mempercepat beban kerja AI dan ML sedangkan yang kedua mempercepat tugas pemrosesan grafik dan rendering. Dengan kata lain, masing-masing adalah prosesor khusus untuk fungsi tertentu pada perangkat kamu.

Selain fungsi khususnya, GPU juga semakin banyak digunakan dalam tugas komputasi umum lainnya, termasuk melatih sistem AI dan inferensi pembelajaran mendalam. Tetapi jika GPU juga dapat digunakan untuk tugas AI atau ML, mengapa perusahaan repot-repot memiliki prosesor khusus untuk itu? Jawaban singkatnya adalah kinerja dan efisiensi.

Menggunakan prosesor khusus di komputer untuk tugas tertentu biasanya untuk mempercepat kinerja tugas yang disebut akselerasi perangkat keras. Ini membantu meningkatkan kinerja karena komponen yang berbeda dirancang untuk melakukan tugas tertentu dengan lebih efisien daripada menggunakan komponen tujuan umum seperti CPU untuk semuanya.

Hasilnya, akselerasi perangkat keras cukup standar pada PC modern. Misalnya, kamu akan menemukan GPU untuk pemrosesan grafik dan kartu suara untuk audio.

Kinerja GPU dan NPU diukur dalam hal berapa triliun operasi yang dapat dilakukan prosesor per detik. Ini biasanya dilambangkan dengan Operasi Tera (atau Triliun) Per Detik (TOPS). Misalnya, chip Snapdragon X Elite Qualcomm berkinerja hingga 45 TOPS (dari NPU saja), sedangkan GPU GeForce RTX 4090 NVIDIA memiliki lebih dari 1.300 TOPS.

GPU dapat terpisah dari CPU atau terintegrasi, dibangun ke dalam CPU. Sementara NPU diintegrasikan ke dalam CPU. Misalnya, prosesor Seri-A dan Seri-M Apple memiliki NPU yang disebut Apple Neural Engine yang terpasang di dalam CPU. Namun, beberapa NPU bersifat diskrit, seperti NPU resmi Raspberry Pi.

Kesimpulannya, NPU adalah prosesor yang mempercepat pemrosesan saraf, sedangkan GPU adalah prosesor khusus untuk pemrosesan grafik. Karena arsitektur pemrosesan paralelnya, keduanya dapat melakukan triliunan operasi per detik.

Meskipun NPU hanya dikhususkan untuk tugas AI dan ML, kasus penggunaan GPU telah berkembang dalam beberapa tahun terakhir di luar grafik. Mereka juga digunakan dalam aplikasi tujuan umum lainnya, terutama dalam operasi intensif data seperti melatih model AI dan menambang mata uang kripto.

(brl/red)