Akamai Technologies resmi mengintegrasikan teknologi Nvidia AI Grid ke dalam infrastrukturnya, memungkinkan distribusi komputasi kecerdasan buatan (AI) hingga ke ribuan titik edge di berbagai wilayah dunia. Integrasi ini menjadi bagian dari pengembangan platform Akamai Inference Cloud yang sebelumnya telah diperkenalkan.
Melalui langkah tersebut, Akamai menyatakan menjadi perusahaan pertama yang mengimplementasikan desain referensi Nvidia AI Grid dalam skala global. Beban kerja AI, khususnya inferensi, akan disebarkan ke lebih dari 4.400 lokasi edge, serta ke pusat data regional dan inti, dengan tujuan menyeimbangkan latensi, biaya, dan performa pemrosesan.
Chief Operating Officer Akamai, Adam Karon, menilai model infrastruktur AI yang terpusat tidak lagi memadai untuk kebutuhan aplikasi modern. “Orkestrasi cerdas AI Grid kami memberikan cara bagi pabrik AI untuk memperluas inferensi ke luar, memanfaatkan arsitektur terdistribusi yang sama seperti yang telah merevolusi pengiriman konten untuk mengarahkan beban kerja AI ke 4.400 lokasi, dengan biaya yang tepat, pada waktu yang tepat,” ujar Karon.
Dalam implementasinya, Akamai mengoperasikan ribuan unit GPU Nvidia RTX Pro 6000 Blackwell Server Edition. Infrastruktur ini dirancang untuk menangani beragam kebutuhan AI, mulai dari model bahasa besar hingga inferensi multimodal. GPU tersebut melengkapi jaringan edge Akamai sehingga perusahaan dapat menawarkan kombinasi komputasi terpusat berdaya tinggi dan pemrosesan yang lebih dekat dengan pengguna.
Akamai menjelaskan, sisi edge akan menangani permintaan yang membutuhkan latensi rendah. Sementara itu, beban kerja yang lebih berat—seperti pelatihan model dan pemrosesan lanjutan—tetap dilakukan di pusat data inti.
Perusahaan menekankan bahwa inti dari AI Grid adalah orkestrator cerdas yang mengatur distribusi beban kerja secara real-time. Sistem ini mengoptimalkan “tokenomics”, yakni efisiensi biaya per token, waktu respons, dan throughput. Dengan mekanisme seperti caching semantik dan routing cerdas, permintaan AI diarahkan ke sumber daya yang paling sesuai: beban kerja ringan dapat dijalankan di edge, sedangkan tugas yang lebih berat dialokasikan ke GPU kelas tinggi.
Pendekatan ini diklaim dapat menekan biaya operasional sekaligus meningkatkan performa layanan AI, terutama untuk aplikasi berskala besar. Akamai juga mencatat adopsi awal platform tersebut cukup tinggi di sejumlah sektor yang membutuhkan respons cepat.
Di industri game, teknologi ini digunakan untuk menghadirkan interaksi karakter non-pemain (NPC) berbasis AI secara real-time dengan latensi di bawah 50 milidetik. Di sektor keuangan, jaringan ini dimanfaatkan untuk deteksi penipuan dan personalisasi layanan saat pengguna baru masuk ke aplikasi. Sementara di industri media, penyiar memakai teknologi tersebut untuk proses transkoding dan dubbing konten secara langsung. Penggunaan juga mulai meluas ke sektor ritel, terutama untuk aplikasi AI di dalam toko dan sistem kasir berbasis kecerdasan buatan.
Akamai menilai gelombang pertama infrastruktur AI didominasi pusat data besar yang terpusat dan berfokus pada pelatihan model. Namun, seiring meningkatnya kebutuhan inferensi dan aplikasi berbasis AI agen, pendekatan tersebut dinilai mulai menghadapi keterbatasan. Distribusi komputasi ke edge dipandang sebagai cara untuk mengatasi kendala latensi dan skalabilitas, sekaligus meningkatkan pengalaman pengguna.
Platform Akamai Inference Cloud saat ini disebut telah tersedia bagi pelanggan korporat tertentu. Akamai juga mengungkap telah mengantongi kontrak layanan senilai 200 juta dolar AS untuk periode empat tahun terkait penyediaan klaster GPU dalam infrastruktur AI edge.
