Akamai Technologies meluncurkan implementasi pertama desain referensi NVIDIA AI Grid dengan mengintegrasikan infrastruktur AI milik NVIDIA ke dalam jaringan distribusi global Akamai. Langkah ini ditujukan untuk menggeser fokus industri dari komputasi AI yang terpusat pada “pabrik AI” menuju sistem inferensi yang terdistribusi secara global.
Melalui pengembangan Akamai Inference Cloud, perusahaan mulai mengoperasikan ribuan unit GPU NVIDIA RTX PRO 6000 Blackwell Server Edition. Integrasi ini diklaim memungkinkan perusahaan menjalankan AI berbasis agen dan AI fisik dengan kecepatan respons mendekati komputasi lokal, namun tetap memanfaatkan skala jaringan web global. Pendekatan tersebut ditujukan untuk menjawab tantangan latensi yang selama ini menjadi hambatan utama dalam penerapan AI real-time.
Chief Operating Officer sekaligus General Manager Cloud Technology Group Akamai, Adam Karon, mengatakan infrastruktur terpusat masih penting untuk pelatihan model dasar. Namun, menurutnya kebutuhan video real-time dan AI fisik menuntut proses inferensi dilakukan lebih dekat ke titik kontak pengguna. “Orkestrasi cerdas AI Grid kami memberikan cara bagi pabrik AI untuk memperluas inferensi ke luar—memanfaatkan arsitektur terdistribusi yang sama seperti yang telah merevolusi pengiriman konten untuk mengarahkan beban kerja AI ke 4.400 lokasi, dengan biaya yang tepat, pada waktu yang tepat,” ujar Karon dalam keterangannya, Kamis (19/3/2026).
Salah satu elemen utama dalam arsitektur AI Grid ini adalah sistem orkestrator cerdas yang berfungsi sebagai perantara permintaan AI secara real-time. Sistem tersebut diklaim mampu mengoptimalkan “tokenomics” atau efisiensi ekonomi pemrosesan data AI, dengan menekan biaya per token, mempercepat time to first token, dan meningkatkan throughput.
Akamai menyebut integrasi ini memberi peluang bagi perusahaan untuk mengakses model-model AI yang telah disesuaikan melalui jangkauan edge global. Hal itu diposisikan penting untuk beban kerja AI skala kecil yang membutuhkan efisiensi biaya tinggi. Infrastruktur ini juga didukung ekosistem sumber terbuka dengan kuota lalu lintas data keluar yang besar, yang disebut dapat memudahkan operasional AI intensif data dalam skala besar.
Penerapan teknologi tersebut mulai diarahkan ke sejumlah sektor. Di industri gim, studio disebut dapat menghadirkan interaksi karakter non-pemain (NPC) berbasis AI dengan latensi di bawah 50 milidetik. Di sektor finansial, jaringan ini dimanfaatkan untuk deteksi penipuan dan pemasaran personalisasi instan saat nasabah melakukan login. Sementara di media dan ritel, teknologi ini disebut memungkinkan sulih suara konten secara real-time serta penerapan AI di dalam toko untuk meningkatkan produktivitas titik penjualan.
Global VP Business Development Telco NVIDIA, Chris Penrose, menilai kehadiran NVIDIA AI Grid di jaringan Akamai menjadi jembatan penting bagi masa depan AI generatif dan otonom. Menurutnya, kecerdasan buatan dapat diterapkan langsung pada sumber data untuk membuka peluang bagi gelombang baru aplikasi real-time.
Seiring pergeseran beban kerja dari pelatihan ke inferensi, pendekatan AI terpusat dinilai menghadapi kendala skalabilitas. Akamai memosisikan strategi distribusi daya komputasi dari core ke edge sebagai solusi jangka panjang yang memungkinkan penerapan agen AI yang peka konteks dan responsif adaptif.
Saat ini, Akamai Inference Cloud telah tersedia bagi pelanggan korporat yang memenuhi syarat. Akamai juga dilaporkan telah mengamankan perjanjian layanan senilai USD 200 juta untuk pengoperasian klaster GPU di jaringan edge perkotaan, yang disebut mencerminkan kepercayaan pasar terhadap model AI terdistribusi.
