KAIST: AI Ajanları Chatbot’lardan 136 Kat Daha Fazla Enerji Tüketiyor

kaist araştırma ekibi, gerçek servis koşullarında AI ajanlarının güç tüketimini ölçen dünyanın ilk nicel analizini yayımladı. Otonom planlama ve harici araç kullanan ajanlar, geleneksel generative AI Q&A’ya kıyasla sorgu başına 136,5 kat daha fazla enerji tüketiyor. Yanıt süreleri 153,7 kata, GPU boşta kalma oranı ise %54,5’e kadar çıkabiliyor.

Ana Gelişme

70 milyar parametreli bir ajan (Reflexion/LATS, Llama-3.1-Instruct üzerinde) sorgu başına ortalama 348,41 Wh tüketiyor. Tek tur Q&A ile karşılaştırıldığında enerji çarpanı 136,5×. GPU’lar, harici araç çağrıları ve ağ beklemeleri sırasında runtime’ın %54,5’inde boşta kalıyor — verimlilik kaybının ana kaynağı bu.

Çalışma Şubat 2026’da IEEE HPCA konferansında sunuldu; kod açık kaynak olarak paylaşıldı. Profesör Minsoo Yoo, rekabetin “daha akıllı AI”dan “daha verimli AI”a kaydığını vurguladı.

Neden Önemli?

agent-energy-consumption, test-time-scaling’in gizli maliyetini ilk kez somut rakamlarla ortaya koyuyor. Geliştiriciler mimari seçim yaparken — agentic-ai vs single-turn Q&A — enerji ve altyapı maliyetini hesaba katmak zorunda kalacak.

Hipotez senaryo: günde 13,7 milyar ajan isteği varsayımıyla veri merkezi talebi 198,9 GW’a ulaşabilir — bu, ABD ortalama güç tüketiminin yaklaşık yarısı. Bu rakam tahmin değil, altyapı stres testi olarak çerçevelenmeli.

Teknik Detaylar

Enerji farkının mekanizması: iteratif tool-calling, çok adımlı reasoning ve harici sistem beklemeleri. GPU idle süresi, ajan mimarisinin verimlilik açısından en zayıf halkası. energy-efficiency-in-ai artık tasarım sonrası düşünce değil, mimari karar.

Bağlam

Türkiye ve AB’de veri merkezi yatırımları hızlanırken, ai-infrastructure planlamasında ajan workload’larının enerji profili kritik girdi haline geliyor. coding-agents ve ai-agents yaygınlaştıkça gpu-infrastructure kapasite planlaması yeniden hesaplanmalı.

Sonraki Adımlar

Araştırmacılar, ajan verimliliğini artıracak mimari optimizasyonları ve GPU kullanım oranını yükseltecek scheduling tekniklerini araştırmaya devam ediyor. Açık kaynak kod, sektörün kendi workload’larında benzer ölçümler yapmasına olanak tanıyor.


Kaynaklar