Tek bir ChatGPT sorgusu ne kadar enerji tüketiyor

OpenAI CEO’su Sam Altman’ın geçtiğimiz günlerde “ortalama bir ChatGPT sorgusunun bir fırının bir saniyede harcadığına eşdeğer enerji tükettiği” yönündeki açıklaması, yapay zekanın çevresel etkisini yeniden gündeme getirdi.

Ancak uzmanlar ve yeni bilimsel çalışmalar, bu sorunun cevabının çok daha karmaşık olduğunu ve “ortalama” bir değerin yanıltıcı olabileceğini gösteriyor.

ENERJİ TÜKETİMİNİN NEDENİ: MİLYARLARCA PARAMETRE

Büyük dil modellerinin (LLM) yüksek enerji tüketiminin temelinde, sahip oldukları devasa sayıdaki parametreler yatıyor.

Örneğin, GPT-4’ün bir trilyondan fazla parametreye sahip olduğu tahmin ediliyor. Bu parametreler, modelin verilerdeki desenleri öğrenmesini sağlar ve dünya çapındaki devasa veri merkezlerinde, GPU adı verilen binlerce güçlü çip üzerinde çalışır.

TÜM YAPAY ZEKALAR EŞİT DEĞİL: 50 KATA VARAN FARK VAR

Haziran ayında yayınlanan ve 14 farklı açık kaynaklı yapay zeka modelini inceleyen bir çalışma, modeller arasındaki enerji tüketimi farkının devasa olduğunu ortaya koydu.

Bulgulara göre, bazı modeller diğerlerinden 50 kata kadar daha fazla karbondioksit emisyonuna neden olabiliyor.

Özellikle karmaşık akıl yürütme gerektiren görevler için tasarlanmış modeller, standart modellere göre çok daha fazla enerji tüketiyor.

KULLANICILAR ENERJİ TÜKETİMİNİ NASIL AZALTABİLİR

Yapay zekanın çevresel etkisini azaltmak için kullanıcıların da atabileceği adımlar bulunuyor.

Her görev için doğru modeli seçmek, yani basit bir soru için güç tüketen bir “akıl yürütme” modeli kullanmamak, önemli bir fark yaratabilir.

Uzmanlar ayrıca, sorgularda “lütfen” ve “teşekkür ederim” gibi ek kelimelerden kaçınılmasını öneriyor, çünkü bu ifadeler bile işlem yükünü ve dolayısıyla enerji maliyetini artırıyor.

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir