Yapay zeka sistemlerinin elektrik tüketimi hızla artıyor. Yeni bir rapor, en büyük dil modellerinden biri olan ChatGPT için gerekli yıllık elektrik miktarının, ABD’deki elektrikli araçların %95’ini şarj edebileceğini ya da Finlandiya veya Belçika’ya bir gün boyunca elektrik enerjisi sağlayabileceğini ortaya koydu.
Yaklaşık iki yıl önce piyasaya sürülmesinden bu yana, OpenAI’nin ChatGPT’si hızla halkın dikkatini çekti ve sadece iki ay içinde tahmini 100 milyon aylık kullanıcıya ulaştı. Ancak BestBrokers’ın yeni raporuna göre, deneme taslağı hazırlamaktan karmaşık matematik problemlerini çözmeye ve kod yazmaya kadar uzanan yetenekleri etkileyici olsa da, ChatGPT’nin yüksek bir enerji maliyeti var.
Her bir ChatGPT araması tahmini olarak 2,9 Wh elektrik tüketiyor, bu da standart bir Google aramasından yaklaşık on kat daha fazladır.
ChatGPT gibi bir yapay zeka modeline bir soru göndermek “çıkarım” olarak bilinir. Enerji tüketimi sorgu uzunluğu, kullanıcı sayısı ve modelin ne kadar verimli çalıştığı gibi birçok değişkene bağlıdır.
Her ChatGPT sorgusu 0.04 cent maliyete sahip
Firmanın ekibi, yalnızca yanıt üretmek için yıllık toplam elektrik kullanımını kabaca hesapladı. ChatGPT 78 milyar soruyu işlemek için her yıl 226,8 GWh tüketiyor. Bu miktar, her biri ortalama 72,4 kWh batarya kapasitesine sahip yaklaşık 3,13 milyon elektrikli aracı tamamen şarj etmeye yetiyor. Bu da 2023 yılı sonunda ABD yollarındaki elektrikli araçların %95’ine denk geliyor.
Başka bir deyişle, taleplerin karşılanması için harcanan bu kadar elektrik, bir yıl boyunca ülkedeki 21.602 konuta ya da toplamın %0,02’sine güç sağlayabilir. Yıllık tüketimin maliyeti ise 29.7 milyon ABD Doları ya da sorgu başına 0.04 sentin biraz altındadır.
ChatGPT’nin soruları yanıtlamak için bir yılda kullandığı enerji, her biri 13 Wh pil kapasitesine sahip 47,9 milyon iPhone’u bir yıl boyunca her gün 15 şarj edebilir.
Hesaplamalara göre, bu büyük yapay zeka her gün 200 milyondan fazla kullanıcı sorgusunu yanıtlamak için 621.4 MWh elektrik kullanıyor. Karşılaştırmak gerekirse, bu miktar ortalama bir ABD hanesinin günlük enerji tüketiminden 21 bin kat daha fazladır.
Araştırmacılar, ChatGPT’nin komutları işlemek için harcadığı yıllık enerji tüketiminin Finlandiya, İrlanda ve Belçika’nın tamamına bir gün boyunca elektrik sağlayabileceğini belirtti.
GPT-3’ü eğitmek için 62,3 GWh gerekti
Büyük dil modellerini veya LLM’leri geliştirmek de oldukça enerji yoğun bir süreçtir. Yapay zeka modeli büyük miktarda veri ve örneği analiz ederek öğrenir. Bu işlem birkaç dakikadan birkaç aya kadar sürebilir. Eğitim boyunca, büyük veri kümelerini işlemek için tasarlanmış elektronik çipler olan CPU’lar ve GPU’lar durmaksızın çalışır ve önemli miktarda enerji tüketir.
Örneğin, 175 milyar parametreye sahip OpenAI’nin GPT-3 modelinin eğitimi yaklaşık 34 gün sürdü ve 1.3 GWh civarında elektrik kullandı.
Ancak modeller geliştikçe ve daha karmaşık hale geldikçe, enerji talepleri de artar. Bir trilyondan fazla parametreye sahip olan GPT-4 modelinin eğitimi, yaklaşık 100 gün sürdü ve 62.3 GWh elektrik tüketti.
Örneğin, OpenAI’nin GPT-3’ünü 175 milyar parametreyle eğitmek yaklaşık 34 gün sürdü ve yaklaşık 1,3 GWh elektrik kullandı.
Ancak modeller geliştikçe ve daha karmaşık hale geldikçe, enerji talepleri de artıyor. Bir trilyondan fazla parametreye sahip GPT-4 modelinin eğitimi 100 gün boyunca yaklaşık 62,3 GWh elektrik tüketti.
