Kasım ayında hayatımıza giren ve hem kendi başında hem de birçok hizmete eklenerek hayatımızda kalmaya devam eden ChatGPT, kaynak tüketimi konusunda çok da başarılı değil üzere görünüyor. Yapılan bir araştırmaya nazaran ChatGPT, bilhassa su tüketimi konusunda soru işaretleri oluşturuyor. ChatGPT’nin bitmeye susuzluğu
Kaliforniya Üniversitesi’nden araştırmacı Shaolei Ren’e nazaran ChatGPT ve gibisi LLM’ler, kullanıcıların sorduğu her 20 ila 50 istem yahut soru için 500 mililitreye kadar su kullanıyor. Arxiv’de yayınlanan bir makalede araştırmacı, 500 ml’nin çok fazla görünmeyebileceğini, lakin ChatGPT’nin global olarak kullanıcılar tarafından bir ortada kullanılmasıyla su kullanımının muazzam olduğunu belirtti. Ağustos ayında ChatGPT’yi ziyaret eden tekil kişi sayısı 180,5 milyon kişiydi. Toplam ziyaretçi sayısı ise 1,43 milyar. Öte yandan GPT-3 modelinin eğitiminde kullanılan su miktarınınsa 700.000 litre olduğu evvelki aylarda raporlanmıştı.
Bu araştırmanın doğrulaması da aslında Microsoft tarafından sağlanıyor (Microsoft, ChatGPT yaratıcısı OpenAI’ın en büyük yatırımcısı pozisyonunda.) Microsoft’un 2022 etraf raporundaki su artışının birçoklarının yapay zekadan kaynaklandığı belirtiliyor. Microsoft’un su tüketimi 2022’de yüzde 34 artarak 6,4 milyar litreye yükseldi. Microsoft ise bu sorunu kabul ettiğini ve güç kullanımı ile karbon ayak izini ölçmenin yollarını araştırdığını söyledi. Yazılım devi dahili olarak da ChatGPT (GPT-4, 3,5 vb.) üzere büyük lisan modellerini (LLM) daha az güç ağır hale getirmek için çalışıyor.
Microsoft, 2030 yılına kadar karbon negatif, su olumlu ve sıfır atık gayelerine ulaşmayı planlıyor. Bununla birlikte OpenAI da su kullanımı problemini da kabul etti ve LLM’leri daha güç verimli hale getirmenin yollarını aradığını söyledi. LLM’lere güç sağlamak için kullanılan su ölçüsü hayli şaşırtan olsa da, bu çağdaş LLM’lerin o kadar da eski olmadığını, hasebiyle vakit içinde su ve güç kullanımını azaltmak için sistemler geliştirilebileceğini belirtmek gerek.
