Yapay zeka taklitçiliği teknoloji liderlerinin avantajını eritiyor

Estonya'nın kamu yayıncısı ERR'de yayımlanan bir teknik yorumda, yapay zeka alanında küçük modellerin büyük modelleri taklit ederek öğrenmesinin, teknoloji liderlerinin pazar üstünlüğünü hızla azalttığı değerlendirmesi yapıldı. Yorumun yazarı Kristjan Port, Japonya'daki geleneksel çıraklık kültüründen yola çıkarak yapay zekadaki 'damıtma' (distillation) yöntemini ele aldı.

Port'un aktardığına göre, Japon kültüründe 'mite nusumu' yani 'bak ve çal' anlayışı, bir zanaatkârın (shokunin) yanında yıllarca sabırla çalışmayı, disiplini ve hiyerarşiye saygıyı gerektiriyor. Çıraklık süreci 10 ila 15 yıl sürebiliyor ve gerçek ustalık ancak yaşam boyu sürüyor. Bu süreçte çırak, ustasını dikkatle izleyerek kendi temelini sağlamlaştırıyor.

Damıtma yöntemi maliyetleri düşürüyor

Yazıya göre bu ilke, yapay zeka çağında yeni bir anlam kazanıyor. En iyi yapay zeka modellerinin eğitilmesi yüz milyonlarca dolar ile binlerce özel çip gerektiren bir altyapı ve aylarca süren çalışma gerektiriyor. Ancak küçük bir model, ustanın binlerce soruya verdiği yanıtları dikkatle izleyerek bu yeteneklerin önemli bir kısmını çok daha düşük maliyetle edinebiliyor. Yapay zeka literatüründe 'damıtma' olarak adlandırılan bu yöntem, sıradan dizüstü bilgisayarlarda ve telefonlarda çalışabilen kompakt modeller üretilmesini sağlıyor.

Port, damıtmanın biçimsel olarak matematiksel bir öğrenme tekniği olduğunu, ancak hukuki sorunun modelin hangi koşullarda ve ne amaçla kullanıldığından kaynaklandığını belirtiyor. Büyük yapay zeka geliştiricilerinin kullanım şartları, hizmetlerinin çıktılarıyla rakip modellerin eğitilmesini ve geliştirilmesini yasaklıyor. Buna rağmen bu tür uygulamaların yaygın olduğu ifade ediliyor.

DeepSeek tartışması ve rekabetin geleceği

Yazıda, ABD'nin en gelişmiş yapay zeka çipleri konusunda Çin'e uyguladığı ambargoya rağmen, 2024 yılında Çin merkezli DeepSeek'in güçlü ve açık ağırlıklı akıl yürütme modelleriyle dünyayı şaşırttığı hatırlatılıyor. Büyük yatırımlar yapan OpenAI ve Microsoft'un bu beklenmedik gelişmeyi, kendi akıl yürütme modellerinin izinsiz ve geniş çaplı damıtılmasına bağladığı aktarılıyor. Google ile OpenAI'ın da karşılıklı olarak birbirini damıtmayla suçladığı belirtiliyor.

Port'a göre öncü model sahiplerinin damıtmayı tamamen engellemesi mümkün değil. Çünkü hizmetlerin ekonomik değeri erişilebilirliğe bağlı; bilginin satışı açıklık gerektirirken, korunması ise kapalılık gerektiriyor. Bu nedenle yapay zeka geliştiricileriyle damıtıcılar arasında sürekli bir kedi-fare oyunu yaşanıyor.

Yazıda, azalan maliyetlerin bir teknoloji liderinin tekel avantajının ömrünü kısalttığı vurgulanıyor. Örneğin belirli bir yeteneği geliştirmek için 10 milyar dolar harcayan bir şirketin ardından, aynı yeteneği yeterince gözlemleyen bir başka şirketin çok daha ucuza benzer sonuçlar elde edebildiği, üçüncü bir şirketin ise ikincisini izleyerek daha da ucuza öğrendiği belirtiliyor.