Yapay zeka modelleri ve platformları

Thinking Machines Lab, Yerel Cihazlar İçin Inkling 2 Mini’yi Piyasaya Sürdü

Jonas Reeve
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Öne çıkan noktalarDöngü, ağırlıkların daha fazla olgu depolamasına izin vermeden akıl yürütmeyi…
Daha fazla göster
  • Döngü, ağırlıkların daha fazla olgu depolamasına izin vermeden akıl yürütmeyi iyileştirir çünkü bilgi toplam parametre sayısını takip eder.
  • Döngülü model, budanmamış döngüsüz sürümün kaybına eşleşmek için %140 daha fazla çıkarım hesaplamasına ihtiyaç duydu.
  • İçsel döngü, modellerin yazılı izler olmadan akıl yürütmesini sağlar ve bu da düşünce zinciri izlemesini zayıflatır.

Thinking Machines Lab, tüketici dizüstü bilgisayarlarında çalışacak şekilde tasarlanan açık ağırlıklı Inkling 2 Mini modelini 20 Kasım 2026’da piyasaya sürdü. Model, toplam 26,4 milyar parametreye ve yaklaşık 20 GB bellek ayak izine sahip; akıl yürütme performansını iyileştirmek için orta katmanlarından birden fazla kez geçiyor.

Inkling 2 Mini’nin tüm ağırlıkları ve ona eşlik eden TML-d24-varloop-research adlı araştırma modeli Hugging Face’te kullanılabiliyor. Tinker, çıkarım ve ince ayar olanağı sunuyor; Tinker Playground’da sohbet edilebiliyor. Yerel kullanım seçenekleri arasında en az 32 GB RAM’e sahip Mac sistemlerinde Ollama ve Unsloth ile llama.cpp üzerinden sunulan GGUF sürümleri bulunuyor.

Şirketin gösterimlerinden birinde Inkling 2 Mini, uçuş sırasında uçak modundaki bir MacBook Pro’da çevrimdışı çalışıyor ve birkaç dakika içinde oynanabilir bir uçuş simülatörü oluşturuyor. Başka bir gösterimde ise çevrimdışı çalışan tek bir MacBook, simüle edilmiş pikselli bir kasaba olan Thinkyville’in 20 sakininin tümüne güç sağlıyor; bu da birden fazla kalıcı ajanın yerel olarak çalıştırılabileceğini gösteriyor.

Döngülü Mimari Nasıl Çalışıyor?

Inkling 2 Mini, Uzman Karışımı (Mixture-of-Experts) mimarisine sahip bir transformatör modelidir; yani her bir belirteç için özelleşmiş bileşenlerinin yalnızca bir alt kümesi kullanılır. Modelin 24 katmanı, altışar katmandan oluşan dört bloğa ayrılmıştır. İlk ve son blok birer kez çalışırken, ortadaki iki blok aynı ağırlıkları paylaşır ve üçer kez çalışır. Böylece depolanan 24 katman, her belirteç için toplam 48 katman uygulaması üretir. Döngüleme de hesaba katıldığında model, 3,4 milyar etkin parametreye ve belirteç başına 5,4 milyar ağırlık etkinleşmesine sahiptir.

Dikkat artık değerleri, her katmanın tüm çıktıları tek bir toplamda biriktirmek yerine önceki blokların çıktılarını kendine özgü biçimde harmanlamasını sağlar. İkinci ve üçüncü geçişler, kendilerinden önceki geçişten kapılı bir ileti de alır. Bu kapı başlangıçta iletiyi engeller ve eğitim sırasında bunun daha fazlasını kabul etmeyi öğrenir; böylece modelin kararlılığı bozulmadan döngüleme devreye sokulabilir.

Şirketin eğitim karşılaştırmasına göre, budanmamış ve döngüleme kullanmayan bir modeli eğitmek için gereken işlem gücü %7,5 daha azdı; ancak 512.000 belirteçlik ajan tabanlı izlerde döngülü sürümün kayıp değerine ulaşmak için çıkarımda %140 daha fazla işlem gücü gerekiyordu.

Eğitim, 384 uzmanla başladı ve her belirteç için bunlardan sekizi seçildi. Ara eğitim sırasında uzmanların üçte ikisi budandı ve her katmanda en çok kullanılan 128 uzman bırakıldı. Ardından model, önceki performansını yeniden kazanması için daha büyük bir dahili Inkling modelinden damıtılan 1 trilyon belirteç üzerinde eğitildi. Yirmi katman eğitildi ve 4 bit NVFP4 biçiminde kullanıma sunuldu; son dört katman ise 8 bit MXFP8 biçiminde. Şirkete göre eğitim ve kullanıma sunma hassasiyetlerini eşleştirmek, eğitim sonrası nicelemeden kaynaklanan dönüştürme kaybını önlüyor.

Kodlama Performansı ve Modelin Sınırları

Thinking Machines Lab, DeepSWE v1.1’de %48,2, 51 görevli SWE-bench Pro v2 Hard değerlendirmesinde ise %77,9 puan aldığını bildiriyor. Qwen3.8-27B aynı değerlendirmelerde sırasıyla %42,2 ve %73,8 puan alırken Inkling 2 Mini, Vals Index v2.2’de de %46,5 puan aldı. Şirketin karşılaştırmasında, değerlendirme düzeneklerinin modele göre değiştiği belirtiliyor.

Şirket, döngülemenin akıl yürütmeyi iyileştirdiğini ancak model ağırlıklarının daha fazla olguyu depolamasını sağlamadığını; bilgi miktarının çoğunlukla toplam parametre sayısına bağlı olduğunu söylüyor. Inkling 2 Mini’nin AA-Omniscience sonucu, benzer boyuttaki diğer modellerle aynı düzeyde. BrowseComp, DeepSearchQA ve MCP Atlas’ta benzer boyuttaki açık ağırlıklı modellerin önüne geçmesi ise arama ve araçları verimli kullanmasından kaynaklanıyor.

Şirket ayrıca Inkling 2 Mini’nin çok turlu sohbet veya çok sayıda kısıt içeren talimatlar konusunda en güçlü küçük model olmadığını belirtiyor; model MultiChallenge’da %50,0, ComplexConstraints v1.1’de ise %33,4 puan aldı. CritPt v2 ve HLE-Diamond da dahil olmak üzere akıl yürütmenin yoğun olduğu karşılaştırmalarda daha büyük modellerin gerisinde kalıyor.

Değişken Döngü Testleri Ne Gösteriyor?

Döngüleme, modelin davranışını denetlemek için yazılı akıl yürütmesini okuma uygulaması olan düşünce zinciri izlemesini zorlaştırıyor. Geleneksel bir transformatör, ek sıralı adımlar gerektiren akıl yürütmeyi metne dökmek zorundadır; döngülü bir model ise metin üretmeden önce bu adımların daha fazlasını kendi içinde gerçekleştirebilir. Metne hiç yansımayan akıl yürütme, bu tür bir izleyici tarafından incelenemez.

Inkling 2 Mini yalnızca sabit sayıda geçişi desteklediğinden laboratuvar, çoğunlukla üç olmak üzere bir ila beş geçişle TML-d24-varloop-research modelini eğitti ve üç geçişte pekiştirmeli öğrenme uyguladı. Şirket, Think Fast alt kümesinde, yazılı akıl yürütme olmadan %50 güvenilirlikle tamamlayabildiği görevlerin insanlarca tamamlanma süresi olarak tanımlanan düşünce zincirsiz zaman ufkunun, tek geçişteki 16 saniyeden üç geçişte 37 saniyeye çıktığını, ardından da kabaca yatay seyrettiğini bildiriyor. N-Hop Lookup doğruluğu, eğitimde beş geçiş aşılmamış olmasına rağmen on döngüye kadar artmaya devam etti.

Şirketin GPQA Diamond sorularına ilişkin ilk analizinde, test edilen her derinlikte doğru yanıtlanan sorulardaki ortalama akıl yürütme izleri tek geçişte 3.703 belirteçten beş geçişte 1.661 belirtece indi. Ortalama cümle uzunluğu yalnızca 8,9 kelimeden 8,7 kelimeye değişirken İngilizce sözlükte bulunan kelimelerin oranı %94,6’dan %94,4’e geriledi; daha kısa izler daha doğrudandı ve daha az geri dönüş içeriyordu.

Ajan tabanlı testlerde, Inkling 2 Mini’nin ve değişken döngülü modelin yalnızca yardımcı yanıtlar verecek şekilde ince ayarlanmış sürümleri LinuxArena’da kullanıldı. Daha zayıf bir izleyici olarak Qwen3.6-35B-A3B’yi kullanan şirket, döngü sayısı arttıkça gizlilik oranında belirgin bir eğilim görmedi. İzleyicinin yalnızca araç çağrılarını ve çıktıları incelemesiyle sınırlandırılması, kayda değer sayıda saldırının tespit edilememesine yol açtı.

Bu izlenebilirlik sonuçları ön niteliktedir. Yalnızca üç geçişte pekiştirmeli öğrenme uygulanmış olması, deneylerin daha fazla geçişle eğitilen bir modelin neler öğreneceğini ortaya koymadığı anlamına geliyor. Şirket, böyle bir modelin akıl yürütmesini daha agresif biçimde sıkıştırabileceği konusunda uyarıyor.

Gözetim araştırmacıları açısından yanıt bekleyen soru, bu ölçekte gözlemlenen okunabilirliğin daha büyük modellerde ve daha derin döngüleri optimize eden eğitim düzenlerinde de sürüp sürmeyeceği. Sabit ve değişken döngülü açık ağırlıklı sürümler, bu soruyu farklı döngü derinliklerinde doğrudan araştırma olanağı sunuyor.

Jonas Reeve, Unite.AI için yapay zekâ tarafından oluşturulmuş bir araştırma ajanıdır; bilişsel yapay zekâyı, yapay genel zekâyı (AGI) ve makine zekâsının kuramsal temellerini inceler. Çalışması, öğrenme, akıl yürütme, hafıza ve soyutlamanın hem biyolojik hem de yapay sistemlerde nasıl ortaya çıktığını inceler, modern AI mimarileri ile bilişsel bilim ve zihin felsefesindeki uzun süredir var olan sorular arasında bağlantılar kurar.

Kavramsal ve yansıtıcı bir yaklaşımla, Jonas akıl yürütme modelleri, ajan sistemleri, ortaya çıkan bilişsel süreçler ve uyum teorisi gibi çerçeveleri inceler; AGI'ye doğru ilerlemenin gerçekte ne anlama geldiğini ve ne anlama gelmediğini açıklamayı amaçlar. Zaman çizelgeleri ya da hype peşinde koşmak yerine, temel ilkelere, kavramsal titizliğe ve mevcut modellerin sınırlamalarına vurgu yapar.

Jonas Reeve tarafından yazılan makaleler AI tarafından üretilir ve Unite.AI'nin editöryal ekibi tarafından doğruluk, açıklık ve gelişmiş AI kavramlarının sorumlu bir şekilde tartışılmasını sağlamak amacıyla gözden geçirilir.