Tencent Hunyuan Hy-Memory-30B-A3B Yayınlandı: Uzun Vadeli Hafızayı Yazan Model
Yazar: KOZBA
İçindekiler
Tencent Hunyuan, uzun vadeli hafıza sistemlerinin "yazma yolu"nu yürütmek üzere geliştirdiği kompakt modeli Hy-Memory-30B-A3B'yi yayınladı. Toplam 30 milyar parametreli, yaklaşık 3 milyar aktif parametreyle çalışan model, hafıza çerçevelerinin içindeki genel amaçlı dil modelinin yerini doğrudan alıyor. Model; Mem0, MemOS ve Hy-Memory çerçevelerinde sohbet, çalışma ve kodlama senaryolarını kapsıyor.
Model ne yapıyor?
Bir ajanın uzun vadeli hafızası, konuşmalardan hangi bilginin saklanacağı, bunun ne kadar hassas temsil edileceği ve yeni kanıtlar geldiğinde kalıcı hafıza bankasının nasıl güncelleneceği sorularına dayanıyor. Hy-Memory-30B-A3B tam olarak bu kararları veren bir yazar modeli. Model kartına göre, eğitimde hiç görülmeyen bir çerçeve olan EverMemOS'a da doğrudan aktarılıyor.
İki aşamalı eğitim
Model, önce hafıza üzerinde politikada damıtma (Memory On-Policy Distillation, OPD), ardından atıflı hafıza pekiştirmeli öğrenmesi (Attributed Memory Reinforcement Learning) ile eğitiliyor. OPD, öğrencinin yazdığı durum zincirlerinde yoğun öğretmen gözetimi sağlıyor. Pekiştirmeli öğrenme aşamasında ise ortaya çıkan hafıza bankaları incelenip parça düzeyinde kredi atanıyor ve seçilen banka sonraki pencerelere taşınıyor.
Değerlendirme nasıl yapıldı?
Deney tasarımı yalnızca hafıza yazarını değiştiriyor: çerçeve sürümü, promptlar, erişim yapılandırması, cevap modeli ve hakem sabit tutuluyor. Her yazar kendi bankasını sıfırdan kuruyor, test örnekleri ve puanlama kuralları herkeste aynı; API'lerin izin verdiği ölçüde kod çözme ayarları da eşitleniyor. Hesaplama verimliliği için dört çerçeveli ana matristeki her kıyaslama sabit yüzde 20 alt örneklem üzerinde çalıştırılıyor. Her çerçeve puanı altı metriğin eşit ağırlıklı ortalaması: LoCoMo Judge, LongMemEval (LME), PersonaMem-v2, Travel SPS, Shopping PS ve Code Memory Bench (CMB).
Hafıza yazarı neden ayrı bir model?
Ajan çerçevelerinde hafıza yazma işi her konuşma turunda tekrarlanan bir görev. Bu işi büyük ve genel amaçlı bir modelle yapmak hem gecikme hem maliyet açısından yük getiriyor. Hy-Memory-30B-A3B, Mixture-of-Experts yapısıyla 30 milyar parametre barındırırken tur başına yaklaşık 3 milyar parametreyi aktive ediyor; yani kapasiteyi büyütürken aktif hesabı küçük tutuyor. Modelin, eğitimde hiç görmediği bir hafıza çerçevesinde de en yüksek puanı alması, yaklaşımın yalnızca belirli bir ürüne gömülü bir hile olmadığını gösteriyor.
Sonuçlar
Dört çerçevenin ortalamasında Hy-Memory-30B-A3B 55,49 puanla ilk sırada. Karşılaştırmada Claude Opus 5 54,62, DeepSeek V4.1 Flash 53,6, Hy3 51,63, Qwen3.6-35B-A3B 50,37 ve Qwen3-30B-A3B 44,37 puan alıyor. Çerçeve bazında tablo şöyle:
- Mem0: Hy-Memory 54,02 · Claude Opus 5 53,43 · DeepSeek V4.1 Flash 49,73
- Hy-Memory: Hy-Memory 60,55 · Claude Opus 5 60,53 · DeepSeek V4.1 Flash 60,20
- MemOS: Hy-Memory 50,51 · Claude Opus 5 50,50 · DeepSeek V4.1 Flash 49,17
- EverMemOS (eğitimde kullanılmadı): Hy-Memory 56,89 · DeepSeek V4.1 Flash 55,47 · Claude Opus 5 54,04
Detaylı tablolarda model, Mem0 çerçevesinde LongMemEval ve Travel metriklerinde, held-out EverMemOS çerçevesinde ise Code Memory Bench dahil birçok metrikte en yüksek puanı alıyor.
Nasıl çalıştırılır?
Model vLLM (v0.31.0 ile test edilmiş) üzerinden --served-model-name hy-memory ile servis edilip OpenAI uyumlu API'den çağrılabiliyor. Model kartındaki örnek, bir konuşmadan açık kullanıcı bilgilerini ve tercihlerini çıkarıp her hafızayı kısa, kendi başına anlaşılır bir ifade olarak yazmayı istiyor; çıkarım yapmaması ve bilgi uydurmaması özellikle belirtiliyor. Model, Apache-2.0 lisansıyla paylaşılıyor ve ağırlıkların yanında teknik rapor ile GitHub deposu da açık.
Model kartındaki örnek, çıkarım modunu no_think olarak ayarlıyor ve sıcaklığı sıfıra çekiyor. Hafıza yazma işinin yaratıcılık değil tutarlılık gerektiren bir görev olduğu düşünülürse bu tercih anlaşılır: modelin görevi, konuşmadan çıkarılabilen açık bilgiyi kısa ve kendi başına anlaşılır hafıza kayıtlarına dönüştürmek.
Neden önemli?
Ajanlar yaygınlaştıkça uzun vadeli hafıza, hem maliyet hem de tutarlılık açısından darboğaz haline geliyor. Hafıza yazma işini genel amaçlı ve pahalı bir modelden, o işe özel küçük bir modele devretmek, hafıza kalitesini korurken çıkarım maliyetini düşürme yolunda somut bir adım. Modelin eğitimde görmediği bir çerçeveye aktarılabilmesi ise yaklaşımın taşınabilirliğine işaret ediyor.