İçindekiler
Yaklaşık bir yıl önce kurulan Octen, yapay zeka ajanlarına yönelik arama hizmetini genişletti. Şirketin duyurusuna göre yeni model, web sayfalarını yaklaşık 10 milisaniyede buluyor; aylık 20 dolarlık abonelik sınırsız web araması ve görsel arama içeriyor.
Sürekli dış bilgiye başvuran asistanlar kuran kurumlar için vaat net: arama maliyetini ve gecikmesini düşürerek ajana daha fazla kaynak kontrol ettirmek. Ancak duyurudaki başlık rakamlarının bağlamı da önemli.
Pulse tam olarak ne yapıyor?
Octen Pulse, sayfa bulmaya özel bir model. Şirketin 28 Ekim'de yayınladığı teknik duyuruya göre API genel kullanıma açık. Yaklaşım, klasik arama motoru mantığından farklı: "üretken erişim" (generative retrieval) adı verilen yöntemde model, aday sayfaları sıralamak yerine doğrudan bir URL tablosundaki kimliği üretiyor. Böylece dil modelinin olmayan bir web adresi uydurması da engelleniyor.
4 milyar parametreli sürüm yaklaşık 201 milyon sayfayı kapsıyor. Yayınlanan API şartnamesine göre lite modu yaklaşık 10, standart mod yaklaşık 20 milisaniye sunucu tarafı medyan gecikme veriyor. Lite modu URL ve başlık döndürürken standart mod ek üst veri, isteğe bağlı pasaj veya sayfa içeriği sunuyor.
10 milisaniye ne anlama geliyor, ne anlama gelmiyor?
Buradaki 10 milisaniye, sunucu tarafındaki işlem süresi. Bir kurumsal uygulamadan çıkıp tamamlanmış yanıta kadar geçen toplam süre değil. Ağ gecikmesi, ek içerik indirme ve yanıtı üreten modelin çalışması bu sürenin dışında kalıyor.
Şirketin araştırma makalesi doğruluk tarafında da veri paylaşıyor: gezinti amaçlı trafikte doğru sayfayı ilk sıraya yerleştirme oranı yüzde 59,6; tıklama verisiyle güçlendirilmiş yoğun erişim temel çizgisinde bu oran yüzde 46,5. Aynı makale, seyrek ziyaret edilen sayfalarda gömme tabanlı erişimin avantajlı kaldığını da kabul ediyor. Yani Pulse, tanıdık hedeflere hızlı ulaşmak için güçlü; keşif gerektiren sorularda geniş erişim hâlâ gerekli.
Fiyatlandırma ve ticari sınırlar
Octen'in fiyat sayfasında aylık 20 dolarlık Standard plan sınırsız web araması ve ayda 1.000 görsel arama sunuyor. Aylık 100 dolarlık Plus planı görsel kotasını 5.000'e çıkarıyor ve Standard'a göre öncelik veriyor. Sınırsız plan web aramasını kapsıyor ve istekler kuyruğa alınabiliyor.
Dikkat edilmesi gereken nokta lisans tarafı: indirilebilir Pulse modeli ticari olmayan kısıtlar içeriyor. Bu, duyurudaki "açık kaynak" ifadesiyle aynı şey değil. Üretim ortamına taşımadan önce lisans metninin okunması gerekiyor.
Kimler için anlamlı?
Octen'in kurucusu ve CEO'su Kuan Zou, daha önce Alibaba Cloud'da yapay zeka araması ve Baidu'da kurumsal arama ekiplerini yönetti. Şirket, yatırımcılar arasında Square Peg ve Argor'u sayıyor; fon tutarını açıklamıyor. Hizmetin temmuz sonunda genel kullanıma açılmasından bu yana 5.000'den fazla geliştiricinin kaydolduğu belirtiliyor.
Zou'nun argümanı şu: makineler bir sorunun farklı yönlerini paralel araştırabiliyor, bu nedenle tekrar eden aramaların ekonomisi kritik hale geliyor. Ayrıca ajana özetlenmiş yanıt yerine kendi yorumlayacağı kaynak metni vermeyi tercih ediyor; çünkü özet üstüne özet kurgusu hata biriktiriyor.
Rakip tabloda nereye oturuyor?
Pazar, Exa, Parallel, Brave ve Tavily gibi oyuncularla kalabalık. Octen'in ayrıştığı yer fiyat ve gecikme; eksik kaldığı yer ise kanıt kalitesi. Bir tedarik asistanının güncel şartname ile eski açıklamayı ayırması için özet değil, ham kanıt gerekiyor. Bu nedenle karar verirken üç metriği birlikte ölçmek gerekiyor: hedef sayfayı bulma isabeti, tamamlanan yanıt kalitesi ve toplam maliyet.
Arama maliyeti neden ajan bütçesinin parçası oldu?
Ajan mimarileri çok adımlı çalışıyor: plan yap, ara, oku, doğrula, tekrar ara. Her adımda yeni bir arama yapıldığında, arama başına maliyet doğrudan görev maliyetine dönüşüyor. Tek bir araştırma görevinde onlarca arama yapılabilmesi, "arama başına birkaç sent" ile "arama başına çok küçük bir birim maliyet" arasındaki farkı ciddi bir bütçe kalemine çeviriyor.
Bu nedenle sınırsız plan vaadi, yalnızca fiyat avantajı değil, ajana daha fazla doğrulama adımı yaptırma imkânı anlamına geliyor. Ancak sınırsız planın kuyruklama içerdiği unutulmamalı: yoğun saatlerde gecikme artarsa, üretim ortamında "10 milisaniye" vaadi karşılanmayabilir. Bu yüzden ölçümün kendi trafiğinizle yapılması gerekiyor.
Pratik değerlendirme kontrol listesi
Bir arama API'sini üretime almadan önce dört test yeterli oluyor: kendi sorgu setinizde ilk sonuç isabeti, yanıtın kaynak sayfayla tutarlılığı, p95 gecikme ve aylık toplam maliyet. Bu dört metrik, pazarlama duyurularındaki medyan değerlerden daha fazlasını söylüyor.