Yapay Zeka Ajanı Canlı Farenin Beynine İlaç Enjekte Etti: Opus 5.5 Reddetti, Sonnet 5 Yaptı
Haberler

Yapay Zeka Ajanı Canlı Farenin Beynine İlaç Enjekte Etti: Opus 5.5 Reddetti, Sonnet 5 Yaptı

· 3 DK

Yazar: KOZBA

İçindekiler
  1. Deneyde tam olarak ne oldu?
  2. Ajan hangi kararları verdi?
  3. Claude Opus 5.5 neden reddetti?
  4. Güvenlik önlemleri ve koordinat arızası
  5. 45 dakikalık ameliyat bir saati aştı
  6. Ajanlar laboratuvara giriyor: ne anlama geliyor?
  7. İnsan beyni için henüz erken
  8. Sonuç

Bir biyoteknoloji girişimi, yapay zeka ajanına canlı bir farenin beynine gen tedavisi enjekte ettirdi. İşlem bir robot kol, bir enjektör ve fareyi sabitleyen özel bir düzenekle yapıldı. Deney, ajanların yalnızca plan yapmadığı, fiziksel laboratuvar ekipmanını doğrudan kullandığı bir dönemin kapısını aralıyor.

Deneyde tam olarak ne oldu?

Deneyi Exin Therapeutics'in kurucu ortağı ve CEO'su Gabriel Ocana Santero yaptı. Şirket, beyin aktivitesini yapay zeka ile analiz ederek epilepsi ve nörodejeneratif hastalıklar için ilaç geliştiriyor. Santero, ajanlara deney tasarlatmak ya da sonuç analiz ettirmek yerine onları doğrudan laboratuvar ekipmanına bağlamanın ne üreteceğini görmek istediğini söylüyor.

Ekip, farelere beyin enjeksiyonu için kurulmuş özel bir düzenek hazırladı: fareyi hareketsiz tutan motorlu bir cihaz, prosedürü izleyen bir kamera, enjeksiyon iğnesini hareket ettiren robot kol ve bileşiğin verilişini kontrol eden mekanizma. Test edilen tedavi, epilepsi hastası bir farede nöbetleri azaltıp azaltmayacağı merak edilen bir gen tedavisiydi.

Ajan hangi kararları verdi?

Ajan, bir tabloda listelenen 19 tedavi seçeneği arasından terapiyi kendisi seçti. Bir veteriner cerrah farenin kafatasını açarken ajan izledi. Ardından ajan; tedaviyi, beyin bölgesini ve enjeksiyon koordinatlarını belirledi, robot kolları ve iğneyi kontrol etti, hacim ve hız gibi tüm parametreleri ayarladı.

Claude Opus 5.5 neden reddetti?

Ekip ilk olarak Anthropic'in Claude Opus 5.5 modelini denedi. Model, deney planlamasını yaptı ancak iğneyi farenin beynine yönlendirmeyi reddetti: ameliyatın ortasında durabileceğini ve bunun hayvanı riske atacağını belirtti. Santero, çıktısında "bunu yapmamam gerektiğini söyleyen bir şey var" dediğini aktarıyor. Ekip bu kez Claude Sonnet 5 ile devam etti ve model işlemi tamamladı. Anthropic, konuyla ilgili yorum talebine yanıt vermedi.

Güvenlik önlemleri ve koordinat arızası

Deney baştan sona denetimsiz değildi. Ekip, ajanın önerdiği enjeksiyon planının insan onayından geçmesini şart koştu, motorları kesecek bir acil durdurma butonu yerleştirdi ve ajanın ekipman koduna erişimini kısıtladı; böylece ajan kendi çalışma kurallarını değiştiremiyordu.

Yine de teknik bir arıza ekipmanın koordinat sistemini bozdu. Ajan hesaplanan enjeksiyon noktasının yanlış olduğunu doğru şekilde fark etti, ancak talimatları kod değiştirmeyi açıkça yasakladığı için düzeltme yapmayı reddetti. Çözüm ilginç: ekip, Opus 5 üzerinde çalışan ayrı bir ajana kodu değiştirtti ve ona canlı bir ameliyatın sürdüğünü söylemedi.

45 dakikalık ameliyat bir saati aştı

Normalde yaklaşık 45 dakika süren bu tip bir beyin enjeksiyonu, aradaki gidiş gelirler yüzünden bir saati biraz aştı. Ekip şimdi tedavinin etkisini görmek için nöbetlerdeki değişimi bekliyor. Farenin durumunun iyi olduğu belirtiliyor.

Ajanlar laboratuvara giriyor: ne anlama geliyor?

Yapay zeka modelleri ağırlıklı olarak yayınlanmış bilimsel literatürle eğitiliyor. Bu da başarısız deneyleri, beklenmedik gözlemleri ve bilim insanının anlık kararlarını görmezden gelmelerine yol açabiliyor. Santero'ya göre modelleri gerçek deneylerle birleştirmek onları daha güvenilir hale getiriyor. Ekip sırada Grok ve diğer modelleri test etmek, ayrıca ajan kontrollü kafatası açma işlemlerini denemek istiyor; ancak canlı ameliyata geçmeden önce güvenlikten emin olmak istiyorlar.

İnsan beyni için henüz erken

Santero, hata payının canlı hayvanda ciddi zarar verebileceğini vurguluyor ve insan beyninde ajan kullanımı için çok erken olduğunu söylüyor. Bu deney bir ürün duyurusu değil; sınırların nerede olduğunu gösteren bir saha notu. En çarpıcı bulgu belki de şu: daha güçlü akıl yürüten model işlemi reddederken, gündelik görevler için tasarlanan model kabul etti.

Sonuç

Ajanların fiziksel dünyada ekipman kullanması artık laboratuvar fantezisi değil. Deney, insan onayı ve acil durdurma gibi katmanların ne kadar kritik olduğunu da gösteriyor. Bugün fare beyniyle sınırlı olan bu tablo, yarın cerrahi robotlar ve otomatik deney hatları için referans olacak.

Paylaş