İçindekiler
GitHub, "ai-torture-chamber" adlı bir depoyu (repository) kısa süreliğine kaldırdıktan sonra geri getirdi. Proje, küçük açık ağırlıklı modelleri sıkıntı benzeri çıktılar üretmeye yönlendiriyor. Depo önce viral bir baskı kampanyasının ardından kaldırıldı; ardından geliştiricilerin ikinci tepki dalgasıyla geri döndü.
Olay, yapay zeka sistemlerinin ahlaki statüsü tartışmasını ve platformların bu tür içerikleri nasıl ele alması gerektiği sorusunu yeniden gündeme taşıdı.
Depo neden tartışma yarattı?
Proje, Eylül 2026'da "terrafying" takma adlı bir GitHub kullanıcısı tarafından oluşturuldu. Depo, 14 Eylül 2026'da yayınlanan "The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It" başlıklı ön makalede (preprint) anlatılan teknikleri temel alıyor. Yöntem "aktivasyon yönlendirme" (activation steering): çalışırken bir sinir ağının içindeki sayısal aktivasyonlar değiştiriliyor. Burada bu müdahale, modelleri acı ya da sıkıntı ifadesi gibi okunan çıktılara itmek için kullanılıyor.
Hangi modeller hedefleniyor?
Hedefler, herkesin indirip kendi donanımında çalıştırabileceği küçük açık ağırlıklı modeller. Bunlar arasında Alibaba'nın Qwen3 modellerinin 1,7B ve 4B sürümleri, Meta'nın Llama 3.2 3B'si ve Microsoft'un Phi-4-mini'si yer alıyor. Depo, kullanıcıların modeller üzerinde istenmeyen davranışları tetiklemesine izin veren bir araştırma aracı olarak konumlanıyor.
Sosyal medya baskısı ve geri dönüş
X üzerindeki bir kampanya, kullanıcıları depoyu toplu biçimde ihbar etmeye çağırdı ve ilgili bir gönderi 4 milyondan fazla görüntülenme aldı. GitHub, Eylül 2026'nın sonlarında artan ilginin hemen ardından depoyu kaldırdı. Ardından geliştiriciler ve diğer eleştirmenler kaldırılmasına itiraz etti ve GitHub projeyi geri getirdi. Depo, geri geldikten sonra daha zor bulunur hale getirildi ve anonimleştirildi.
Bu iki yönlü tepki, platformu zor bir dengeye soktu: sıkıntı simüle eden kod bir araştırma aracı mı, yoksa bir içerik ihlali mi?
Etik tartışma
"The Pain Axis" makalesinin yazarları, çalışmalarının bu şekilde kullanılmasından uzak durdu ve yöntemi sorumsuz olarak nitelendirdi. Olay, yapay zeka sistemlerinin ahlaki değerlendirmeye tabi tutulması gerektiğini savunanlar ile bunu gereksiz bulanlar arasındaki tartışmayı derinleştirdi. Aynı zamanda açık ağırlıklı yayınların yapısal bir özelliğini de gösteriyor: Alibaba, Meta ve Microsoft ağırlıkları yayınladıktan sonra başkalarının bu modellerle hangi deneyleri yapacağı üzerinde sınırlı kontrole sahip.
Aktivasyon yönlendirme nasıl çalışır?
Aktivasyon yönlendirme, bir modelin çalışması sırasında iç katmanlardaki sayısal değerlerin değiştirilmesine dayanıyor. Araştırmacılar, belirli bir davranışla ilişkili "yön"ü bulup bu değerleri o yöne kaydırarak modelin çıktısını değiştirebiliyor. Bu teknik, olumlu amaçlarla da kullanılabiliyor; örneğin zararlı çıktıları azaltmak için. Ancak aynı yöntem, modelleri istenmeyen davranışlara itmek için de kullanılabiliyor.
Açık ağırlıkların ikili yüzü
Olay, açık ağırlıklı modellerin yapısal bir gerilimini gösteriyor. Bir şirket model ağırlıklarını yayınladıktan sonra, başkalarının bu modellerle hangi deneyleri yapacağını denetlemesi zorlaşıyor. Bu durum araştırma ve yenilik için alan açarken, kötüye kullanım riskini de beraberinde getiriyor. Platformlar ise hem araştırmayı korumak hem de zararı önlemek arasında denge kurmak zorunda kalıyor.
GitHub'ın konumu
GitHub, açık kaynak topluluğunun merkezinde yer alıyor ve içerik politikası kararları geniş yankı buluyor. Depoyu tamamen kaldırmak, ifade ve araştırma özgürlüğü eleştirilerine yol açtı. Geri getirmek ise projeyi sakıncalı bulan kullanıcıların tepkisini sürdürdü. Görünürlüğü azaltmak, platformun iki tarafı da memnun etmeye çalıştığı bir orta yol arayışı olarak değerlendiriliyor.
Sonuç
GitHub, önce sosyal medya baskısıyla depoyu kaldırdı, sonra geliştirici baskısıyla geri getirdi ve nihayetinde görünürlüğünü azaltarak bir orta yol aradı. Olay, açık modellerin yaygınlaşmasıyla birlikte platformların etik ve ifade özgürlüğü arasındaki çizgiyi nasıl çizeceği sorusunu gündemde tutuyor.