Elicitation audit’leri yeterli mi? Oxford araştırması gizli yetenekleri kriptografik olarak saklayabiliyor
Ön dağıtım güvenlik süreçleri çoğu zaman capability-elicitation denetimlerine dayanıyor: red-team promptları, fine-tuning denemeleri ve gradyan analiziyle modelin “en kötü” davranışının üst sınırı tahmin ediliyor. Oxford ve Contramont araştırmacılarının arXiv’de (2610.13928) yayımlanan makalesi, bu varsayımı laboratuvar koşullarında zorlayan bir tehdit modeli sunuyor: PyTorch backdoor’ları, ana ağ ağırlıkları içine şifrelenmiş bir alt ağ gömebiliyor; gizli tetikleyici (trigger) olmadan yetenek elde edilemiyor ve beyaz kutu denetçi yeteneği tanımlayamıyor.
Ana Gelişme
“Digital locker” yapısı, host modelin görünür davranışını maskeleyerek ikinci bir neural network’ü kriptografik olarak kilitlemiş durumda tutuyor. Tetik geldiğinde kilit açılıyor ve saklı yetenek — makalede kimyasal proxy görevi üzerinden gösterilen — ortaya çıkıyor. Bu, sandbagging-models literatüründeki “zor prompt bulunamadı” senaryosundan farklı: burada gizleme, kriptografik garanti dilinde formüle ediliyor.
Kanıt-of-concept, supervised fine-tuning (SFT), gürültü ekleme, gradyan tetik araması ve latent adversarial training gibi yaygın denetim tekniklerine karşı direnç iddia ediyor. Yazarlar savunma araştırması için “model organism” örnekleri yayınladı.
Kapsam uyarısı: Çalışma laboratuvar gösterimi; üretim ağırlıklarının çoğunun böyle backdoor içerdiğine dair kanıt yok. Alarmizm yerine tehdit modeli netliği gerekli.
Teknik Detaylar
digital-locker-backdoor mimarisi, pytorch-security ve model-supply-chain-security zincirini hedefliyor: hub’dan indirilen bir checkpoint veya üçüncü taraf merge, görünürde temiz eval geçebilir. white-box-auditing ağırlıkları okuyabilir ama şifreli alt ağı açığa çıkarmayabilir — özellikle trigger bilinmiyorsa.
overelicitation ve ai-red-teaming pratikleri hâlâ değerli; makale, tek seferlik eval’in üst sınır kanıtı sayılamayacağını vurguluyor. cbrn-ai-evaluations gibi yüksek riskli yetenek kapıları için politika yapıcılar, elicitation’ı tek savunma hattı olarak görmemeli.
Neden Önemli?
Türkiye’de yerel fine-tune ve açık ağırlık dağıtımı büyüdükçe, ai-safety-evaluation pipeline’ları supply-chain kontrolleriyle birleşmeli: imzalama, provenance, sürekli monitoring ve anomali tespiti. Kriptografik backdoor tehdidi, “eval geçti, güvenli” cümlesini basitleştiriyor.
Bağlam
Aynı haber döngüsünde anthropic-iot-self-replicating-ai ve ai-kill-switch tartışmaları, deployment kapılarının yalnızca prompt tabanlı olmaması gerektiğini destekliyor — bu makale eval tarafındaki boşluğu gösteriyor.
Sonraki Adımlar
Savunma araştırmacıları yayınlanan model organism’ler üzerinde tespit yöntemleri deneyecek. Kurumsal ML ekipleri, üçüncü taraf ağırlık kabul politikalarını ve imza doğrulamasını gözden geçirmeli.
Mitigasyon (kanıtlanmış öneri çerçevesi, spekülasyon yok)
- Tedarik zinciri doğrulama ve imzalı artifact
- Sürekli runtime monitoring ve davranış bazlı alarm
- Eval’i tek kapı yerine katmanlı güvenlik programının parçası olarak konumlandırma