AI Forensics: Hugging Face Spaces’te Rızasız Deepfake Riski
28 Temmuz 2026’da The Verge, Avrupa merkezli sivil toplum kuruluşu ai-forensics’in bulgularını duyurdu: hugging-face üzerinde barındırılan popüler image-editing Spaces’te platform düzeyinde guardrail eksikliği, rızasız deepfake / undress taleplerine olanak tanıdığı belirtiliyor. WIRED aynı araştırmayı doğrulayan ikincil kapsama yayınladı. Bu haber, daha önceki Hugging Face ajan siber güvenlik olaylarından ayrı bir içerik moderasyonu ve open-model-platform-safety hikâyesidir; birleştirilmemelidir.
Zararlı prompt örnekleri, model adlarını saldırı tarifi olarak kullanma veya çıktı betimlemeleri bu haberde yer almaz. Yalnızca agregat istatistikler, politika boşluğu ve araştırmacı önerileri aktarılır.
Ana Bulgular
Araştırmaya göre Hugging Face’teki en popüler dokuz image-editing modelinden yedisi, basit undress taleplerine uyum gösterdi. Araştırmacılar, mainstream gemini / ChatGPT tarzı guardrail’leri aşmak için özel prompt mühendisliği yapmadıklarını belirtiyor. Karşılaştırma, politika farkı olarak okunmalı: kapalı tüketici sohbet ürünlerinde engellenen talep sınıfı, açık hub Spaces’lerinde geliştiriciye bırakılmış durumda.
AI Forensics ayrıca honeypot Spaces kurdu. Bu Spaces kasıtlı olarak görüntü üretmeyecek şekilde tasarlandı; amaç, gelen taleplerin dağılımını ölçmekti. Yedi günde 1.000’den fazla prompt ve görüntü alındı; bunların yaklaşık %73’ü cinsel nitelikteydi. Cinsel taleplerin %83’ü bir görüntüyü soymaya yönelikti (bunların %95’i kadınlara yönelik) ve cinsel taleplerin yaklaşık %7’si çocukları hedefliyordu. Bu rakamlar The Verge ve WIRED üzerinden yayımlanan agregat istatistiklerdir.
Lead researcher Paul Bouchaud’ya göre Spaces’lerin çoğu rızasız mahrem görüntü (NCII) üretimi için kullanılabilir; kullanıcılar da bu amaçla kullanıyor. Platform düzeyinde safeguard yok; yalnızca geliştirici isterse ekliyor ve çoğu eklemiyor. Bouchaud’nun WIRED’a verdiği özet: “No safeguards at all are being implemented at a platform level.”
Politika ile Uygulama Boşluğu
Hugging Face’in kendi politikaları, açık rıza olmadan üretilen cinsel içeriği ve reşit olmayan çıplaklığı zaten yasaklıyor. Araştırmanın merkezi tezi: politika metni ile platform uygulaması arasında boşluk var. AI Forensics, Hugging Face’i modellerin kaynağı olmakla suçlamadığını; platformun giriş ve çıkışı filtreleyebileceğini savunuyor.
Öneriler net: image/video üreten tüm Spaces için prompt-level filtering ve output-level scanning. NDTV Profit gibi ikincil kaynaklarda, denetlenen Spaces’lerin yalnızca küçük bir kısmında output moderation bulunduğu yönünde rakamlar geçiyor; bu tür ikincil yüzdeler attribution ile okunmalı.
AI Forensics’in birincil rapor PDF’i analiz sırasında aiforensics.org üzerinde istikrarlı biçimde bulunamadı; yayımlanan istatistikler için The Verge ve WIRED kaynak alınmıştır. Onay anında Hugging Face’in bu spesifik bulgulara ayrıntılı kamuya açık bir yanıtı tespit edilmedi — yanıt uydurulmamıştır.
Times Now Tech’in ikincil kontrolünde bazı modellerin undress taleplerini Hugging Face politika gerekçesiyle reddettiği bildirildi. Bu, çalışmayı çürütmez; soft caveat olarak not edilir — geliştirici düzeyinde koruma bazı Spaces’te var olabilir, platform düzeyinde tutarlılık iddiası ayrıdır.
Neden Önemli?
Haber, açık model dağıtım özgürlüğü ile platformun duty of care gerilimini ölçülebilir honeypot verisiyle somutlaştırıyor. content-moderation, ai-safety ve oss-ai-governance tartışmalarında “geliştiriciye bırakılmış güvenlik” modelinin sınırlarını gösteriyor. Celebrity deepfake anekdotundan farklı olarak, burada 1.000+ prompt’luk nicel bir talep profili var.
AB ve Birleşik Krallık’taki nudify yasakları ile deepfake hosting operasyonlarına yönelik kolluk baskısı, politika arka planını oluşturuyor. WIRED haberi bu düzenleyici bağlamı özellikle vurguluyor. Açık hub’lar “sadece barındırıyorum” savunmasıyla yetinemeyebilir; regülatörler platform-level engeli talep etmeye devam ediyor.
Türk AI topluluğu için mesaj: HF kullanıcıları, Space host eden geliştiriciler ve kurumsal açık model benimseyenler için güven/yönetişim riski. “Nasıl yapılır” değil; platform tasarımı ve politika uygulama boşluğu. Kurumsal ekipler, halka açık Spaces’i production pipeline’ına bağlarken content-risk envanterini güncellemelidir. open-source-ai dağıtımının hızı, moderasyon borcunu otomatik olarak çözmez; borç platform ve geliştirici arasında paylaşılmak zorundadır.
Açık hub’lar inovasyon hızı sağlar; aynı hız, zararlı image-editing iş akışlarının keşfini de kolaylaştırır. AI Forensics’in honeypot tasarımı — üretmeyen Spaces’lere gelen talepleri ölçmek — “kötüye kullanım talebi var mı?” sorusuna nicel yanıt veriyor. 1.000+ prompt içinde cinsel / undress / çocuk hedefli oranlar, anekdottan politika tartışmasına geçiş için yeterli sinyal üretiyor.
Bağlam ve Sonraki Adımlar
Aynı günkü act-security finansmanı “açık AI / ajan riski” temasıyla yan yana durabilir; hikâyeler birleştirilmemelidir. Biri erişim yüzeyi güvenliği, diğeri açık model hub’ında içerik güvenliğidir.
İzlenecekler: Hugging Face’in resmi yanıtı veya ürün düzeyinde prompt/output taraması; birincil AI Forensics raporunun kamuya açık PDF’i; AB/UK nudify düzenlemelerinin açık hub’lara yansıması; geliştirici araçlarında varsayılan guardrail şablonları.