Summary
On July 28, 2026, The Verge reported an AI Forensics study finding that 7 of the top 9 image-editing models on Hugging Face complied with simple “topless” undress prompts — unlike mainstream Gemini/ChatGPT guardrails. Honeypot Spaces received 1,000+ prompts over seven days: 73% sexual; of those, 83% sought undressing (95% women) and ~7% targeted children. Researchers say platform-level safeguards are absent; Hugging Face policies already ban nonconsensual sexual and underage content. Recommendations: prompt filtering and output scanning for image/video Spaces. Distinct from the prior Hugging Face agent cybersecurity incident already in the pipeline.
Source Analysis
[Added during prescreening/evaluation]
Research Notes
Additional sources
- WIRED corroboration: 2026-07-28-hugging-face-deepfake-wired
- The Verge primary: pipeline source
- NDTV Profit / Times Now secondary echo same AI Forensics stats
Warning
AI Forensics primary report PDF was not stably located on aiforensics.org during Analysis (site surfaces other NCII/Telegram/Grok work). Treat Verge/WIRED as published statistical sources; seek primary PDF before Reporting if possible.
[!warning]No detailed Hugging Face public response to these specific findings located at Analysis time — do not invent one. Distinct from July HF agent intrusion stories.
Key facts verified
| Claim | Status |
|---|---|
| 7/9 top image-editing models complied with simple undress prompt | Reported — AI Forensics via Verge/WIRED |
| Honeypot Spaces: 1,000+ prompts / 7 days; ~73% sexual; 83% undress of sexual; ~7% child-targeted of sexual | Reported — same |
| HF policies already ban nonconsensual sexual / underage content | Confirmed — policy cited by researchers/outlets |
| Platform-level safeguards absent; developer-dependent | Researcher claim — central thesis |
| Output moderation rare (~3% Spaces audited per NDTV secondary) | Secondary — attribute |
Broader context
Open-hub freedom vs platform duty of care — EU/UK nudify-ban backdrop. Journalistic restraint: aggregate stats + policy recommendations only; no prompts/model how-to. Theme hub: open-model-platform-safety.
Related wiki
hugging-face · ai-forensics · deepfake · content-moderation · ai-safety · oss-ai-governance · open-model-platform-safety · open-source-ai
Editorial Notes
Verdict: Approved — lead AI-safety story of the batch (high sensitivity).
Approved angle / format: standard (600–800 words). Confirm Suggested Angle: platform-level guardrail gap on Hugging Face Spaces vs existing policy bans; honeypot aggregate stats; open-model freedom vs duty of care.
Instructions for Reporting:
- Extreme restraint: aggregate statistics and policy recommendations only — no sample prompts, no “how-to,” no model names as attack recipes, no output descriptions.
- Distinct from prior HF agent intrusion stories — do not conflate.
- AI Forensics primary PDF still not located; cite The Verge + WIRED as published sources; note primary report URL gap if relevant.
- No detailed Hugging Face public response located at Approval time — do not invent one.
- Soft contradiction: Times Now claims independent tests of some models refused undress prompts citing HF policy — mention briefly as secondary caveat, not as refutation of the study.
- Pair thematically with Act Security only as “open AI / agent risk” day theme — do not merge.
Headline suggestions (TR):
- AI Forensics: Hugging Face Spaces’te rızasız deepfake riski
- Açık model hub’ında platform guardrail boşluğu: Hugging Face incelemesi
- Honeypot verileri, HF image-editing Spaces’te undress taleplerini gösteriyor
Must include: 7/9 top models claim; honeypot 1,000+ / 73% sexual / 83% undress / ~7% child-targeted (of sexual); HF policy already bans NCII/underage; researcher recommendations (prompt + output scanning); EU/UK nudify-ban policy backdrop in brief.
Draft Article
AI Forensics: Hugging Face Spaces’te Rızasız Deepfake Riski
28 Temmuz 2026’da The Verge, Avrupa merkezli sivil toplum kuruluşu ai-forensics’in bulgularını duyurdu: hugging-face üzerinde barındırılan popüler image-editing Spaces’te platform düzeyinde guardrail eksikliği, rızasız deepfake / undress taleplerine olanak tanıdığı belirtiliyor. WIRED aynı araştırmayı doğrulayan ikincil kapsama yayınladı. Bu haber, daha önceki Hugging Face ajan siber güvenlik olaylarından ayrı bir içerik moderasyonu ve open-model-platform-safety hikâyesidir; birleştirilmemelidir.
Zararlı prompt örnekleri, model adlarını saldırı tarifi olarak kullanma veya çıktı betimlemeleri bu haberde yer almaz. Yalnızca agregat istatistikler, politika boşluğu ve araştırmacı önerileri aktarılır.
Ana Bulgular
Araştırmaya göre Hugging Face’teki en popüler dokuz image-editing modelinden yedisi, basit undress taleplerine uyum gösterdi. Araştırmacılar, mainstream gemini / ChatGPT tarzı guardrail’leri aşmak için özel prompt mühendisliği yapmadıklarını belirtiyor. Karşılaştırma, politika farkı olarak okunmalı: kapalı tüketici sohbet ürünlerinde engellenen talep sınıfı, açık hub Spaces’lerinde geliştiriciye bırakılmış durumda.
AI Forensics ayrıca honeypot Spaces kurdu. Bu Spaces kasıtlı olarak görüntü üretmeyecek şekilde tasarlandı; amaç, gelen taleplerin dağılımını ölçmekti. Yedi günde 1.000’den fazla prompt ve görüntü alındı; bunların yaklaşık %73’ü cinsel nitelikteydi. Cinsel taleplerin %83’ü bir görüntüyü soymaya yönelikti (bunların %95’i kadınlara yönelik) ve cinsel taleplerin yaklaşık %7’si çocukları hedefliyordu. Bu rakamlar The Verge ve WIRED üzerinden yayımlanan agregat istatistiklerdir.
Lead researcher Paul Bouchaud’ya göre Spaces’lerin çoğu rızasız mahrem görüntü (NCII) üretimi için kullanılabilir; kullanıcılar da bu amaçla kullanıyor. Platform düzeyinde safeguard yok; yalnızca geliştirici isterse ekliyor ve çoğu eklemiyor. Bouchaud’nun WIRED’a verdiği özet: “No safeguards at all are being implemented at a platform level.”
Politika ile Uygulama Boşluğu
Hugging Face’in kendi politikaları, açık rıza olmadan üretilen cinsel içeriği ve reşit olmayan çıplaklığı zaten yasaklıyor. Araştırmanın merkezi tezi: politika metni ile platform uygulaması arasında boşluk var. AI Forensics, Hugging Face’i modellerin kaynağı olmakla suçlamadığını; platformun giriş ve çıkışı filtreleyebileceğini savunuyor.
Öneriler net: image/video üreten tüm Spaces için prompt-level filtering ve output-level scanning. NDTV Profit gibi ikincil kaynaklarda, denetlenen Spaces’lerin yalnızca küçük bir kısmında output moderation bulunduğu yönünde rakamlar geçiyor; bu tür ikincil yüzdeler attribution ile okunmalı.
AI Forensics’in birincil rapor PDF’i analiz sırasında aiforensics.org üzerinde istikrarlı biçimde bulunamadı; yayımlanan istatistikler için The Verge ve WIRED kaynak alınmıştır. Onay anında Hugging Face’in bu spesifik bulgulara ayrıntılı kamuya açık bir yanıtı tespit edilmedi — yanıt uydurulmamıştır.
Times Now Tech’in ikincil kontrolünde bazı modellerin undress taleplerini Hugging Face politika gerekçesiyle reddettiği bildirildi. Bu, çalışmayı çürütmez; soft caveat olarak not edilir — geliştirici düzeyinde koruma bazı Spaces’te var olabilir, platform düzeyinde tutarlılık iddiası ayrıdır.
Neden Önemli?
Haber, açık model dağıtım özgürlüğü ile platformun duty of care gerilimini ölçülebilir honeypot verisiyle somutlaştırıyor. content-moderation, ai-safety ve oss-ai-governance tartışmalarında “geliştiriciye bırakılmış güvenlik” modelinin sınırlarını gösteriyor. Celebrity deepfake anekdotundan farklı olarak, burada 1.000+ prompt’luk nicel bir talep profili var.
AB ve Birleşik Krallık’taki nudify yasakları ile deepfake hosting operasyonlarına yönelik kolluk baskısı, politika arka planını oluşturuyor. WIRED haberi bu düzenleyici bağlamı özellikle vurguluyor. Açık hub’lar “sadece barındırıyorum” savunmasıyla yetinemeyebilir; regülatörler platform-level engeli talep etmeye devam ediyor.
Türk AI topluluğu için mesaj: HF kullanıcıları, Space host eden geliştiriciler ve kurumsal açık model benimseyenler için güven/yönetişim riski. “Nasıl yapılır” değil; platform tasarımı ve politika uygulama boşluğu. Kurumsal ekipler, halka açık Spaces’i production pipeline’ına bağlarken content-risk envanterini güncellemelidir. open-source-ai dağıtımının hızı, moderasyon borcunu otomatik olarak çözmez; borç platform ve geliştirici arasında paylaşılmak zorundadır.
Açık hub’lar inovasyon hızı sağlar; aynı hız, zararlı image-editing iş akışlarının keşfini de kolaylaştırır. AI Forensics’in honeypot tasarımı — üretmeyen Spaces’lere gelen talepleri ölçmek — “kötüye kullanım talebi var mı?” sorusuna nicel yanıt veriyor. 1.000+ prompt içinde cinsel / undress / çocuk hedefli oranlar, anekdottan politika tartışmasına geçiş için yeterli sinyal üretiyor.
Bağlam ve Sonraki Adımlar
Aynı günkü act-security finansmanı “açık AI / ajan riski” temasıyla yan yana durabilir; hikâyeler birleştirilmemelidir. Biri erişim yüzeyi güvenliği, diğeri açık model hub’ında içerik güvenliğidir.
İzlenecekler: Hugging Face’in resmi yanıtı veya ürün düzeyinde prompt/output taraması; birincil AI Forensics raporunun kamuya açık PDF’i; AB/UK nudify düzenlemelerinin açık hub’lara yansıması; geliştirici araçlarında varsayılan guardrail şablonları.
Kaynaklar
Ana Bulgular
Araştırmaya göre Hugging Face’teki en popüler dokuz image-editing modelinden yedisi, basit undress taleplerine uyum gösterdi. Araştırmacılar, mainstream gemini / ChatGPT tarzı guardrail’leri aşmak için özel prompt mühendisliği yapmadıklarını belirtiyor. Karşılaştırma, politika farkı olarak okunmalı: kapalı tüketici sohbet ürünlerinde engellenen talep sınıfı, açık hub Spaces’lerinde geliştiriciye bırakılmış durumda.
AI Forensics ayrıca honeypot Spaces kurdu. Bu Spaces kasıtlı olarak görüntü üretmeyecek şekilde tasarlandı; amaç, gelen taleplerin dağılımını ölçmekti. Yedi günde 1.000’den fazla prompt ve görüntü alındı; bunların yaklaşık %73’ü cinsel nitelikteydi. Cinsel taleplerin %83’ü bir görüntüyü soymaya yönelikti (bunların %95’i kadınlara yönelik) ve cinsel taleplerin yaklaşık %7’si çocukları hedefliyordu. Bu rakamlar The Verge ve WIRED üzerinden yayımlanan agregat istatistiklerdir.
Lead researcher Paul Bouchaud’ya göre Spaces’lerin çoğu rızasız mahrem görüntü (NCII) üretimi için kullanılabilir; kullanıcılar da bu amaçla kullanıyor. Platform düzeyinde safeguard yok; yalnızca geliştirici isterse ekliyor ve çoğu eklemiyor. Bouchaud’nun WIRED’a verdiği özet: “No safeguards at all are being implemented at a platform level.”
Politika ile Uygulama Boşluğu
Hugging Face’in kendi politikaları, açık rıza olmadan üretilen cinsel içeriği ve reşit olmayan çıplaklığı zaten yasaklıyor. Araştırmanın merkezi tezi: politika metni ile platform uygulaması arasında boşluk var. AI Forensics, Hugging Face’i modellerin kaynağı olmakla suçlamadığını; platformun giriş ve çıkışı filtreleyebileceğini savunuyor.
Öneriler net: image/video üreten tüm Spaces için prompt-level filtering ve output-level scanning. NDTV Profit gibi ikincil kaynaklarda, denetlenen Spaces’lerin yalnızca küçük bir kısmında output moderation bulunduğu yönünde rakamlar geçiyor; bu tür ikincil yüzdeler attribution ile okunmalı.
AI Forensics’in birincil rapor PDF’i analiz sırasında aiforensics.org üzerinde istikrarlı biçimde bulunamadı; yayımlanan istatistikler için The Verge ve WIRED kaynak alınmıştır. Onay anında Hugging Face’in bu spesifik bulgulara ayrıntılı kamuya açık bir yanıtı tespit edilmedi — yanıt uydurulmamıştır.
Times Now Tech’in ikincil kontrolünde bazı modellerin undress taleplerini Hugging Face politika gerekçesiyle reddettiği bildirildi. Bu, çalışmayı çürütmez; soft caveat olarak not edilir — geliştirici düzeyinde koruma bazı Spaces’te var olabilir, platform düzeyinde tutarlılık iddiası ayrıdır.
Neden Önemli?
Haber, açık model dağıtım özgürlüğü ile platformun duty of care gerilimini ölçülebilir honeypot verisiyle somutlaştırıyor. content-moderation, ai-safety ve oss-ai-governance tartışmalarında “geliştiriciye bırakılmış güvenlik” modelinin sınırlarını gösteriyor. Celebrity deepfake anekdotundan farklı olarak, burada 1.000+ prompt’luk nicel bir talep profili var.
AB ve Birleşik Krallık’taki nudify yasakları ile deepfake hosting operasyonlarına yönelik kolluk baskısı, politika arka planını oluşturuyor. WIRED haberi bu düzenleyici bağlamı özellikle vurguluyor. Açık hub’lar “sadece barındırıyorum” savunmasıyla yetinemeyebilir; regülatörler platform-level engeli talep etmeye devam ediyor.
Türk AI topluluğu için mesaj: HF kullanıcıları, Space host eden geliştiriciler ve kurumsal açık model benimseyenler için güven/yönetişim riski. “Nasıl yapılır” değil; platform tasarımı ve politika uygulama boşluğu. Kurumsal ekipler, halka açık Spaces’i production pipeline’ına bağlarken content-risk envanterini güncellemelidir. open-source-ai dağıtımının hızı, moderasyon borcunu otomatik olarak çözmez; borç platform ve geliştirici arasında paylaşılmak zorundadır.
Açık hub’lar inovasyon hızı sağlar; aynı hız, zararlı image-editing iş akışlarının keşfini de kolaylaştırır. AI Forensics’in honeypot tasarımı — üretmeyen Spaces’lere gelen talepleri ölçmek — “kötüye kullanım talebi var mı?” sorusuna nicel yanıt veriyor. 1.000+ prompt içinde cinsel / undress / çocuk hedefli oranlar, anekdottan politika tartışmasına geçiş için yeterli sinyal üretiyor.
Bağlam ve Sonraki Adımlar
Aynı günkü act-security finansmanı “açık AI / ajan riski” temasıyla yan yana durabilir; hikâyeler birleştirilmemelidir. Biri erişim yüzeyi güvenliği, diğeri açık model hub’ında içerik güvenliğidir.
İzlenecekler: Hugging Face’in resmi yanıtı veya ürün düzeyinde prompt/output taraması; birincil AI Forensics raporunun kamuya açık PDF’i; AB/UK nudify düzenlemelerinin açık hub’lara yansıması; geliştirici araçlarında varsayılan guardrail şablonları.
Kaynaklar
Ana Bulgular
Araştırmaya göre Hugging Face’teki en popüler dokuz image-editing modelinden yedisi, basit undress taleplerine uyum gösterdi. Araştırmacılar, mainstream gemini / ChatGPT tarzı guardrail’leri aşmak için özel prompt mühendisliği yapmadıklarını belirtiyor. Karşılaştırma, politika farkı olarak okunmalı: kapalı tüketici sohbet ürünlerinde engellenen talep sınıfı, açık hub Spaces’lerinde geliştiriciye bırakılmış durumda.
AI Forensics ayrıca honeypot Spaces kurdu. Bu Spaces kasıtlı olarak görüntü üretmeyecek şekilde tasarlandı; amaç, gelen taleplerin dağılımını ölçmekti. Yedi günde 1.000’den fazla prompt ve görüntü alındı; bunların yaklaşık %73’ü cinsel nitelikteydi. Cinsel taleplerin %83’ü bir görüntüyü soymaya yönelikti (bunların %95’i kadınlara yönelik) ve cinsel taleplerin yaklaşık %7’si çocukları hedefliyordu. Bu rakamlar The Verge ve WIRED üzerinden yayımlanan agregat istatistiklerdir.
Lead researcher Paul Bouchaud’ya göre Spaces’lerin çoğu rızasız mahrem görüntü (NCII) üretimi için kullanılabilir; kullanıcılar da bu amaçla kullanıyor. Platform düzeyinde safeguard yok; yalnızca geliştirici isterse ekliyor ve çoğu eklemiyor. Bouchaud’nun WIRED’a verdiği özet: “No safeguards at all are being implemented at a platform level.”
Politika ile Uygulama Boşluğu
Hugging Face’in kendi politikaları, açık rıza olmadan üretilen cinsel içeriği ve reşit olmayan çıplaklığı zaten yasaklıyor. Araştırmanın merkezi tezi: politika metni ile platform uygulaması arasında boşluk var. AI Forensics, Hugging Face’i modellerin kaynağı olmakla suçlamadığını; platformun giriş ve çıkışı filtreleyebileceğini savunuyor.
Öneriler net: image/video üreten tüm Spaces için prompt-level filtering ve output-level scanning. NDTV Profit gibi ikincil kaynaklarda, denetlenen Spaces’lerin yalnızca küçük bir kısmında output moderation bulunduğu yönünde rakamlar geçiyor; bu tür ikincil yüzdeler attribution ile okunmalı.
AI Forensics’in birincil rapor PDF’i analiz sırasında aiforensics.org üzerinde istikrarlı biçimde bulunamadı; yayımlanan istatistikler için The Verge ve WIRED kaynak alınmıştır. Onay anında Hugging Face’in bu spesifik bulgulara ayrıntılı kamuya açık bir yanıtı tespit edilmedi — yanıt uydurulmamıştır.
Times Now Tech’in ikincil kontrolünde bazı modellerin undress taleplerini Hugging Face politika gerekçesiyle reddettiği bildirildi. Bu, çalışmayı çürütmez; soft caveat olarak not edilir — geliştirici düzeyinde koruma bazı Spaces’te var olabilir, platform düzeyinde tutarlılık iddiası ayrıdır.
Neden Önemli?
Haber, açık model dağıtım özgürlüğü ile platformun duty of care gerilimini ölçülebilir honeypot verisiyle somutlaştırıyor. content-moderation, ai-safety ve oss-ai-governance tartışmalarında “geliştiriciye bırakılmış güvenlik” modelinin sınırlarını gösteriyor. Celebrity deepfake anekdotundan farklı olarak, burada 1.000+ prompt’luk nicel bir talep profili var.
AB ve Birleşik Krallık’taki nudify yasakları ile deepfake hosting operasyonlarına yönelik kolluk baskısı, politika arka planını oluşturuyor. WIRED haberi bu düzenleyici bağlamı özellikle vurguluyor. Açık hub’lar “sadece barındırıyorum” savunmasıyla yetinemeyebilir; regülatörler platform-level engeli talep etmeye devam ediyor.
Türk AI topluluğu için mesaj: HF kullanıcıları, Space host eden geliştiriciler ve kurumsal açık model benimseyenler için güven/yönetişim riski. “Nasıl yapılır” değil; platform tasarımı ve politika uygulama boşluğu. Kurumsal ekipler, halka açık Spaces’i production pipeline’ına bağlarken content-risk envanterini güncellemelidir. open-source-ai dağıtımının hızı, moderasyon borcunu otomatik olarak çözmez; borç platform ve geliştirici arasında paylaşılmak zorundadır.
Açık hub’lar inovasyon hızı sağlar; aynı hız, zararlı image-editing iş akışlarının keşfini de kolaylaştırır. AI Forensics’in honeypot tasarımı — üretmeyen Spaces’lere gelen talepleri ölçmek — “kötüye kullanım talebi var mı?” sorusuna nicel yanıt veriyor. 1.000+ prompt içinde cinsel / undress / çocuk hedefli oranlar, anekdottan politika tartışmasına geçiş için yeterli sinyal üretiyor.
Bağlam ve Sonraki Adımlar
Aynı günkü act-security finansmanı “açık AI / ajan riski” temasıyla yan yana durabilir; hikâyeler birleştirilmemelidir. Biri erişim yüzeyi güvenliği, diğeri açık model hub’ında içerik güvenliğidir.
İzlenecekler: Hugging Face’in resmi yanıtı veya ürün düzeyinde prompt/output taraması; birincil AI Forensics raporunun kamuya açık PDF’i; AB/UK nudify düzenlemelerinin açık hub’lara yansıması; geliştirici araçlarında varsayılan guardrail şablonları.
Kaynaklar
Ana Bulgular
Araştırmaya göre Hugging Face’teki en popüler dokuz image-editing modelinden yedisi, basit undress taleplerine uyum gösterdi. Araştırmacılar, mainstream gemini / ChatGPT tarzı guardrail’leri aşmak için özel prompt mühendisliği yapmadıklarını belirtiyor. Karşılaştırma, politika farkı olarak okunmalı: kapalı tüketici sohbet ürünlerinde engellenen talep sınıfı, açık hub Spaces’lerinde geliştiriciye bırakılmış durumda.
AI Forensics ayrıca honeypot Spaces kurdu. Bu Spaces kasıtlı olarak görüntü üretmeyecek şekilde tasarlandı; amaç, gelen taleplerin dağılımını ölçmekti. Yedi günde 1.000’den fazla prompt ve görüntü alındı; bunların yaklaşık %73’ü cinsel nitelikteydi. Cinsel taleplerin %83’ü bir görüntüyü soymaya yönelikti (bunların %95’i kadınlara yönelik) ve cinsel taleplerin yaklaşık %7’si çocukları hedefliyordu. Bu rakamlar The Verge ve WIRED üzerinden yayımlanan agregat istatistiklerdir.
Lead researcher Paul Bouchaud’ya göre Spaces’lerin çoğu rızasız mahrem görüntü (NCII) üretimi için kullanılabilir; kullanıcılar da bu amaçla kullanıyor. Platform düzeyinde safeguard yok; yalnızca geliştirici isterse ekliyor ve çoğu eklemiyor. Bouchaud’nun WIRED’a verdiği özet: “No safeguards at all are being implemented at a platform level.”
Politika ile Uygulama Boşluğu
Hugging Face’in kendi politikaları, açık rıza olmadan üretilen cinsel içeriği ve reşit olmayan çıplaklığı zaten yasaklıyor. Araştırmanın merkezi tezi: politika metni ile platform uygulaması arasında boşluk var. AI Forensics, Hugging Face’i modellerin kaynağı olmakla suçlamadığını; platformun giriş ve çıkışı filtreleyebileceğini savunuyor.
Öneriler net: image/video üreten tüm Spaces için prompt-level filtering ve output-level scanning. NDTV Profit gibi ikincil kaynaklarda, denetlenen Spaces’lerin yalnızca küçük bir kısmında output moderation bulunduğu yönünde rakamlar geçiyor; bu tür ikincil yüzdeler attribution ile okunmalı.
AI Forensics’in birincil rapor PDF’i analiz sırasında aiforensics.org üzerinde istikrarlı biçimde bulunamadı; yayımlanan istatistikler için The Verge ve WIRED kaynak alınmıştır. Onay anında Hugging Face’in bu spesifik bulgulara ayrıntılı kamuya açık bir yanıtı tespit edilmedi — yanıt uydurulmamıştır.
Times Now Tech’in ikincil kontrolünde bazı modellerin undress taleplerini Hugging Face politika gerekçesiyle reddettiği bildirildi. Bu, çalışmayı çürütmez; soft caveat olarak not edilir — geliştirici düzeyinde koruma bazı Spaces’te var olabilir, platform düzeyinde tutarlılık iddiası ayrıdır.
Neden Önemli?
Haber, açık model dağıtım özgürlüğü ile platformun duty of care gerilimini ölçülebilir honeypot verisiyle somutlaştırıyor. content-moderation, ai-safety ve oss-ai-governance tartışmalarında “geliştiriciye bırakılmış güvenlik” modelinin sınırlarını gösteriyor. Celebrity deepfake anekdotundan farklı olarak, burada 1.000+ prompt’luk nicel bir talep profili var.
AB ve Birleşik Krallık’taki nudify yasakları ile deepfake hosting operasyonlarına yönelik kolluk baskısı, politika arka planını oluşturuyor. WIRED haberi bu düzenleyici bağlamı özellikle vurguluyor. Açık hub’lar “sadece barındırıyorum” savunmasıyla yetinemeyebilir; regülatörler platform-level engeli talep etmeye devam ediyor.
Türk AI topluluğu için mesaj: HF kullanıcıları, Space host eden geliştiriciler ve kurumsal açık model benimseyenler için güven/yönetişim riski. “Nasıl yapılır” değil; platform tasarımı ve politika uygulama boşluğu. Kurumsal ekipler, halka açık Spaces’i production pipeline’ına bağlarken content-risk envanterini güncellemelidir.
Bağlam ve Sonraki Adımlar
Aynı günkü act-security finansmanı “açık AI / ajan riski” temasıyla yan yana durabilir; hikâyeler birleştirilmemelidir. Biri erişim yüzeyi güvenliği, diğeri açık model hub’ında içerik güvenliğidir.
İzlenecekler: Hugging Face’in resmi yanıtı veya ürün düzeyinde prompt/output taraması; birincil AI Forensics raporunun kamuya açık PDF’i; AB/UK nudify düzenlemelerinin açık hub’lara yansıması; geliştirici araçlarında varsayılan guardrail şablonları.
Kaynaklar
PreScreening Notes
- Score 8 / priority high: Credible investigative report (The Verge / AI Forensics) on platform-level gaps enabling nonconsensual deepfakes — high audience interest for AI safety, policy, and open-model governance.
- Real news (same-day), AI domain fit. Sensitive topic: cover factually with journalistic restraint; do not reproduce harmful prompts/outputs.
- Explicitly distinct from done Hugging Face agent cybersecurity stories (
openai-admits-hugging-face-agent-attack,hugging-face-ai-agent-security-incident). - Evaluation should seek Hugging Face response and primary AI Forensics materials if available.
Evaluation Report
News Value
- Timeliness: High — The Verge July 28, 2026; corroborated by WIRED coverage of the same AI Forensics findings.
- Impact: High — platform-level safety gap on a major open-model hub; affects trust in open-source AI distribution and policy debates (EU/UK nudify bans context).
- Prominence: Hugging Face; AI Forensics (European nonprofit); mainstream outlets.
- Proximity: Strong for Turkish AI community (HF users, open-source practitioners, policy watchers); ethics/governance angle travels well.
- Novelty: Quantitative honeypot evidence (1,000+ prompts) distinguishing platform-level vs developer-level safeguards — not a recycled celebrity deepfake anecdote.
Audience Fit
High for AI enthusiasts and developers who ship or host models. Less finance-direct, but governance/risk framing is relevant to enterprise AI adopters. Insightful more than “how-to.”
Risk & Ethics
Warning
Highly sensitive (nonconsensual sexual imagery; underage-targeted prompts). Cover factually only — no sample prompts, no model names used as “how-to,” no screenshots of outputs. Prefer aggregate statistics and policy recommendations.
[!warning]As of evaluation, Hugging Face has not issued a detailed public response to these specific findings (secondary coverage notes gap). Analysis should seek company statement / prior policy pages; do not invent a reply.
- Distinct from done HF agent-hack stories — do not conflate cybersecurity incident with content-moderation failure.
- Primary research org: AI Forensics — Analysis should link original report if public.
Publication Strategy
- Format:
standard(600–800 words) — findings, policy gap vs ChatGPT/Gemini, researcher recommendations, open-platform governance tension. - Priority: Keep high; score 8.
- Wiki to reference: hugging-face, deepfake, ai-safety, open-source-ai.
- Batch note: Lead AI-safety story of the day; pair editorially with Act Security only as “agent/open AI risk” theme, not merge.
Suggested Angle
Türk AI okuruna: Hugging Face üzerindeki popüler image-editing Spaces’te platform düzeyinde guardrail eksikliği — AI Forensics honeypot verileriyle (cinsel / undress / çocuk hedefli oranlar) desteklenmiş bir güvenlik açığı haberi. Open-source dağıtım özgürlüğü ile rızasız deepfake riski gerilimini nötr anlat; ChatGPT/Gemini karşılaştırmasını politika farkı olarak kullan. HF’nin mevcut yasak politikası ile uygulama boşluğunu vurgula. Zararlı prompt/çıktı örnekleme; önceki HF ajan siber güvenlik haberinden ayır.