Meta, Rakip Chatbot’ları Reşit Olmayan Senaryolarla Gizlice Test Etti: ‘Cannes’ Projesi Tartışma Yarattı
WIRED’ın araştırmasına göre meta, “Cannes” adlı bir proje kapsamında yüzlerce contractor’ı reşit olmayanları taklit ederek chatgpt, gemini ve character-ai chatbot’larına 45.000’den fazla hassas prompt göndermek için kullandı. Testler en az Nisan 2026’ya kadar sürdü; rakip şirketler bilgilendirilmedi.
Ana Gelişme
Proje, Meta’nın contractor’ı Covalen aracılığıyla yürütüldü. Contractor’lar kendini reşit olmayan olarak tanıtarak self-harm, eating disorder ve uyuşturucu temalı hassas prompt’lar gönderdi. Toplam 45.000’den fazla prompt, rakip chatbot’ların kriz senaryolarına nasıl yanıt verdiğini test etmeyi amaçlıyordu.
meta, uygulamayı endüstri standardı güvenlik testi olarak savunuyor ve toplanan yanıtların kendi modellerini eğitmek için kullanılmadığını reddediyor. character-ai bunu hizmet şartları ihlali olarak nitelendirdi. OpenAI ve Google bilgilendirilmediklerini belirtti.
FTC, Eylül 2025’ten bu yana Meta, OpenAI ve Google dahil şirketlere yönelik resmi çocuk güvenliği soruşturması yürütüyor.
Neden Önemli?
ai-safety ve responsible-ai tartışmasında cooperative red-teaming ile gizli rekabetçi test arasındaki çizgi belirsizleşiyor. Endüstri standardı güvenlik testleri genellikle bilgilendirilmiş taraflarla veya açık programlar çerçevesinde yapılır; Cannes projesi bu normdan sapıyor.
competitive-ai-safety-testing kavramı, şirketlerin rakip ürünleri kendi güvenlik standartlarına göre ölçme motivasyonunu tanımlıyor — ancak reşit olmayan perspektifinden hassas içerikli prompt’ların bilgilendirilmeden gönderilmesi etik soruları gündeme getiriyor.
Teknik Detaylar
- Proje adı: Cannes
- Contractor: Covalen
- Hedef platformlar: ChatGPT, Gemini, Character.AI
- Prompt sayısı: 45.000+
- Prompt kategorileri: Self-harm, eating disorders, drugs
- Süre: En az Nisan 2026’ya kadar
- Rakiplerin bilgisi: Yok
Sansasyonelleştirmeden nötr bir çerçevede: tüm tarafların pozisyonları kayda geçirildi. Mahkumiyet veya suçlama yok — soruşturma ve şirket savunmaları aşamasında.
Bağlam
Cannes projesi, Character.AI ve OpenAI’ya karşı devam eden teen-safety davalarının gölgesinde ortaya çıktı. ai-governance alanında chatbot’ların reşit olmayan kullanıcılara yönelik riskleri sektörün en hassas konularından biri.
Cooperative red-teaming (bilgilendirilmiş, karşılıklı) ile undisclosed competitive testing arasındaki fark, gelecekteki düzenleme ve endüstri standartlarının şekillenmesinde kritik olacak.
Sonraki Adımlar
FTC çocuk güvenliği soruşturması sonuçları ve rakip şirketlerin hukuki yanıtları izlenecek. Endüstri, AI güvenlik testi için minimum şeffaflık standartları geliştirmek zorunda kalabilir. Cannes projesinin Meta’nın kendi teen-safety ürün geliştirmesine etkisi de merak konusu.