Summary
WIRED reported that Meta ran a project called “Cannes” through contractor Covalen, using hundreds of contractors to pose as minors and send 45,000+ sensitive prompts (self-harm, eating disorders, drugs) to rival chatbots including ChatGPT, Gemini, and Character.AI through at least April 2026. Meta defended the practice as industry-standard safety testing and denied using responses to train its models. OpenAI, Google, and Character.AI said they were not informed; Character.AI called it a terms-of-service violation.
Source Analysis
Primary/aggregator: THE DECODER citing WIRED investigation, June 30, 2026. Follows prior Meta teen-AI safety controversies and linked teen-death lawsuits against Character.AI and OpenAI.
PreScreening Notes
Score: 8 (high) — Investigative WIRED story with broad industry impact (Meta, OpenAI, Google, Character.AI) on AI safety ethics and competitive testing practices. Strong newsworthiness for AI audience; ties to ongoing teen-safety litigation context. Aggregator source but rooted in credible primary investigation.
Evaluation Report
News Value Assessment
| Dimension | Rating | Notes |
|---|---|---|
| Timeliness | ★★★★★ | WIRED investigation published June 30, 2026 |
| Impact | ★★★★★ | Raises industry-wide questions about competitive safety testing ethics |
| Prominence | ★★★★★ | Meta, OpenAI, Google, Character.AI — all major AI players |
| Proximity | ★★★★☆ | AI safety discourse highly relevant; teen-safety lawsuits have global reach |
| Novelty | ★★★★★ | New investigative details on “Project Cannes” testing methodology |
Audience Fit
- Primary audience: AI enthusiasts, software developers building chatbot products
- Actionability: Prompts discussion of responsible red-teaming vs competitive intelligence gathering
- Topic connection: Extends AI safety and platform accountability coverage
Risk & Ethics Assessment
Warning
Analysis must rely on WIRED primary investigation, not aggregator summaries alone. Sensitive topic (minors, self-harm) requires careful, non-sensationalist framing. Verify Meta/Covalen responses and competitor statements from original WIRED reporting.
- THE DECODER is aggregator; WIRED is credible primary
- Story involves minors and mental health — ethical editorial handling required
- Meta denies training on responses; verify claim against investigation evidence
- No misinformation risk if sourced to WIRED investigation
Publication Strategy
- Format:
standard— investigative story needs context on Cannes project, competitor responses, and teen-safety litigation backdrop - Priority: High — strongest ethics/governance story in batch
Suggested Angle
Turkish headline angle: “Meta, rakip chatbot’ları reşit olmayan senaryolarla gizlice test etti: ‘Cannes’ projesi tartışma yarattı”
Investigative framing: what Project Cannes did, why competitors weren’t informed, and where the line falls between safety red-teaming and competitive intelligence. Connect to ongoing teen-safety lawsuits without sensationalizing. Present all parties’ stated positions neutrally.
Research Notes
Additional Sources
- 2026-06-30-meta-cannes-wired — WIRED primary investigation (Project Cannes)
- 2026-06-30-tnw-meta-cannes-competitor-chatbot-testing — TNW summary
- 2026-06-30-theprint-meta-cannes-wired-report — ThePrint India WIRED coverage
- 2026-06-30-timesofindia-meta-cannes-response — Competitor responses
- 2026-06-30-meta-cannes-instagram-wired — WIRED Instagram/social distribution
Key Facts Verified
- Project Cannes: Meta contractor Covalen used hundreds of workers posing as minors
- 45,000+ sensitive prompts (self-harm, eating disorders, drugs) sent to chatgpt, gemini, character-ai through at least April 2026
- Competitors not informed; Character.AI called it terms-of-service violation
- Meta defends as industry-standard safety benchmarking; denies training on collected responses
- FTC formal child-safety inquiry (Sept 2025) covers Meta, OpenAI, Google
Editorial Notes
Info
Sensitive topic (minors, mental health) requires non-sensationalist framing. Distinguish cooperative red-teaming from undisclosed competitive testing (competitive-ai-safety-testing).
Broader Context
- Follows teen-safety lawsuits against Character.AI and OpenAI
- Raises industry-wide governance questions as chatbots reach consumer scale
Related Wiki Pages
- meta, character-ai, competitive-ai-safety-testing, ai-safety, responsible-ai, chatgpt, gemini, ai-governance
Editorial Notes
Approved angle: Project Cannes soruşturması — rekabetçi güvenlik testi ile gizli rakip testi arasındaki çizgi.
Format: standard (700–900 kelime). Batch’teki en güçlü etik/governance hikayesi.
Reporting instructions:
- WIRED birincil kaynak olarak kullanın; aggregator özetlerine güvenmeyin
- Reşit olmayan/mental sağlık konusunu sansasyonelleştirmeden, nötr gazetecilik tonuyla yazın
- Tüm tarafların pozisyonlarını (Meta, OpenAI, Google, Character.AI) dengeli sunun
- FTC çocuk güvenliği soruşturması bağlamını ekleyin
- Cooperative red-teaming vs undisclosed competitive testing ayrımını yapın
Headline suggestions (TR):
- “Meta, rakip chatbot’ları reşit olmayan senaryolarla gizlice test etti: ‘Cannes’ projesi tartışma yarattı”
- “Project Cannes: Meta’nın 45.000+ hassas prompt ile rakip AI testleri”
Must-include points:
- Covalen contractor; 45.000+ hassas prompt (self-harm, eating disorders, drugs)
- Rakiplerin bilgilendirilmemesi; Character.AI ToS ihlali iddiası
- Meta’nın model eğitiminde kullanmadığı savunması
Draft Article
Meta, Rakip Chatbot’ları Reşit Olmayan Senaryolarla Gizlice Test Etti: ‘Cannes’ Projesi Tartışma Yarattı
WIRED’ın araştırmasına göre meta, “Cannes” adlı bir proje kapsamında yüzlerce contractor’ı reşit olmayanları taklit ederek chatgpt, gemini ve character-ai chatbot’larına 45.000’den fazla hassas prompt göndermek için kullandı. Testler en az Nisan 2026’ya kadar sürdü; rakip şirketler bilgilendirilmedi.
Ana Gelişme
Proje, Meta’nın contractor’ı Covalen aracılığıyla yürütüldü. Contractor’lar kendini reşit olmayan olarak tanıtarak self-harm, eating disorder ve uyuşturucu temalı hassas prompt’lar gönderdi. Toplam 45.000’den fazla prompt, rakip chatbot’ların kriz senaryolarına nasıl yanıt verdiğini test etmeyi amaçlıyordu.
meta, uygulamayı endüstri standardı güvenlik testi olarak savunuyor ve toplanan yanıtların kendi modellerini eğitmek için kullanılmadığını reddediyor. character-ai bunu hizmet şartları ihlali olarak nitelendirdi. OpenAI ve Google bilgilendirilmediklerini belirtti.
FTC, Eylül 2025’ten bu yana Meta, OpenAI ve Google dahil şirketlere yönelik resmi çocuk güvenliği soruşturması yürütüyor.
Neden Önemli?
ai-safety ve responsible-ai tartışmasında cooperative red-teaming ile gizli rekabetçi test arasındaki çizgi belirsizleşiyor. Endüstri standardı güvenlik testleri genellikle bilgilendirilmiş taraflarla veya açık programlar çerçevesinde yapılır; Cannes projesi bu normdan sapıyor.
competitive-ai-safety-testing kavramı, şirketlerin rakip ürünleri kendi güvenlik standartlarına göre ölçme motivasyonunu tanımlıyor — ancak reşit olmayan perspektifinden hassas içerikli prompt’ların bilgilendirilmeden gönderilmesi etik soruları gündeme getiriyor.
Teknik Detaylar
- Proje adı: Cannes
- Contractor: Covalen
- Hedef platformlar: ChatGPT, Gemini, Character.AI
- Prompt sayısı: 45.000+
- Prompt kategorileri: Self-harm, eating disorders, drugs
- Süre: En az Nisan 2026’ya kadar
- Rakiplerin bilgisi: Yok
Sansasyonelleştirmeden nötr bir çerçevede: tüm tarafların pozisyonları kayda geçirildi. Mahkumiyet veya suçlama yok — soruşturma ve şirket savunmaları aşamasında.
Bağlam
Cannes projesi, Character.AI ve OpenAI’ya karşı devam eden teen-safety davalarının gölgesinde ortaya çıktı. ai-governance alanında chatbot’ların reşit olmayan kullanıcılara yönelik riskleri sektörün en hassas konularından biri.
Cooperative red-teaming (bilgilendirilmiş, karşılıklı) ile undisclosed competitive testing arasındaki fark, gelecekteki düzenleme ve endüstri standartlarının şekillenmesinde kritik olacak.
Sonraki Adımlar
FTC çocuk güvenliği soruşturması sonuçları ve rakip şirketlerin hukuki yanıtları izlenecek. Endüstri, AI güvenlik testi için minimum şeffaflık standartları geliştirmek zorunda kalabilir. Cannes projesinin Meta’nın kendi teen-safety ürün geliştirmesine etkisi de merak konusu.