LLM’lerin “ben bir yapay zekayım” demesi chat template’den mi geliyor?
Bu çalışma arXiv ön baskısıdır; henüz hakemli incelemeden geçmemiştir.
Jędrzej Maczan’ın arXiv:2609.25021 makalesi, chat template’lerin LLM’lerin “ben bir AI’yım” disclaimer sesi ile “I feel” deneyimsel sesi arasında bir “switch” görevi gördüğünü gösteriyor. 9B parametreye kadar 8 açık kaynak instruct modelde test edildi.
Template kaldırıldığında disclaimer oranı 0,53’ten 0,36’ya düşüyor. Activation steering ile bu davranış 3 modelde yeniden üretilebiliyor veya bastırılabiliyor. Bulgular, AI güvenlik değerlendirmelerinde model self-report’larının yalnızca model ağırlıklarından değil, deployment formatından da etkilendiğini öne sürüyor. Çalışma COLM 2026 ve KONVENS 2026 workshop’larına kabul edildi.
Pratik çıkarım
OSS instruct model deploy eden ekipler, güvenlik değerlendirmelerinde self-referential voice ölçümlerini yaparken chat template formatını kontrol değişkeni olarak tutmalı.