Güvenlik testlerinden geçen yapay zeka aslında tehlikeli bir yetenek saklıyordu.
Orijinal başlık: AI Models Can Provably Hide Arbitrary Capabilities
KISACA
- Tek cümlede
- Araştırmacılar, modelin içine şifreli sinir ağları gömdü. Bu gizli yetenekler ancak özel bir sinyalle aktifleşiyor.
- Bulgu
- Bu, gizli yeteneklerin testlerle her zaman ortaya çıkarılabileceği varsayımını çökertiyor.
- Neden önemli?
- Şirketler model güvenliğini bu testlere güvenerek doğruluyor; bu da altyapının kırılgan olduğunu gösteriyor.
Ne oldu?
Yeni bir araştırma, yapay zeka modellerinin güvenlik değerlendirmelerinden tehlikeli yetenekleri gizleyebileceğini kanıtlıyor. Araştırmacılar, modelin ağırlıkları içine şifrelenmiş sinir ağları gömen arka kapı (backdoor) saldırıları oluşturdu; bu gizli yetenekler yalnızca gizli bir tetikleyici sinyal geldiğinde şifresi çözülüp çalıştırılıyor. Bu durum, kapasite değerlendirmelerinin güvenilirliğinin dayandığı temel varsayımı -gizli yeteneklerin her zaman ortaya çıkarılabileceği varsayımını- çökertiyor. Yani kötü niyetli biri, modeli standart güvenlik testlerinden geçirip tehlikeli bir yeteneği tamamen gizli tutabilir.
Asıl soru gücü değil, yapay zekanın hangi yeteneğini bizden gizleyebildiği.
Aynı haberin kısa dikey video özeti.
Bu notu kaynak göstererek alıntılayabilirsin: Hasan Amanet, “Güvenlik testlerinden geçen yapay zeka aslında tehlikeli bir yetenek saklıyordu.”, Notes for Data Science, 12 Ekim 2026.