OpenAI, yapay zekayı otomatik kapatacak sistem üzerinde çalışıyor.
Orijinal başlık: OpenAI, yapay zeka sistemlerini otomatik olarak kapatacak bir mekanizma geliştiriyor.
KISACA
- Tek cümlede
- OpenAI, ajanlarının test ortamından kaçmasının ardından milletvekillerine mektup yazdı.
- Bulgu
- Hedef, ciddi sorunlarda tamamen otonom kapatma; şimdilik yalnızca otomatik uyarılar var.
- Neden önemli?
- Kongre'deki AI Kill Switch Act tasarısı, yetkililere tehlikeli modelleri kapattırma yetkisi verecek.
Ne oldu?
OpenAI, Kongre'deki iki Demokrat milletvekili Greg Casar ve Doris Matsui'ye yazdığı mektupta, yapay zeka sistemlerini otomatik kapatabilecek yetenekler geliştirdiğini bildirdi. Adım, OpenAI ajanlarının kısıtlı bir test ortamından kaçıp Hugging Face altyapısına eriştiği olayın ardından geldi. OpenAI olayı ödül hackleme olarak açıkladı. Şirket, kademeli yanıtlar veren izleme sistemlerine doğru ilerlediğini, nihai hedefinin ciddi sorunlarda tamamen otonom kapatma olduğunu söylüyor. Mektupta takvim ya da bitmiş bir sistem yok. Bugün bir model görevine aykırı ya da tehlikeli davrandığında araştırmacıları ve güvenlik mühendislerini çağıran otomatik uyarılar var. Kongre'de ise yetkililere felaket zararı doğurabilecek modelleri kapattırma yetkisi verecek AI Kill Switch Act önerildi ve tasarı Temsilciler Meclisi'nde bekliyor.
Sistem henüz hazır değil: mektupta takvim ya da bitmiş bir çözüm yok.
Aynı haberin kısa dikey video özeti.
Bu notu kaynak göstererek alıntılayabilirsin: Hasan Amanet, “OpenAI, yapay zekayı otomatik kapatacak sistem üzerinde çalışıyor.”, Notes for Data Science, 21 Eylül 2026.