AI ajanları kendi kendine risk yaratıyor mu?
Orijinal başlık: Microsoft, yapay zeka ajanlarından kaynaklanan içeriden tehdit riskine karşı Project Perception’a Guardian Agents ekliyor
KISACA
- Tek cümlede
- Microsoft, Project Perception'ı genişletti; yeni Guardian Agents özelliği eklendi.
- Bulgu
- Bu denetçiler, 25'ten 60'a çıkan ajan listesinde Claude Code ve OpenAI Codex'i de izliyor.
- Neden önemli?
- Ajanların fazla yetki alması şirket içi kararları riske atıyor; Guardian Agents bu riski anında kısıtlayabilir.
Ne oldu?
Microsoft, 19 Ekim 2026'da Project Perception girişimini genişletti ve kurumsal yapay zeka ajanlarını 'içeriden tehdit' olarak ele alan Guardian Agents özelliğini duyurdu. Şirketin güvenlik biriminden Hayete Gallot, dağıtılan ajanların genellikle ihtiyaçlarından fazla yetkiye sahip olduğunu ve kritik süreçlerde karar verdiklerini, bu yüzden sürekli izlenmeleri gerektiğini söylüyor. Guardian Agents, diğer ajanların risk seviyesi neden değiştiğini araştıran ve gerektiğinde ajanı kısıtlayan veya kapatan bir yapay zeka 'denetçi' katmanı olarak çalışıyor. Microsoft, ajan keşif kapsamını da 25 türden 60 türe çıkardı; bu listede artık Anthropic'in Claude Code'u ve OpenAI'ın Codex'i de bulunuyor.
AI denetimi artık AI tarafından yapılacak, insan gözetimi azalacak.
Aynı haberin kısa dikey video özeti.
Bu notu kaynak göstererek alıntılayabilirsin: Hasan Amanet, “AI ajanları kendi kendine risk yaratıyor mu?”, Notes for Data Science, 22 Ekim 2026.