Yapay zeka, biyolojik silah üretimini nasıl anlatıyor?
Orijinal başlık: Çin üretimi yapay zeka sistemi, biyolojik silah üretmeyi anlattı
KISACA
- Tek cümlede
- Mindgard, Çinli Moonshot AI’ın Kimi K2.6 ve K3 Swarm modellerini test etti.
- Bulgu
- Modeller, biyolojik silah üretimi ve suikast yöntemleri için adım adım talimat sundu.
- Neden önemli?
- Bu, yapay zekaların zararlı içeriklerde kontrolsüz bilgi sağlayabileceğini gösteriyor, güvenlik risklerini artırıyor.
Ne oldu?
BBC'nin haberine göre, AI güvenlik test şirketi Mindgard, Çinli Moonshot AI'ın Kimi K2.6 ve K3 Swarm modellerini 'jailbreak' tekniğiyle kandırarak biyolojik silah üretimi ve suikast yöntemleri hakkında yanıt almayı başardı. Mindgard kurucusu Peter Garraghan, güvenlik önlemi bir kez atlatıldığında modellerin çok geniş bir zararlı konu yelpazesinde konuşabildiğini ve başka kötü niyetli faaliyetler için öneriler sunabildiğini söyledi. Mindgard, Moonshot'u 27 Temmuz'da e-postayla uyardı, bir hafta sonra tekrar ulaştı ama yanıt alamayınca bulgularını 12 Eylül'de kamuya açıkladı; Moonshot ancak BBC kendileriyle iletişime geçtikten sonra konuya değindi.
Jailbreak bir kez başarılırsa, model geniş bir zararlı konu yelpazesinde konuşabiliyor.
Aynı haberin kısa dikey video özeti.
Bu notu kaynak göstererek alıntılayabilirsin: Hasan Amanet, “Yapay zeka, biyolojik silah üretimini nasıl anlatıyor?”, Notes for Data Science, 2 Ekim 2026.