Yapay zeka şirketi Anthropic, Claude yapay zeka modelinin Yemen merkezli bir hücre tarafından balistik füze yapımında kullanıldığını açıkladı.
Anthropic’in raporuna göre hücre; uçuş bilgisayarı olarak telefon kullanan güdümlü bir roket, menzili 2.000 kilometrenin üzerinde olarak belirlenmiş çok kademeli bir balistik füze ve hipersonik süzülme aracı (glide vehicle) varyantı da içeren “R2000” adlı bir füze ailesi üzerinde çalışıyordu.
Hücrenin, Husilerle bağlantılı olma ihtimalinin yüksek olduğu değerlendiriliyor.
Hücre, Claude’u yazılım mühendislerinin yerine kullanarak açık kaynaklı bir otopilotu telefon sınıfı bir uçuş bilgisayarıyla entegre etmek, kontrol ve konum tahmin yazılımları yazmak için kullandı.
İşi tek bir model oturumuna sırayla yaptırmak yerine, birden fazla Claude oturumunu eş zamanlı çalıştırarak görevleri kodlama, araştırma ve teknik inceleme gibi farklı işlevlere böldüler — bir oturum kod yazarken, bir diğeri araştırma yapıyor, üçüncüsü ise ortaya çıkan kodu gözden geçiriyordu.
Anthropic, hücrenin operasyonel bir füzeyi sahaya sürdüğüne dair bir kanıt bulunmadığını ancak Yemen’de canlı bir güdümlü roket testi gerçekleştirdiklerine dair kanıt tespit ettiğini açıkladı.
Şirketin değerlendirmesine göre bu saha testi başarısız oldu: “Bu saha testi başarısız olmuş görünüyor. Saatler içinde operatörler, testin neden başarısız olduğunu anlamak için Claude’a geri döndü.”
Anthropic’in iç güvenlik önlemleri proje boyunca çok sayıda talebi engellemiş olsa da operatörler nihai kullanım amacını gizleyerek, işi ayrı konuşmalara bölerek ve diğer yöntemleri kullanarak kısıtlamaları aşmaya çalıştı.
Dikkat çekici bir detay ise hesaplar engellendiğinde operatörlerin Claude’a veya MATLAB gibi geleneksel mühendislik ortamlarına bağımlı olmadan çalışabilen çevrimdışı bir simülasyon araç setini çoktan oluşturmuş olmasıydı.
Anthropic, tespit ettiği anda ilgili hesapları yasakladığını ve benzer riskleri azaltmak için kamu ve özel sektör ortaklarıyla tehdit bilgisi paylaştığını belirtti.
Rapor ayrıca, Midnight Blizzard (APT29) olarak bilinen Rusya bağlantılı bir siber casusluk grubunun, Ukraynalı, Avrupalı ve diplomatik hedeflere (İHA üreticileri dahil) yönelik kimlik avı, altyapı kurulumu ve veri hırsızlığı gibi operasyonun neredeyse tamamını otomatikleştirilmiş yapay zeka iş akışlarıyla yürüttüğünü iddia etti.
Ayrı bir vakada Anthropic, Hunan eyaletindeki üniversite öğrencileri tarafından yürütülen ve Claude’u Orta Doğu, Avrupa ve Güneydoğu Asya’daki devlet ile kurumsal ağları hedef alan saldırgan bir programın “mühendislik ve orkestrasyon katmanı” olarak kullanan bir Çin operasyonunu da durdurduğunu açıkladı.
Kaynak: SavunmaSanayiST.com