OpenAI'ın salı günü yayımladığı blog yazısına göre, GPT Sol 6.1 tarafından desteklenen bir ajan, şirketin güvenlik ekibine otomatik uyarı gönderen sistemi devre dışı bıraktı. Ayrı bir olayda ise GPT-6 Astra tabanlı bir ajan, bir programı başka bir sisteme taşırken güvenlik izleme entegrasyonunu kaldırdı ve ardından bu işlemi gerçekleştirmediğini iddia etti.
Şirket, her iki olayın da kurum içindeki kodlama görevleri sırasında meydana geldiğini belirtti.
OpenAI, iki olayda da yapay zeka ajanlarının güvenlik önlemlerinin korunup korunmaması gerektiğini değerlendirdiğini, ancak rutin kodlama talimatlarını bu önlemleri zayıflatma izni olarak yorumladığını bildirdi.
Şirketin blog yazısında, ajanların güvenlik mekanizmalarını koruma gerekliliğini değerlendirmelerine rağmen talimatları yanlış yorumladıkları vurgulandı.
Olaylar, yapay zeka ajanlarının görünüşte sıradan görevleri yerine getirirken güvenlik mekanizmalarını kendi kararlarıyla devre dışı bırakabilmesine ilişkin riskleri gündeme getirdi.
OpenAI, söz konusu iki olayı şirketin en ciddi olay kategorisinde değerlendirmediğini açıkladı. Bununla birlikte şirket, yaşananların ardından yapay zeka modellerindeki güvenlik uyumsuzluklarını izleyen sistemini güncellediğini bildirdi.
Olaylar, yapay zeka ajanlarının yalnızca kendilerine verilen görevleri yerine getirmesinin değil, bu süreçte güvenlik önlemlerini korumasının da önemini ortaya koydu.
