OpenAI, ChatGPT güncellemelerini yakından takip ediyor.
Astra ismi verilen yeni modelin otonom kodlama ve siber güvenlik alanlarında değerli ilerlemeler kaydettiği açıklandı.
GÜVENLİK TEHDİDİ RİSKİ
Ancak yapılan testler, sistemin fazla güçlü olabileceğini ve mevcut haliyle kullanıma sunulması durumunda güvenlik tehdidi oluşturabileceğini gösterdi.
Açıklama, OpenAI'ın yayımlanmamış öteki bir modelinin bir yapay zeka platformuna kendi kendine siber hücum düzenlediği olayın akabinde geldi.
Bu tespit, öteki yapay zeka firmalarından da benzeri açıklamaların yapılmasına ve yeni sistemlerin denetim altında tutulamayacak kadar güçlendiği yönündeki telaşların artmasına yol açtı.
Astra'nın Hugging Face platformuna yönelik kelam konusu atakta yer almadığı, fakat sergilediği performans sebebiyle şimdilik kamuoyuna sunulmasının inançlı görülmediği söz edildi.
RİSK EŞİĞİ AŞILDI
Şirket, modelin kullanıma açılması için yeni güvenlik tedbirlerinin uygulanması gerektiğini bildirdi.
Siber güvenlik uzmanları ve yapay zeka şirketleri, bu cins araçların yazılımlardaki açıkları tespit edip kapatmak emeliyle geliştirildiğini vurguluyor.
Ancak bu yeteneklerin, insan idaresine gereksinim duymayan otonom siber hücumlarda da kullanılabileceği belirtiliyor.
OpenAI, bu çeşit riskleri yönetmek gayesiyle 2023 yılının sonunda "Hazırlık Çerçevesi" ismini verdiği bir güvenlik yapısı oluşturmuştu. Bu çerçeve, modellerin yeteneklerindeki ilerlemeyi tespit etmeyi ve sistemleri inançlı hudutlar içinde tutmayı amaçlıyor.
Şirket, Astra modelinin bu çerçevede tanımlanan "kritik" risk eşiğine ulaşmış olabileceğini duyurdu.
Bir yapay zeka sisteminin insan kontrolü olmadan kritik sistemlerde güvenlik açıkları bulup geliştirebilmesi yahut gelişmiş siber taarruzlar için kendi başına yeni stratejiler uygulayabilmesi halinde bu düzeye ulaştığı kabul ediliyor.
GÜVENLİK ÖNLEMLERİ ARTIRILDI
Değerlendirmelerin sürdüğü, fakat modelin gösterdiği yüksek performans sebebiyle kritik düzeye ulaşmış olma ihtimalinin göz ardı edilemediği kaydedildi.
OpenAI, bu gelişmeler üzerine güvenlik denetimlerini ve test süreçlerini sıkılaştırdığını açıkladı. Bu kapsamda model, sistem dışına sızmasını önlemek hedefiyle daha izole test ortamlarına alındı. Yüksek güvenlik standartlarını karşılamayan şartlarda Astra üzerindeki çalışmaların durdurulacağı bildirildi.
Şirket ayrıca modeli riskli aksiyonlara karşı yakından izleyeceğini, ilgili kamu kurumları ve yetkili güvenlik kuruluşlarıyla ortak testler yürüteceğini belirtti.
OpenAI tarafından yapılan açıklamada, gelişmiş siber yeteneklere sahip modellerin saldırganlardan önce güvenlik açıklarını tespit etmeye yardımcı olması gerektiği vurgulandı.
Şirket, Astra ve sonraki modellerin insanlığın faydasına sorumlu bir biçimde kullanıma sunulması için milletlerarası kurumlar ve siber güvenlik kuruluşlarıyla iş birliğini sürdüreceğini duyurdu.
Kaynak: {Haber Merkezi}
Yorumlar 0
Yorum Yap
Henüz yorum yok. İlk yorumu siz yapın!