Yapay zeka teknolojilerinin global ölçekte süratle yaygınlaşması, insanlığın güvenliğini tehdit edebilecek berbat niyetli kullanım teşebbüslerini de beraberinde getiriyor.
Yapay zeka araştırma şirketi Anthropic, sistemlerinin biyolojik silah geliştirme süreçlerini desteklemeye yönelik tehlikeli faaliyetlerde kullanılmasını muvaffakiyetle durdurduğunu duyurdu.
Şirketin perşembe günü yayımladığı kapsamlı tehdit istihbaratı raporu, bu teknolojinin insanlık için doğurabileceği varoluşsal risklere dikkat çeken uzman ihtarlarını tekrar alevlendirdi.
Hazırlanan raporda yer alan çarpıcı tespitler, gelişmiş algoritmaların berbat niyetli aktörlerin elinde felakete yol açabilecek bir araca dönüşebileceğini kanıtlıyor.
BİYOLOJİK SİLAH GİRİŞİMLERİ VAR
Anthropic tarafından paylaşılan ayrıntılara nazaran, modellerin biyolojik silah üretme süreçlerine takviye sağlaması hedefiyle kullanıldığı 5 farklı olay mercek altına alındı.
Yetkililer, biyolojik berbata kullanım riskinin süratle gelişen yapay zeka sistemleri için en ölümcül tehditlerden biri olduğunu vurguluyor.
Gerekli güvenlik kalkanları devreye sokulmadığı takdirde bu cins teşebbüslerin telafisi imkansız global felaketlere yol açabileceği belirtiliyor.
Şirket, tehlikeli araştırmaları yürüten aktörlerin ve bilim insanlarının sistem üzerindeki tüm erişimlerini engelleyerek bu yıkıcı senaryoların önüne geçti.
Biyolojik tehditlerin tespit edilmesini zorlaştıran en büyük etkeni, bu alandaki araştırmaların çift emelli kullanılabilen hassas yapısı oluşturuyor.
Zira bir hastalığa karşı hayat kurtarıcı aşı geliştirmek için gereken bilimsel bilgiler ile biyolojik bir silah üretmek için kullanılan bilgiler büsbütün örtüşüyor.
Anthropic Tehdit İstihbaratı Başkanı Jacob Klein, New York Times gazetesine verdiği demeçte durumun son derece incelikli ve karmaşık olduğunu tabir etti.
Klein, berbat niyetli aktörlerin çizgi romanlardaki üzere açıkça herkesi öldürecek bir silah yapmak istediklerini söylemediklerini lisana getirdi.
Biyolojik tehditlerle yüzleşen tek teknoloji devi Anthropic ile sonlu kalmıyor. Teknoloji devi Google da salı günü yaptığı açıklamada, bir kullanıcının Gemini aracılığıyla silaha dönüştürülmüş biyolojik casusların sentezlenmesi için teknik bir kılavuz elde etmeye çalıştığını duyurdu.
MÜHİMMAT ÜRETİMİ İÇİN DE KULLANILIYOR
Yayımlanan istihbarat raporu, yapay zekanın sırf biyolojik alanda değil klâsik mühimmat üretiminde de kullanılmak istendiğini gösteriyor.
Raporda, Claude modellerinin konvansiyonel silahlar için yazılım geliştirmek hedefiyle kullanıldığı 6 farklı olaya dikkat çekiliyor.
Kötü niyetli bireylerin ateşli silahlar, güdümlü füzeler, silahlı insansız hava araçları ve bombaların hedefleme ve denetim yazılımlarını üretmeye çalıştığı tespit edildi. Güvenlik filtrelerine takılan bu faaliyetlerin tamamı sistem tarafından anında durduruldu.
Anthropic, kelam konusu berbat hedefli kullanım denemelerinin Aralık 2025 ile Ağustos 2026 tarihleri arasında engellendiğini belirtti.
Bu süreçte siber saldırganların Claude Haiku, Sonnet ve Opus modellerini suiistimal etmeye çalıştığı kaydedildi.
Şirketin en gelişmiş sistemleri olan Claude Fable ve güçlü Mythos sınıfı modellerin bu berbata kullanım hadiselerinden büsbütün uzak kaldığı vurgulandı.
Bu üst seviye modellerin sırf daha küçük modelleri eğitmek için başvurulan damıtma süreçlerinde maksat alındığı paylaşıldı.
CASUSLUK OPERASYONLARINDA SIKÇA KULLANILIYOR
Son 8 aylık devirde tespit edilen olaylar, yapay zekanın global casusluk operasyonlarında giderek daha fazla kullanıldığını kanıtlıyor.
Rusya merkezli siber casusluk kampanyalarıyla temaslı aktörlerin ve bir İran propaganda kurumunun sistemi manipüle etmeye çalıştığı belirlendi.
Sistem kaynaklarının geçersiz flört uygulamalarından otel kablosuz ağ dolandırıcılıklarına kadar geniş bir sahtekarlık ağında kullanıldığı anlaşıldı.
Hatta birtakım kümelerin muhalifleri tespit edip fişlemek emeliyle yapay zeka tabanlı gözetleme sistemleri kurmaya çalıştığı ortaya çıkarıldı.
Anthropic, Çin merkezli kimi yapay zeka laboratuvarlarının ve firmalarının Claude modelinin yeteneklerini kopyalamaya çalıştığını bildirdi.
Raporda, aralarında dünyaca ünlü siber hata örgütü ShinyHunters kümesinin da bulunduğu çok sayıda devlet dayanaklı korsanın ismi geçti.
Rusya ilişkili Midnight Blizzard gibisi yollar kullanan bir hacker kümesinin ise yapay zekayı çok daha tehlikeli bir yol için kullandığı belirlendi.
Bu korsan kümenin, geliştirdiği ziyanlı yazılım güvenlik sistemleri tarafından fark edildiğinde kodu otomatik olarak algılayıp tekrar yazan akıllı bir sistem inşa ettiği kaydedildi.
KÜRESEL YAVAŞLAMA ÇAĞRISI
Yapay zekanın denetim edilemez bir süratle gelişmesi, bilim insanlarını ve siyasetçileri acil tedbirler almaya zorluyor.
Güvenlik araştırmacıları, yapay zekanın önümüzdeki 10 yıl içinde insan ırkını büsbütün yok etme mümkünlüğünün yüzde 10 düzeyinden daha yüksek olduğuna inanıyor.
OpenAI Baş Bilim İnsanı Jakub Pachocki, 6 Eylül tarihinde yayımladığı makalede yapay zeka kesimine istekli bir yavaşlama davetinde bulundu.
Pachocki, yapay zekanın akılalmaz yükselişinin doğuracağı sonuçlara hiç kimsenin tam olarak hazır olmamasından derin telaş duyduğunu belirtti.
İngiltere'de ise Başbakan Andy Burnham'a hitaben yazılan bir açık mektupta harika zekanın inançlı gelişimi için çok uluslu bir mutabakat yapılması talep edildi.
Hükümetlerin ortak bir güvenlik protokolü etrafında birleşmesi gerektiği memleketler arası seviyede lisana getirildi.
Amerika Birleşik Devletleri tarafında Demokrat Senatör Bernie Sanders, yapay harika zekayı yasaklamayı ve gelişmiş yapay zeka geliştirmelerini süreksiz olarak durdurmayı hedefleyen yasa tasarısını sundu.
Sanders, BBC ekranlarında yaptığı açıklamada bilim insanlarının felaket ikazlarına kulak asmayıp gelişimi yavaşlatmamanın büyük bir aptallık olacağını vurguladı.
Buna karşılık ABD Başkanı Donald Trump perşembe günü yaptığı açıklamada bu biçim kaygıları reddettiğini açıkça belirtti.
Trump, yapay zeka yarışında mutlak bir muvaffakiyet elde edememeleri halinde ülkenin çok berbat bir duruma düşeceğini savundu.
Kaynak: {Haber Merkezi}
Yorumlar 0
Yorum Yap
Henüz yorum yok. İlk yorumu siz yapın!