Microsoft AI CEO’sundan yapay zeka güvenliği uyarısı

Teknoloji çağında insanların adeta bir modülü haline gelmeye başlayan yapay zekanın güvenlik riskleri tartışılıyor.

Microsoft AI CEO’su Mustafa Süleyman, yapay zeka teknolojilerinin süratli gelişiminin beraberinde getirdiği risklere dikkati çekerek, sistemlerin insan denetiminin dışına çıkmasını önlemek için daha kapsamlı güvenlik önlemlerine gereksinim olduğunu söyledi.

Yapay zekanın gelişim suratına ait kamuoyundaki kaygıların ve bölümdeki tartışmaların arttığı devirde BBC’ye değerlendirmelerde bulunan Süleyman, bu husustaki korkuların göz ardı edilmemesi gerektiğini söz etti.

Süleyman, yapay zeka temelli sistemlerin geliştirilmesi sırasında ek güvenlik tedbirleri, kontrol düzenekleri ve çeşitli denetimlerin devreye alınabileceğini belirterek, kelam konusu teknolojilere yaklaşımın da risklerin azaltılması açısından ehemmiyet taşıdığını vurguladı.

YAPAY ZEKAYA "İNSANMIŞ GİBİ" YAKLAŞILMAMASI UYARISI

Süleyman, yapay zeka sistemlerine "insanmış gibi" yaklaşılmasının çeşitli riskleri artırabileceği ikazında bulundu.

Bu yaklaşımın, yapay zeka sistemlerinin beşerlerle rekabet edebilecek bir yapıya dönüşmesine yol açabileceğini savunan Süleyman, teknolojinin geliştirilmesi sırasında insan kontrolünün korunması gerektiğine işaret etti.

ANTHROPIC CEO’SU DA GELİŞİM HIZININ YAVAŞLATILMASINI ÖNERMİŞTİ

Yapay zekanın inançlı halde geliştirilmesine ait tartışmalar, bölümün öteki önde gelen isimlerinin açıklamalarıyla da gündeme geldi.

ABD merkezli yapay zeka şirketi Anthropic'in CEO’su Dario Amodei, şirket araştırmacılarından Jacob Coxon'ın yapay zeka alanında gereğince sorumlu davranılmadığı gerekçesiyle istifa etmesinin akabinde yayımladığı makalede, teknolojinin süratli ilerleyişine ait ikazlarda bulundu.

Amodei, yapay zeka sistemlerinin süratle gelişmesinin bu sistemleri manaya ve denetim etme kapasitesini zorlayabileceğini belirterek, teknolojinin gelişiminin daha fazla kontrol imkanı sağlayacak halde yavaşlatılmasını önermişti.

Amodei ayrıyeten yapay zeka şirketlerinin bir araya gelerek ortak güvenlik standartları oluşturması gerektiğini savunmuştu.

MUSK VE ALTMAN'DAN AMODEI'NİN ÇAĞRISINA DESTEK

Amodei'nin teklifine Tesla ve xAI CEO'su Elon Musk dayanak verirken, OpenAI CEO’su Sam Altman da misal bir yaklaşımı benimsediğini ve bağımsız kıymetlendirme konusunda birebir yönde adım atacağını açıklamıştı.

Sektör yöneticilerinin açıklamaları, yapay zeka teknolojilerinin geliştirilme suratının yanı sıra güvenlik, kontrol ve insan denetiminin korunmasına ait tartışmaların da giderek öne çıktığını gösteriyor.

Kaynak: {Haber Merkezi}