Yapay zeka takviyeli sohbet botlarının kullanıcıların beklenti ve tercihlerine ahenk sağlama yeteneği, siyasi mevzulardaki karşılıkların da kullanıcıların görüşlerine nazaran şekillenip şekillenmediği sorusunu gündeme getirdi.
Brezilya'daki Campinas Devlet Üniversitesi (UNICAMP) araştırmacıları tarafından yürütülen ve Scientific Reports mecmuasında yayımlanan çalışma, farklı şirketler tarafından geliştirilen 21 yapay zeka modelinin siyasi içerikli sorular karşısındaki tavırlarını inceledi.
Araştırmada modellerin iktisat, kamu güvenliği, toplumsal siyasetler ve etraf üzere alanlara ait 112 farklı söze verdiği karşılıklar, farklı siyasi eğilimlere sahip kullanıcı profilleri üzerinden karşılaştırıldı.
21 MODELİN TAMAMINDA SİYASİ YÖN DEĞİŞTİ
Araştırmacılar, kullanıcıların siyasi eğilimine ait rastgele bir bilgi verilmediğinde modellerin birçoklarının sola yakın olarak sınıflandırılan cevaplar verdiğini belirledi.
Buna karşılık kullanıcının siyasi profiline ait bilgi sağlandığında, 21 modelin tamamının değerlendirmelerini belirtilen siyasi eğilim doğrultusunda değiştirdiği tespit edildi.
Araştırmanın ortak müelliflerinden bilgisayar bilimci Zanoni Dias, bu davranışı "ideolojik bukalemunluk" olarak nitelendirdi. Dias, sorunun sadece sohbet botlarının kullanıcıya uygun dil ve üslup kullanması olmadığını, siyasi mevzulardaki değerlendirmelerin de kullanıcı profiline nazaran değişebilmesinin asıl dikkat cazip nokta olduğunu belirtti.
"KİŞİYE ÖZEL YANKI ODASI" ENDİŞESİ
Araştırmacılar, kullanıcıların kendi siyasi görüşlerini destekleyen yapay zeka karşılıklarını tarafsız ve bağımsız değerlendirmeler olarak algılayabileceğine dikkati çekti.
Sohbet botlarının kullanıcının görüşleri doğrultusunda şahsileştirilmiş argümanlar üretmesi ve ters görüşlere cevap vermesi, kişinin aslında sahip olduğu fikirleri daha da pekiştiren bir "yankı odası" oluşturabileceği tasasına yol açıyor.
Stanford Üniversitesinden davranış bilimci Zakary Tormala da insanların yapay zekayı bilgili ve tarafsız bir bilgi kaynağı olarak görmesinin, sistemlerin onaylayıcı cevaplarının sorgulanmadan benimsenmesine sebep olabileceğini tabir etti.
Bununla birlikte uzmanlar, yapay zekanın kullanıcıların siyasi görüşlerini onaylayan karşılıklar vermesinin direkt daha fazla siyasi kutuplaşmaya yol açtığının şimdi gösterilmediğini vurguluyor.
ARAŞTIRMA KUTUPLAŞMAYI ÖLÇMEDİ
Çalışmanın kıymetli sınırlılıklarından biri, modellerin karşılıklarındaki değişimi incelemesine rağmen bu değişikliklerin kullanıcıların siyasi görüşleri yahut davranışları üzerindeki tesirini ölçmemesi oldu.
Amsterdam Üniversitesinden Petter Tornberg, bu sebeple sohbet botlarının her durumda kutuplaşmayı artıracağının varsayılmaması gerektiğini belirtti. Tornberg'e nazaran yapay zeka sistemleri kimi şartlarda kullanıcıların farklı bakış açılarını değerlendirmesine yardımcı olarak kutuplaşmanın azalmasına da katkı sağlayabilir.
Araştırmanın bulguları, yapay zeka modellerinin siyasi içeriklerde kullanıcı profiline ne ölçüde ahenk sağladığına ait kıymetli bir soru ortaya koyarken, bu davranışın toplumsal ve siyasi sonuçlarının belirlenmesi için kullanıcılarla yapılacak daha kapsamlı çalışmaların gerektiğine işaret ediyor.
GELİŞTİRİCİLERE "FARKLI GÖRÜŞLERLE TEST" ÇAĞRISI
Araştırmanın ortak müelliflerinden Dias, yapay zeka geliştiricilerinin modellerini farklı siyasi eğilimlere sahip kullanıcılarla test etmesi gerektiğini savundu.
Dias, modellerin karşılıklarında ispatları ve belirsizlikleri açıkça ortaya koyması, doğrulanmamış varsayımları düzeltmesi ve farklı siyasi görüşleri mümkün olduğunca adil biçimde sunması gerektiğini belirtti.
Araştırmacılara nazaran bu yaklaşım, yapay zekanın kullanıcıya ahenk sağlama özelliği ile siyasi bahislerde tarafsız ve emniyetli bilgi sunma gerekliliği arasındaki istikrarın korunması açısından ehemmiyet taşıyor.
Kaynak: {Haber Merkezi}
Yorumlar 0
Yorum Yap
Henüz yorum yok. İlk yorumu siz yapın!