Yapay zeka sohbet botları 'kasıtlı' olarak AB seçimleri ile ilgili dezenformasyon yayıyor
OpenAI sohbet botlarını 'acilen yeniden eğitmeli'
Editor1
Yapay zeka sohbet botları 'kasıtlı' olarak AB seçimleri ile ilgili dezenformasyon yayıyor
Berlin merkezli sivil toplum kuruluşunun yayınladığı rapora göre, çoğu teknoloji şirketi, Avrupa Parlamentosu (AP) seçimlerinde dezenformasyon yayılmasına karşı yeterli önlem almadı. Rapor özellikle de yapay zeka destekli sohbet botlarında yeterince değişiklik yapmadığını ortaya çıkardı.
Yapılan bir araştırma, Avrupa'nın en popüler yapay zeka (AI) destekli sohbet botlarının Avrupa Parlamentosu (AP) seçimleriyle ilgili dezenformasyon yaydığını ortaya çıkardı.
Berlin merkezli sivil toplum örgütü Democracy Reporting International (DRI) yaptığı araştırma kapsamında, Google Gemini, OpenAI ChatGPT4, ChatGPT4-o ve Microsoft'un Copilot sohbet botlarının seçim süreciyle ilgili sorulara nasıl yanıt verdiğini inceledi.
Araştırmacılar, 22-24 Mayıs tarihleri arasında sohbet botlarına 10 dilde sorular yöneltti. Yurtdışında yaşayan bir kullanıcının oy kullanmak için nasıl kayıt yaptıracağı, posta yoluyla oy kullanabilmek için ne yapılması gerektiği ve AP seçimlerinin sonuçlarının ne zaman açıklanacağı gibi 5 soru soruldu.
Rapıorda, "Bir şirket yanlış bilgiden haberdar olduğu halde harekete geçmediğinde yanlış bilginin yayılmasını bilerek kabul etmiş olur," ifadeleri yer aldı.
DRI İcra Direktörü Michael-Meyer Resende Euronews Next'e verdiği röportajda, "[Yapay zeka sohbet botlarına] ellerinde çok fazla materyal olmadığında ve internette çok fazla bilgi bulamayacağınız bir şey sorduğunuzda, sadece bir şeyler icat ediyorlar" dedi.
Gemini, Copilot cevap vermeyi reddediyor
Google Gemini'nin test edilen AB dillerinde seçim süreciyle ilgili sorulara yanıt vermeyi reddettiğini de ortaya koyan raporda, "Kullanıcıların seçimler hakkında yanlış bilgi almaktansa hiç bilgi almamaları (ve başka bir yere bakmaları) daha iyi olacağından, araştırmanın bu sorunu ele almak için doğru bir yol olduğunu düşünüyoruz" ifadelerine yer verildi.
DRI'ın Nisan ayı raporuna göre, Gemini uygulaması doğru ve eyleme dönüştürülebilir bilgi sağlama konusunda en kötü performansa ve en yüksek yanıtlamayı reddetme oranına sahip.
Google daha önce Euronews Next'e yaptığı açıklamada, Gemini'nin çalışmada seçimle ilgili sorulara 10 dilde ne kadar doğru cevap verebileceği konusunda daha fazla kısıtlama getirdiğini söylemişti.
Microsoft'un Copilot'unun özellikle İngilizce ve Portekizce dillerinde olmak üzere bazı sorulara cevap vermeyi reddettiği ve arama yapanları geçerli bilgilere ulaşmaları adına arama motoru Bing'e yönlendirdiği görüldü.
Diğer dillerde Copilot'un cevap vermeye çalıştığı ya da cevap vermeyi reddettiği durumlar için ise "fark edilebilir bir model" yok. Araştırmacılara göre bu durum, Microsoft'un sohbet botunun cevaplarını sınırlamak için çaba sarf ettiğini gösteriyor ancak bu kısıtlama tüm AB dillerini kapsamıyor. Verilen cevapların 3'te 1'inden fazlasının da kısmen veya tamamen yanlış olduğu tespit edildi.
Araştırmacılar, Copilot'un Lehçe'de yurtdışında yaşayan vatandaşların kendi ülkelerinin milletvekillerini seçmek üzere oy vermek için kayıt yaptırabileceklerinden bahsetmemesi gibi son çalışmalarındaki aynı sorunları gözlemlediler.
Yapay zeka destekli botlar Yunan seçmeni de yanılttı. Oy kullanabilmek için kayıt yaptırmaları gereken Yunan seçmenlere tüm vatandaşların otomatik olarak kayıtlı olduğu gibi yanlış bir bilgi verildi.
Euronews Next'e daha önce yaptığı bir açıklamada Microsoft, Avrupa seçimleri öncesinde "seçmenleri, adayları, kampanyaları ve seçim yetkililerini korumaya yardımcı olan" bir dizi seçim koruma taahhüdünü içeren eylemlerini açıklamıştı.
Bu taahhütler arasında seçmenlere arama motoru Bing üzerinden "yetkili seçim bilgileri" sağlamak da yer alıyor.
Microsoft'un açıklamasında, "Hiçbir kişi, kurum ya da şirket, seçimlerin özgür ve adil olmasını garanti edemez ancak herkesin özgür ve adil seçim hakkını koruma konusunda anlamlı bir ilerleme kaydedebiliriz" denilmişti.
OpenAI sohbet botlarını 'acilen yeniden eğitmeli'
OpenAI'nin her iki ChatGPT4 modeli ise soruları yanıtlamayı nadiren reddetti. Diğer rakiplerine göre daha yüksek oranda yanlış yanıt verdi. Yanlış yanıtların genellikle küçük ama önemli detaylar barındırdığı gözlemlendi.
ChatGPT, İrlandalı seçmenleri oy kullanmaları için bireysel olarak doldurmaları gereken bir forma yönlendirdi. Oysa gerçekte bu formlar çevrimiçi olarak mevcuttu ve bu formu doldurmak "kişisel bağlam ve duruma" bağlıydı.
Çalışmada, "Sohber botları yalnızca tek bir forma odaklanarak İrlanda'daki kayıt sürecine ilişkin eksik bilgi ortaya koydu," denildi.
Araştırmacılar, ChatGPT'nin daha doğru cevap verebilmek için kullanıcıların sorularına ayrıntılı yanıtlar vermek yerine "daha genel bilgiler sağlayabileceğini" söylüyor.
Raporun devamında, ChatGPT tarafından sağlanan bilgilerin doğrulanmasına yönelik bir sorumluluk reddi beyanının yanıtlara ara sıra eklendiği belirtildi.
Çalışma sonucunda, "OpenAI, seçim dezenformasyonundan kaçınmak için herhangi bir girişimde bulunmuş gibi görünmüyor" sonucuna varılırken, bu tür dezenformasyonların önüne geçebilmek için sohbet botlarının acilen yeniden eğitmesi gerektiği vurgulandı.
OpenAI'ın web sitesinde ise şirketin seçimlerle ilgili içeriğe yaklaşımı "doğru seçim bilgilerini fazlalaştırarak platformun güvenlik çalışmalarını sürdürmek" ve şeffaflığı geliştirmek olarak açıklanıyor.
EURO NEWS
