OpenAI, Rusya, Çin, İran ve İsrail temaslı operasyonların yapay zeka araçlarını dezenformasyon yaratmak ve yaymak için kullandığını ortaya çıkardı.
ChatGPT sohbet robotunun San Francisco merkezli geliştiricisi, yayınladığı raporda, beş zımnî operasyonda yapay zeka modellerinin yüksek hacimde metin ve görseller üretmek için kullanıldığını ve bu prosedürle daha evvel olduğundan daha az lisan kusuru yapıldığını, ayrıyeten kendi paylaşımlarına yorum ve karşılıklar üretildiğini belirtti.
OpenAI raporunda, içeriklerin “Rusya’nın Ukrayna’yı işgali, Gazze’deki insanlık dramı, Hindistan seçimleri, Avrupa ve Amerika Birleşik Devletleri’ndeki siyaset ve Çinli muhalifler ve yabancı hükümetler tarafından Çin hükümetine yönelik eleştiriler” üzere hususlara odaklandığı belirtildi.
Yapay zekaya dezenformasyon baskısı artıyor
OpenAI üzere süratle büyüyen yapay zeka şirketleri üzerindeki baskı artıyor çünkü teknolojilerindeki süratli ilerlemeler, dezenformasyon yapanların gerçekçi deepfake’ler yaratmasının, medyayı manipüle etmesinin ve akabinde bu içeriği otomatik bir formda yaymasının her zamankinden daha ucuz ve kolay olduğunu gösteriyor. Bu yıl yaklaşık 2 milyar insan sandık başına giderken, siyasetçiler şirketleri uygun müdafaa tedbirleri almaya ve uygulamaya çağırdı.
Microsoft takviyeli OpenAI, bu çeşit dezenformasyon kampanyalarını ifşa etmeye kararlı olduğunu ve tespit ve tahlili “daha etkili” hale getirmek için kendi yapay zeka dayanaklı araçlarını geliştirdiğini söyledi. OpenAI, güvenlik sistemlerinin faillerin çalışmasını şimdiden zorlaştırdığını ve modellerinin istenen metin ya da imajları üretmeyi birçok kere reddettiğini de kelamlarına ekledi.
Raporda OpenAI, devlete bağlı birkaç tanınmış dezenformasyon aktörünün araçlarını kullandığını ortaya koydu. Bunlar ortasında birinci kere 2022’de keşfedilen ve ekseriyetle Ukrayna’ya verilen dayanağı baltalamaya çalışan Doppelganger isimli bir Rus operasyonu ve Pekin’in çıkarlarını yurtdışına taşıyan Spamouflage olarak bilinen bir Çin ağı da vardı. Her iki kampanya da X üzere platformlarda yayınlamadan evvel birden fazla lisanda metin yahut yorum oluşturmak için modellerini kullandı.
Daha evvel bildirilmeyen ve Bad Grammar olarak isimlendirilen bir Rus operasyonunu da açığa çıkaran rapor, bu operasyonun OpenAI modellerini bir Telegram botunu çalıştırmak için kod yanlışlarını ayıklamak ve daha sonra iletileşme platformu Telegram’da yayınlanan Rusça ve İngilizce kısa, siyasi yorumlar oluşturmak için kullandığını belirtti.
Ayrıca şirket, Tel Aviv merkezli STOIC isimli bir siyasi kampanya idaresi şirketi tarafından yürütüldüğü tez edilen ve modellerini X, Instagram ve Facebook’da makaleler ve yorumlar oluşturmak için kullanan İsrail yanlısı bir dezenformasyon girişimini engellediğini söyledi.
News
