Çin’in AI destekli sansür sistemi deşifre oldu: 133 bin örnekli veri sızıntısı
Çin'in AI destekli sansür sistemi, sızan 133 bin örnekle ortaya çıktı. Yoksulluk şikayetlerinden yolsuzluk haberlerine, siyasi hicivden Tayvan ve askeri konulara kadar geniş bir yelpazede içerikleri tarayan bu sofistike teknoloji, toplumsal huzursuzluğu engellemeyi ve dolaylı eleştirileri bastırmayı hedefliyor. Otoriter rejimlerin yapay zeka geliştirmeleri yarışındaki son hamlesi, küresel çapta teknoloji ve özgürlük tartışmalarını alevlendirebilir.
Çin’in yapay zeka (AI) teknolojisiyle güçlendirdiği yeni sansür sistemi, sızan bir veri tabanıyla gün yüzüne çıktı. TechCrunch’un elde ettiği ve incelediğini duyurduğu 133 bin örnekten oluşan veritabanı, Çin hükümetinin çevrimiçi içerikleri otomatik olarak tarayıp “hassas” görülenleri tespit eden gelişmiş bir büyük dil modeline (LLM) sahip olduğunu kanıtladı. Sistem, Tiananmen Meydanı gibi bilinen tabuların ötesine uzanarak yoksulluk, yolsuzluk ve ince siyasi eleştirileri de kapsıyor.
AI İLE BASKIYI ARTIRMA ÇABASI!
Kaliforniya Üniversitesi Berkeley’de Çin sansürü üzerine çalışan araştırmacı Xiao Qiang, verdiği demeçte, “Bu, Çin hükümetinin AI ile baskıyı artırma çabasının açık bir göstergesi” ifadelerini kullandı. Geleneksel sansür yöntemlerinin aksine, anahtar kelime filtreleme ve manuel incelemeye dayanmayan bu yapay zeka sistemi kontrolün hızını ve kapsamını artırıyor.
Veritabanı, güvenlik araştırmacısı NetAskari tarafından Baidu sunucularında korumasız bir Elasticsearch veritabanında keşfedildi. Baidu’nun veya Elasticsearch’in sistemin geliştirilmesinde rolü olduğuna dair kanıt bulunmazken, verilerin Aralık 2024’e kadar güncel olduğu doğrulandı. Sistemin geliştiricisi ise henüz netlik kazanmadı.
HEDEFTA TAYVAN VAR
AI modeli, siyasi, sosyal ve askeri içeriklere odaklanarak “en yüksek öncelik” kategorisindeki konuları anında işaretliyor. Çevre kirliliği, gıda güvenliği skandalları, mali dolandırıcılık ve işçi anlaşmazlıkları gibi halk protestolarını tetikleyebilecek konular ilk planda yer alıyor.
Örneğin, 2012’deki Shifang anti-kirlilik protestoları gibi konular sansürlenen içerikler arasında yer alıyor. Siyasi hiciv, özellikle güncel liderleri tarihsel benzetmelerle eleştiren paylaşımlar otomatik olarak işaretlenerek engelleniyor. Tayvan politikası ve askeri hareketler de yoğun şekilde izlenenler arasında. TechCrunch’un yayınladığı analize göre, “Tayvan” kelimesi veri setinde 15 binden fazla kez yer alıyor.
KİNAYELİ ELEŞTİRİLER DAHİ SANSÜRDEN KAÇAMIYOR
Sistem, toplumsal gerilim yaratabilecek konuları da hedef alıyor. Bir işletmecinin yerel polisin girişimcileri haraca bağladığına dair şikayeti, kırsalda sadece yaşlılar ve çocukların kaldığı kasabaları anlatan bir paylaşım ve Çin Komünist Partisi’nin (ÇKP) yolsuz bir yetkiliyi ihraç ettiğini bildiren bir haber, sansür kapsamına giriyor. Sistem o kadar gelişmiş şekilde eğitilmiş ki, atasözleri, deyimler veya kinayelerle güç geçişlerini ima eden dolaylı eleştiriler bile sistemin radarından kaçmıyor.
OTORİTER REJİMLERİN AI YARIŞI
Bu sızıntı, otoriter rejimlerin AI teknolojisini benimseme hızını bir kez daha gözler önüne serdi. Şubat ayında OpenAI, Çinli bazı grupların AI ile hükümet karşıtı paylaşımları izlediğini ve muhalifleri karaladığını rapor etmişti. Çin’in Washington D.C. Büyükelçiliği ise yaptığı açıklamada, “Çin’e yönelik temelsiz ithamları” reddetti ve etik AI geliştirimine önem verdiklerini vurguladı.
Uzmanlar, sistemin yalnızca Çin vatandaşlarını izlemekle sınırlı kalmayıp yurtdışındaki söylemleri takip etmek veya AI modellerini geliştirmek için de kullanılabileceğini belirtiyor. Çin’in AI destekli sansür atağı, teknoloji ile insan hakları arasındaki gerilimi yeniden gündeme taşıyor. Dijital dünyada kontrol, artık insan gözünden çok makinelerin hızına ve keskinliğine emanet.
