İnternet Gözlem Vakfı (IWF) tarafından yayımlanan son rapor, yapay zeka (AI) teknolojisi kullanılarak oluşturulan çocuk cinsel istismarı içeriklerinde kayda değer bir artış olduğunu ortaya koydu. Raporda, 2025 yılında yapay zeka tarafından üretilen bu tür görsellerin yüzde 14 oranında çoğaldığı belirtildi.

Sentetik İçeriklerin Karmaşık Yapısı ve Artan Tehlikesi

Rapor, yapay zeka üretimi çocuk istismarı görsellerinin geçmişteki diğer çocuk pornografisi türlerine kıyasla daha müstehcen, uç noktalarda ve karmaşık yapıda olduğunu vurguluyor. Araştırmacılar, sentetik içeriklerin gerçek fotoğraflardan ayırt edilmesinin giderek zorlaştığına dikkat çekiyor.

İngiltere merkezli ve çocuk cinsel istismarı materyallerinin (CSAM) kaldırılmasına odaklanan IWF, geçen yıl kullanıcı raporları aracılığıyla 8 binden fazla yapay zeka üretimi görüntü ve video tespit etti. Kurum, bir içeriğin yapay zeka ürünü olduğunu; bariz teknik hatalar içermesi, mağdurun içeriğin yapay zeka tarafından üretildiğini iddia etmesi veya içeriği oluşturan kişinin teknolojik detaylar paylaşması durumlarında sınıflandırıyor.

Alarm Verici Artış ve Hiper-Gerçekçi Videolar

Yapay zeka üretimi içerikler, internet üzerindeki toplam materyalin küçük bir bölümünü oluşturmasına rağmen, artış hızı "alarm verici" olarak değerlendiriliyor. Tespit edilen 3 bin 400’den fazla içerik, birden fazla kişinin etkileşimde bulunabildiği hiper-gerçekçi "tam hareketli" videolardan oluşuyor.

Bu videoların yüzde 65’ten fazlası, İngiltere yasalarına göre en ağır istismar kategorisinde yer alan tecavüz, cinsel işkence ve hayvanlarla cinsel ilişki gibi suçları içeriyor. Buna karşılık, yapay zeka olmayan içeriklerde bu oran yüzde 43 seviyesinde kalıyor. Bu durum, suçluların yapay zekayı daha uç ve karmaşık içerikler üretmek için kullandığını gösteriyor.

IWF CEO'su Kerry Smith'in Açıklamaları

"Bugün, benzeri görülmemiş bir kolaylıkla 'sonsuz ihlal' yaratabilen teknolojik bir ortamla karşı karşıyayız."

Suçluların yapay zeka araçlarını geliştirme ve paylaşma biçimlerine dair araştırma da raporda yer alıyor. Karanlık ağda (dark web) yapılan tartışmalarda faillerin özel yapay zeka modelleri ve veritabanları geliştirmek için iş birliği yaptığı, hatta reşit olmayanların görüntülerini üretmeyi öğreten "özel kurs" ilanlarının bulunduğu tespit edildi.

Raporda, teknik bilgi gereksiniminin azalması nedeniyle suça giriş bariyerinin önemli ölçüde düştüğü belirtiliyor. Birçok yapay zeka modeli, istismar içeriği üretmek için yalnızca tek bir referans fotoğrafına ihtiyaç duyuyor.

Avrupa Birliği'nden Yasak Çağrıları ve Düzenleme Talepleri

Rapor, yalnızca istismar içeriklerinin değil, bu içeriklerin üretiminde kullanılan araçların da yasaklanması gerektiğini vurguluyor. Böyle bir yasak, kullanıcıların kişisel içerik üretimini de yasa dışı kılabilir.

IWF CEO'su Smith, "Teknolojik gelişmeler asla bir çocuğun güvenliği ve refahı pahasına olmamalıdır," diyerek, bu tür yasakların "hiçbir istisna olmaksızın asgari standart" olarak kabul edilmesi gerektiğini belirtti.

Bu rapor, Avrupalı yasa yapıcıların internet platformlarının çocuk cinsel istismarı içeriklerini (CSAM) tespit etmesini sağlayan e-Gizlilik Direktifi'ndeki geçici uzatmayı onaylamasından kısa bir süre sonra yayımlandı. Geçici uzatma, 3 Nisan'da sona ermesi planlanıyor ve yasa yapıcılara uzun vadeli bir yasal çerçeve üzerinde anlaşma için zaman tanıyor.

Basın açıklamasında, gelecekte alınacak tüm önlemlerin "ölçülü" olması gerektiği ve tüm şifreli iletişimlerin gözetlenmesi yerine yalnızca potansiyel istismar materyali olarak işaretlenen içeriklere müdahale edilmesi gerektiği vurgulandı.

IWF ayrıca, çocuk cinsel istismarı içeriği üretiminde kullanılabilecek yapay zeka sistemlerinin "yüksek riskli" olarak sınıflandırılması için AB Yapay Zeka Yasası'nda (EU AI Act) değişiklik yapılmasını talep ediyor. Bu sınıflandırma, söz konusu sistemlerin AB’de kullanıma sunulmadan önce daha sıkı testlerden geçirilmesini zorunlu kılacak.

Raporda, daha kapsamlı denetimlerin CSAM içeriklerinin azalmasına katkı sağlayacağı öngörülüyor. Zaten çocukların cinsel istismarı ve çocuk pornografisi için yapay zeka kullanımı AB Yapay Zeka Yasası kapsamında yasaklanmış durumda ve mevzuat, bu amaçla hizmet eden sistemlerin AB genelinde erişilebilir olmasını engelliyor.