Internet Watch Foundation (IWF), yapay zekadaki ilerlemelerin pedofiller tarafından oluşturulan ve tüketilen yasadışı içeriklere yansıdığını belirterek şunları söyledi:

"2024'te yapay zeka tarafından üretilen videoların kalitesi katlanarak arttı ve değerlendirilen her türlü yapay zeka görüntüsü, teknoloji geliştikçe önemli ölçüde daha gerçekçi göründü."

IWF, yıllık raporunda 2024 yılında İngiltere yasalarını ihlal eden AI tarafından üretilen çocuk cinsel istismarı görüntülerine ilişkin 245 rapor aldığını açıkladı. Bu, 2023'te görülen 51'e göre yüzde 380'lik bir artış anlamına geliyor. Raporlar, 7 bin 644 görüntü ve az sayıda videoya denk geliyor ve bir URL'nin birden fazla yasadışı materyal örneği içerebileceği gerçeğini yansıtıyor.

Bu görüntülerin en büyük oranı, nüfuz edici cinsel aktivite veya sadizm içeren en aşırı çocuk cinsel istismarı içeriği terimi olan "A kategorisi" materyaldi. Bu, IWF tarafından görülen eyleme geçirilebilir AI materyalinin yüzde 39'unu oluşturuyordu.

İngiltere Hükümeti, Şubat ayında çocuk cinsel istismarı materyali üretmek üzere tasarlanmış AI araçlarına sahip olmanın, bunları yaratmanın veya dağıtmanın yasadışı olacağını duyurdu ve polisi ve çevrimiçi güvenlik kampanyacılarını alarma geçiren yasal bir boşluğu kapattı. Ayrıca, insanlara AI araçlarını kötüye kullanım görüntüleri oluşturmak veya çocukları kötüye kullanmalarına yardımcı olmak için nasıl kullanacaklarını öğreten kılavuzlara sahip olmak da yasadışı olacak.

İngiltere'de bir yardım hattı işleten ancak küresel bir yetkiye sahip olan IWF, yapay zeka tarafından üretilen görüntülerin yalnızca "karanlık web"de değil, açık internette de giderek daha fazla göründüğünü söyledi. Bu, özel tarayıcılar tarafından erişilen bir internet alanı. En ikna edici yapay zeka tarafından üretilen materyalin, eğitimli IWF analistleri için bile gerçek görüntü ve videolardan ayırt edilemez olabileceğini söyledi.