Çocuklar İçin “Bağımlılık Yaratan” Akışlara Yasak Geliyor: Sosyal Medya ve Yapay Zekâ Tasarımında Yeni Bir Dönem mi Başlıyor?

Sosyal medya tartışmalarında uzun süre çocukların ne izlediğine odaklanıldı. Şimdi soru değişiyor: Çocukları ekranda tutmak için uygulamalar nasıl tasarlanıyor?

Kaliforniya Valisi Gavin Newsom’un 10 Eylül’de imzaladığı yeni çocuk güvenliği paketi, 16 yaşından küçük kullanıcılara “bağımlılık yaratan” özelliklerin sunulmasını hedef alan yeni kurallar getiriyor. Sonsuz kaydırma, otomatik oynatma ve kullanıcının geçmişine göre sürekli içerik öneren bazı akış sistemleri düzenlemenin merkezinde bulunuyor.

Bu gelişme yalnızca sosyal medya için önemli değil. Aynı paket, çocukların kullandığı yapay zekâ sohbet sistemlerine de yeni güvenlik yükümlülükleri getiriyor.

Sorun artık yalnızca içerik değil, tasarım

Bir sosyal medya platformunda zararlı bir video kaldırılabilir. Fakat çocuğun saatler boyunca uygulamada kalmasını sağlayan sistem tek bir videodan oluşmuyor.

Sonsuz kaydırma ekranın sonunu ortadan kaldırıyor. Otomatik oynatma kullanıcı karar vermeden bir sonraki içeriği başlatıyor. Kişiselleştirilmiş algoritmalar ise hangi içeriğin kullanıcıyı biraz daha uzun süre tutabileceğini tahmin ederek akışı sürekli yeniden düzenliyor.

Kaliforniya’nın yeni yaklaşımı tam olarak bu noktaya müdahale ediyor. 16 yaşından küçük kullanıcılara belirli “bağımlılık yaratan” özellikleri sunan platformların bunları kaldırması ya da genç kullanıcıların hizmete erişimini sınırlaması gerekecek.

Böylece teknoloji düzenlemelerinde önemli bir sınır aşılmış oluyor:

Yalnızca ekrandaki içeriğin değil, ekranın çalışma biçiminin de güvenlik konusu olabileceği kabul ediliyor.

Yapay zekâ neden aynı tartışmanın içinde?

Yeni düzenlemelerin dikkat çekici taraflarından biri sosyal medya ile AI sohbet sistemlerini aynı çocuk güvenliği tartışmasının içine taşıması.

Çünkü yapay zekâ sohbet robotları klasik sosyal medya akışlarından farklı çalışsa da başka bir güçlü mekanizmaya sahip: etkileşimin kişiselleşmesi.

Bir chatbot kullanıcının söylediklerine cevap verebilir, konuşmanın bağlamını sürdürebilir ve uzun süre devam eden kişisel bir etkileşim oluşturabilir. Kaliforniya’nın yeni düzenlemeleri bu nedenle AI chatbot işletmecilerine çocuk güvenliği risk değerlendirmeleri ve ek koruma yükümlülükleri getiriyor.

Bu, AI tasarımında yeni bir soruyu gündeme getiriyor.

Bir sistemin amacı yalnızca iyi cevap vermek mi olmalı, yoksa özellikle çocuklarda kullanıcıyı konuşmanın içinde mümkün olduğunca uzun tutmamak da tasarım hedeflerinden biri haline mi gelmeli?

“Ekran süresi” tartışması değişiyor

Yıllardır ebeveynlere çocuklarının ekran süresini sınırlamaları öneriliyor.

Fakat yeni düzenlemelerin arkasındaki düşünce sorumluluğun tamamını aileye bırakmıyor. Eğer bir ürün kullanıcıyı mümkün olduğunca uzun süre içeride tutacak şekilde tasarlanıyorsa, yalnızca “telefonu çocuğun elinden alın” demenin yeterli olmadığı savunuluyor.

Bu yaklaşım başka yerlerde de güçleniyor. New York’un SAFE for Kids düzenlemeleri, 18 yaşından küçük kullanıcılar için ebeveyn izni olmadan algoritmik olarak kişiselleştirilmiş akışları ve gece bildirimlerini sınırlandırıyor.

Kaliforniya’da ise Meta ile eyaletler arasında varılan ve mahkeme onayına tabi olan anlaşma; genç hesaplarda varsayılan süre sınırları, gece kullanım engelleri, bildirim kısıtlamaları ve kişiselleştirilmemiş akış seçeneği gibi değişiklikler öngörüyor.

Bütün bunlar aynı yöne işaret ediyor: Çocuklara yönelik dijital ürünlerde varsayılan ayarlar değişebilir.

Geleceğin çocuk hesabı farklı çalışabilir

Bugün birçok dijital ürün önce yetişkin kullanıcı için tasarlanıyor, ardından çocuklara yönelik bazı güvenlik özellikleri ekleniyor.

Yeni yaklaşım bunun tersini gerektirebilir.

Bir çocuğun hesabında sonsuz kaydırma bulunmayabilir. Otomatik oynatma kapalı olabilir. Gece bildirimleri gelmeyebilir. Algoritmik öneriler sınırlandırılabilir ve yapay zekâ sohbetlerinde daha güçlü güvenlik katmanları devreye girebilir.

Bu durumda çocuklara yönelik internet deneyimi, yetişkin internetinin birkaç ebeveyn kontrolü eklenmiş versiyonu olmaktan çıkabilir.

Başından itibaren farklı tasarlanmış bir dijital ortam ortaya çıkabilir.

Fakat tartışma bitmiş değil

Bu tür düzenlemelere yönelik itirazlar da var.

Teknoloji sektörü ve dijital hak savunucularının bir bölümü, “bağımlılık yaratan özellik” tanımının fazla geniş olabileceğini ve yaş doğrulama sistemlerinin gizlilik ile ifade özgürlüğü açısından yeni sorunlar yaratabileceğini savunuyor. Sosyal medyanın gençler için yalnızca eğlence değil; arkadaşlık, topluluk ve bilgiye erişim alanı olduğu da hatırlatılıyor.

Dolayısıyla mesele interneti çocuklardan tamamen uzaklaştırmak değil.

Asıl tartışma, çocukların kullandığı teknolojinin hangi teşviklerle tasarlanacağı üzerine kayıyor.

Bir uygulamanın başarısı ne kadar uzun süre kullanıldığıyla ölçülüyorsa, tasarım ekibinin doğal hedefi kullanıcıyı içeride tutmak oluyor. Çocuk güvenliği bu hedefin önüne geçtiğinde ise ürünün temel mantığı değişmek zorunda kalabilir.

Yeni dönemin asıl sorusu

Kaliforniya dünyanın teknoloji merkezlerinden biri. Bu nedenle burada alınan kararların etkisi eyalet sınırlarının ötesine taşınabilir.

Üstelik benzer düzenlemelerin başka bölgelerde de ortaya çıkması, şirketler açısından her ülke veya eyalet için tamamen farklı ürünler geliştirmek yerine daha güvenli tasarımları genel standart haline getirmeyi zamanla daha mantıklı kılabilir.

Sosyal medya çağının ilk döneminde temel soru şuydu:

“Çocuklar internette hangi içeriği görüyor?”

Yapay zekâ ve algoritmik akışlar çağında buna daha zor bir soru ekleniyor:

“Teknoloji çocukların dikkatini elinde tutmak için nasıl davranıyor?”

Bu soru kalıcı hale gelirse dijital çocuk güvenliğinde yeni dönem, zararlı içeriği kaldırmaktan çok daha büyük bir değişim getirebilir.

Çocuklar için teknolojinin nasıl tasarlandığını değiştirebilir.