Bir ürünün tanıtımında "güvenli yapay zekâ" yazması, tek başına hiçbir şey ifade etmez. Çünkü güvenlik bir düğme değil; birbirinden bağımsız çalışan dört ayrı katmanın toplamıdır. Bir katman güçlü, diğeri zayıfsa sistem yine kırılgandır.
Katman 1: İçerik güvenliği
En bilinen katman bu: sistemin şiddet, cinsellik, kendine zarar verme, nefret söylemi ve yaşa uygun olmayan içerikleri üretmemesi ve bu tür sorulara cevap vermemesi.
Ancak içerik güvenliği yalnızca "yasak kelime listesi" değildir. İyi tasarlanmış bir sistemde üç ayrı mekanizma birlikte çalışır:
- Girdi denetimi: Çocuğun yazdığı istek, modele ulaşmadan önce riskli bir konu içeriyor mu diye kontrol edilir.
- Model davranışı: Modelin kendisi, eğitim ve talimat katmanıyla bu konularda cevap vermemeye yönlendirilir.
- Çıktı denetimi: Model bir cevap üretse bile, çocuğa gösterilmeden önce ikinci bir kontrolden geçer.
Tek katmanlı filtreler kolayca aşılabilir; bu yüzden ciddi sistemler üç katmanı üst üste koyar.
Katman 2: Veri güvenliği
Çocuk bir yapay zekâ aracına yazdığı her cümleyle veri üretir. Bu verinin nerede saklandığı, kimin gördüğü ve modelin eğitiminde kullanılıp kullanılmadığı, en az içerik kadar kritik bir güvenlik başlığıdır.
Türkiye'de bu alan 6698 sayılı Kişisel Verilerin Korunması Kanunu (KVKK) ile düzenleniyor. Kişisel Verileri Koruma Kurumu'nun yayımladığı üretken yapay zekâ rehberi, bu araçların kişisel veri işlerken hangi ilkelere uyması gerektiğini ayrıntılı biçimde ele alıyor. Kurumun uzaktan eğitim platformlarına yönelik duyurusunda öne çıkan bir nokta da şu: veri merkezleri yurt dışında olan platformlar kullanıldığında yurt dışına veri aktarımı söz konusu olur ve bu aktarımın KVKK'nın 9. maddesindeki şartlara uygun olması gerekir.
Ebeveyn olarak sorabileceğiniz üç soru
1) Çocuğumun yazdıkları modelin eğitiminde kullanılıyor mu? 2) Veriler nerede saklanıyor, yurt dışına aktarılıyor mu? 3) Hesabı sildiğimde geçmiş konuşmalar da siliniyor mu? Bu üç sorunun cevabı bir ürünün gizlilik politikasında açıkça yazmıyorsa, bu başlı başına bir uyarı işaretidir.
Katman 3: Yaş uygunluğu
Bir aracın zararlı içerik üretmemesi, onu 9 yaşındaki bir çocuk için uygun hâle getirmez. Yaş uygunluğu ayrı bir tasarım işidir: dilin sadeliği, cevabın uzunluğu, soyut kavramların somutlaştırılması, çocuğun dikkat süresine uygun etkileşim.
Genel amaçlı araçların kendi kullanım şartları da bunu kabul eder. Örneğin OpenAI, ChatGPT'nin 13 yaşın altındaki çocuklar için tasarlanmadığını, 13-18 yaş arasında ise kullanımdan önce ebeveyn izni gerektiğini açıkça belirtir. Yani bu araçlar "çocuklara uygun" iddiasında bulunmaz; ilkokul çağındaki bir çocuk için tasarlanmış ürünler değildir.
Katman 4: Şeffaflık ve denetlenebilirlik
Dördüncü katman en çok gözden kaçanı: sistemin ne yaptığının görülebilir olması. Bir çocuk yapay zekâ ile ne konuştu, hangi konuda zorlandı, hangi içeriğe erişti — bunlar ebeveyn ve öğretmen tarafından takip edilebiliyor mu?
Millî Eğitim Bakanlığı'nın Yapay Zekâ Uygulamaları Etik Kurulu Yönergesi (22 Ekim 2025 tarihli Bakanlık Onayı) tam da bu çerçeveyi kurumsallaştırıyor: etik ilkeler, uygulama ölçütleri, etik beyan yükümlülüğünün doğduğu durumlar, etik ihlal tanımları ve bildirim süreçleri tanımlanmış durumda. Bakanlık bünyesinde bir Etik Üst Kurul, il ve ilçe düzeyinde etik kurullar ve okul düzeyinde yapay zekâ etiği ekipleri öngörülüyor.
"Güvenli" ile "kısıtlı" aynı şey değildir
Sık yapılan bir hata, güvenliği "mümkün olduğunca çok şeyi yasaklamak" sanmak. Oysa aşırı kısıtlı bir araç iki soruna yol açar: çocuk öğrenemez ve — daha önemlisi — çocuk aracı terk edip denetimsiz alternatiflere yönelir.
İyi tasarım, yasaklamak yerine yönlendirir. Örneğin çocuk zor bir soru sorduğunda cevabı doğrudan vermek yerine, onu düşünmeye yönlendiren karşı sorular sormak hem güvenli hem öğreticidir. Bu yaklaşımın adı Sokratik öğrenme.
Unutulmaması gereken sınır: halüsinasyon
Büyük dil modelleri bilgiyi bir veritabanından çekmez; istatistiksel olarak en olası kelime dizisini üretir. Bu yüzden hepsi, en gelişmişleri de dahil, zaman zaman kendinden emin biçimde yanlış bilgi üretebilir. Buna genellikle "halüsinasyon" deniyor.
Bu neden çocuklar için özel bir risk?
Yetişkinler bir cevabın şüpheli olduğunu sezip doğrulama refleksi gösterebilir. 8-14 yaş grubundaki bir çocukta bu eleştirel filtre henüz gelişmektedir. Akıcı ve kendinden emin bir cevap, çocuğa doğruymuş gibi görünür. Bu nedenle çocuklarda güvenlik, sadece "zararlı içeriği engellemek" değil, doğrulama alışkanlığı kazandırmaktır.
Özet: kontrol listesi
| Katman | Ne sorulmalı? |
|---|---|
| İçerik güvenliği | Filtreleme kaç aşamalı? Sadece kelime listesi mi, çıktı denetimi de var mı? |
| Veri güvenliği | Veri nerede saklanıyor? Yurt dışına aktarılıyor mu? Model eğitiminde kullanılıyor mu? |
| Yaş uygunluğu | Ürün hangi yaş için tasarlandı? Kullanım şartlarında yaş sınırı ne diyor? |
| Şeffaflık | Ebeveyn/öğretmen ne görebiliyor? Etkinlik raporu var mı? |
Voda Academy'de bu dört katman nasıl çalışıyor?
Voda.Ai Kids AI Program, 8-14 yaş grubuna özel olarak tasarlanmış, tamamen filtrelenmiş bir öğrenme ortamında çalışır. Dersler okullarda alanında uzman eğitmenler eşliğinde yürütülür; içerikler MEB'in güncel müfredatı ve Yapay Zekâ Uygulamaları Etik Kurulu Yönergesi esas alınarak tasarlanır. Her ders sonunda veliye ulaşan ilerleme raporlarıyla şeffaflık katmanı da kapatılır.
Kids AI Program'ı incele