Yapay zekanın hayatın her alanında devrim niteliğinde gelişmelere yol açabilme potansiyelinin yanı sıra birtakım gizlilik ve güvenlik problemleri de bulunmaktadır. Bu gizlilik ve güvenlik problemleri, etik meseleleri de beraberinde getirmektedir. Bu teknolojinin yaygınlaşması ile birlikte öğrencilerin verilerinin nasıl toplanacağı, saklanacağı ve kullanılacağına dair konular daha fazla ön plana çıkacaktadır. Ayrıca burada yapay zekanın karar verme süreçlerinde nasıl etkin bir rol üstleneceği ve bu süreçlerin ne kadar şeffaf olduğu gibi konular ile eğitimde adalet ve eşitlik anlayışı tartışılması gereken konular arasındadır. Tüm bu nedenlerden ötürü yapay zekanın eğitim teknolojileri kullanımında gizlilik ve güvenlik problemleri ile birlikte etik sorunların derinlemesine ele alınması gerekmektedir. Burada öğrencilerin ve öğretmenlerin güvenliği ile kişisel haklarının korunması büyük bir gereklilik olarak öne çıkmaktadır.
Eğitime entegre edilecek olan yapay zeka tabanlı araçlar
büyük miktarda öğrenci verisi toplayacak, bunları işleyecek ve analiz
edecektir. Bu verilerin öğrencilerin öğrenme alışkanlıklarından akademik
başarılarına, davranışlarına ve hatta duygusal durumlarına kadar birçok hassas
bilgiyi içereceği şüphesizdir. İşte tam bu noktada bu verilerin gizliliği en
temel sorunlardan biri haline gelecektir. Yapay zeka sistemlerinin çoğu
tarafından kişiselleştirilmiş eğitim deneyimleri sunabilmek adına işlenen bu
verilerin aynı zamanda kötüye kullanımına karşı önlemler alınması
gerekmektedir.
Burada oluşacak herhangi bir gizlilik ihlali, öğrencinin bilgilerinin izinsiz
bir şekilde paylaşılması, depolamadan kaynaklı erişim açıkları ve kötü niyetli
kişilerin bu bilgilere ulaşması sonucunda ciddi hukuki ve etik sonuçlar ortaya
çıkabilir. Bundan dolayı eğitimde yapay zeka kullanımına dair açık ve kesin
veri koruma yasaları ile düzenlemeler geliştirilmelidir. Öğrencilerin kişisel
bilgileri üzerinde kimin tam kontrol sahibi olması gerektiği ve verilerin
yalnızca izin verilen amaçlarla kullanılmasını sağlayacak politikalar
uygulanmaya konmalıdır. Yine okulların ve eğitim kurumlarının öğrencilerin
verilerinin işlenmesine dair şeffaf bir bilgilendirme yapması ve kullanıcı
onayını alması gerekmektedir.
Çevrimiçi ortamlarda verilerin sızması ve kötüye
kullanım riskleri her zaman mevcuttur. Eğitimde kullanılan yapay zeka destekli
araçların sürekli olarak öğrencilerin verilerini toplaması ve bunu depolaması
sistem için bir gereksinim olduğu kadar, bu verilerin güvenliğinin sağlanması
da sistemin işlerliği açısından önem arz etmektedir. Herhangi bir kötü niyetli
saldırgan bu sistemlere erişim sağlarsa öğrencinin bilgileri, okul verileri ve
diğer hassas bilgiler tehlikeye girebilir. Dolayısıyla bu noktada güvenli
yazılım geliştirme ile şifreleme teknolojilerinin kullanımı ve sürekli güvenlik
denetimleri gibi önlemler alınması gerekiyor. Ayrıca eğitimde kullanılan yapay
zeka araçlarının güvenliğini sağlamak adına çeşitli yazılım güvenliği
uzmanlarının istihdam edilmesi gerekecektir. Yapay zeka sistemlerinin eğitime
entegre edilmesi aşamasında öğrenciler ve öğretmenler bu araçları kullanırken
kendilerini güvende hissetmeli ve verilerin korunacağı konusunda güvenceye
sahip olmalıdır. Bu tür araçlar her türlü siber saldırıya karşı dayanıklı
olmalı ve kullanıcı verilerini korumalıdır.
Yine etik yönden de denetlenmesi gereken bu durum için
farklı denetim mekanizmalarının oluşturulması gerekmektedir. Bu durum için hem
insan denetimi hem de farklı bir yapay zeka tarafından denetiminin yapılması
akla daha yatkın gibi görünmektedir. Çünkü yapay zeka sistemlerini denetleyen
bir başka yapay zeka sistemi de algoritmalar üzerinden çalışacağı için hatalı
kararlar verebilir veya devre dışı bırakılabilir. Bu sebeplerden ötürü burada
insan denetiminin sistem üzerinden tamamen soyutlanması gibi durumlar
düşünülmemelidir.
Herhangi bir yapay zeka algoritması öğrencilerin öğrenme
süreçlerini bireyselleştirirken, algoritmanın ön yargılı verilerle eğitilmesi
durumunda öğrenciye yanlış bilgiler vermesi çok yüksek bir ihtimaldir. Bununla
birlikte yapay zekanın nasıl karar verdiği ve hangi verileri işlediği
genellikle kullanıcılar tarafından görülmediği için bu durum şeffaflığın
eksikliği bakımından büyük etik problemlere yol açabilir.
Yapay zeka sistemlerinin eğitime adaletli ve eşit bir
şekilde entegre edilebilmesi için algoritmaların şeffaf olması gerekmektedir.
Burada öğrencilerin öğrenme süreçlerinde yer alan herhangi bir ön yargı,
adaletsizlik veya hata hızla tespit edilmeli ve düzeltilmelidir. Yapay zeka
sistemlerinin öğretmenlerin yerini tamamen alması gerekmediği gibi onlara
destek olmak amacıyla kullanılması insanlık açısından daha faydalı bir durum
olacaktır. İnsan dokunuşundan uzak ve tamamen makineleşmiş bir sistem duygusal
zeka ve empati gibi insani yeteneklerden yoksun olabileceği için ciddi
problemlere yol açacaktır. Bu şartlardan dolayı eğitimde kullanılacak olan
yapay zekanın, öğretmenin rehberliğini ve yönlendirmesini hiçbir şekilde yok
saymaması gerekmektedir.
Yapay zeka sistemlerinin öğrencilerin haklarına zarar
vermemesi ve öğrenciler adına zarar doğuracak herhangi bir sonuçtan
kaçınabilmesi için insan hakları konusunda hassas bir şekilde eğitilmiş olması
gerekmektedir.
Ortaya çıkan bu yeni teknoloji, eğitim teknolojilerinde ve
eğitim süreçleri içerisinde devrim niteliğinde gelişmelere yol açabilecek olsa
da gizlilik, güvenlik ve etik gibi meseleler henüz kesin ve net bir şekilde
çözüme kavuşturulabilmiş değildir. Bu sorunların çözülmesi, bu teknolojinin
eğitimde verimli ve adil bir şekilde kullanılabilmesi için zorunludur.
Verilerin güvenliği, eğitim süreçlerine şeffaflık gibi konular ve adil
fırsatların sunulması, eğitimin geleceğinde yapay zekanın olumlu etkilerinden
tam anlamıyla faydalanabilmesi için kritik bir öneme sahiptir.
Araştırmacı-Yazar
Mehmet Hüseyin Arslan
