Eğitimde yapay zekâ ve etik

Abstract

Yapay zekâ (YZ), yenilikçi etkileriyle küresel ölçekte dönüşüm yaratırken, bu hızlı yaygınlaşma önemli etik kaygıları da beraberinde getirmektedir. Veri gizliliği, hesap verilebilirlik, şeffaflık ve algoritmik önyargı gibi sorunlar, eğitim dahil birçok alanda YZ’nin sorumlu kullanımını güvence altına almak için kapsamlı düzenlemeler yapılmasını gerekli kılmaktadır. Ulusal ve uluslararası kuruluşlar, YZ ve etik konularında standartlar ile ilke setleri oluşturma yönündeki çalışmalarını sürdürmekte; bu çalışmalar, eğitim sistemine entegre edilen YZ teknolojileri açısından da temel bir referans noktası işlevi görmektedir. Bu bölümde, YZ ve etikle ilgili temel kavramlar ile ilkeler ele alınmış ve bunların eğitim bağlamındaki yansımaları tartışılmıştır. Eğitimde YZ kullanımına yönelik etik riskler analiz edilerek, öğrenci verilerinin korunması, algoritmik karar alma süreçlerinde adalet ve hesap verilebilirlik ile YZ tabanlı sistemlerin şeffaflığı gibi kritik noktalar ön plana çıkarılmıştır. Bu risklerin en aza indirilebilmesi için etik değerleri önceleyen bir YZ ekosisteminin oluşturulması ve tüm paydaşların sürece aktif biçimde katkı sağlaması gerekmektedir. Bu bağlamda, konuya geniş bir perspektiften bakmak amacıyla paydaş rolleri de ele alınmıştır. Sonuç olarak, eğitimde YZ kullanımının sorumlu, etik ve insan merkezli bir yaklaşımla ele alınması, uzun vadeli ve sürdürülebilir bir öğrenme ortamı yaratmanın temel koşullarından biri olarak değerlendirilmektedir.

While Artificial Intelligence (AI) drives global transformation through its innovative impact, its rapid proliferation raises significant ethical concerns. Issues such as data privacy, accountability, transparency, and algorithmic bias necessitate comprehensive regulations to ensure the responsible use of AI across various fields, including education. National and international organizations continue their efforts to establish standards and sets of principles regarding AI and ethics; these efforts serve as a fundamental reference point for AI technologies integrated into the educational system. In this chapter, fundamental concepts and principles related to AI and ethics are addressed, and their implications within the educational context are discussed. By analyzing the ethical risks associated with the use of AI in education, critical points such as the protection of student data, fairness and accountability in algorithmic decision-making processes, and the transparency of AI-based systems are highlighted. To minimize these risks, it is essential to establish an AI ecosystem that prioritizes ethical values and ensures the active contribution of all stakeholders. In this context, stakeholder roles are also examined to provide a broad perspective on the subject. Consequently, approaching the use of AI in education with a responsible, ethical, and human-centric perspective is considered one of the fundamental prerequisites for creating a long-term and sustainable learning environment.