Kültürel kodlar ile hukuk arasındaki yeni kesişim alanları: Yapay zekâ çağında algoritmik ayrımcılık ve profil oluşturma

Abstract

Yapay zekâ destekli algoritmaların kültürel kodlarla kurduğu etkileşim ve bunun hukuk alanındaki yansımaları, dijital çağın öne çıkan sorunsallarından biri haline gelmiştir. Bu bölümde, kültürel kodların algoritmik karar sistemlerine önyargı biçiminde yansıması ve profilleme uygulamaları aracılığıyla yol açtığı ayrımcılık sorununun ele alınması hedeflenmektedir. Günümüzde pek çok alanda algoritmik karar sistemleri insan karar vericilerin yerini almaktadır. Bu sistemlerin daha objektif, ön yargılardan arınmış ve adil kararlar verdiği düşünülmektedir. Oysa kültürel kodlar, algoritmalara çeşitli yollardan sızmakta ve bu sistemler aracılığıyla yeniden üretilmektedir. Nitekim, kültürel kodların içerisinde doğal olarak toplumsal önyargılar yer almaktadır. Önyargılar ise bazı durumlarda ayrımcılığa yol açmaktadır. Bu bağlamda belirtelim ki, algoritmik önyargı, sistematik ve tekrar eden adaletsiz sonuçları ifade ederken; algoritmik ayrımcılık, hukuken korunan özellikler (ırk, cinsiyet, din vb.) farklı muameleyi tanımlamaktadır. Algoritmik profilleme uygulamaları, bireyleri dijital ayak izleri üzerinden kategorize ederek ve bu verilerle bazı tahminlerde bulunmaktadır. Ancak kültürel kodlar önyargılarla beslenmiş algoritmik karar sistemleri bu tahminlerin neticesinde ayrımcı sonuçlara yol açabilmektedir. Bu noktada ele alınması gereken bir diğer sorun ise kültürel profillemedir. Bu uygulama, bireylerin kültürel geçmişlerine göre ayrımcılığa maruz kalmalarına yol açabilmektedir. Yapay zekâ hukuk ve kültür ilişkisine kesişiminde yer alan bir diğer etkisi ise kültür inşasında bir normatif otorite hâl alabilmesidir. Bu durum ise algoritmik sömürgecilik tehlikesine doğurmakta, Batı merkezli verilerle eğitilen modellerin diğer kültürler üzerindeki baskıcı etkileri gündeme gelmektedir. Algoritmik sömürgecilik riskinin de hukuki alanda dikkate alınması ve normatif bir çerçeve oluşturması gerekmektedir. Çalışmamızda ulusal ve uluslararası alanda mevcut hukuki normlar ele alınarak, çözüm önerileri sunulmaya çalışılmıştır.