Otomatik karar sistemlerinde kişisel haklar nasıl korunur?
Otomatik karar sistemi, kişisel verileri kullanarak insan müdahalesi olmadan veya sınırlı müdahaleyle kişi hakkında sonuç, puan ya da öneri üretir.
Hakların kapsamı ve ölçülülük incelemesi
Kredi, işe alım, sigorta veya kamu hizmeti gibi önemli etkilerde veri kalitesi, hukuki sebep, modelin amacı ve ayrımcı sonuç riski önceden incelenir. Yalnızca otomatik işleme dayanan ve kişiyi önemli ölçüde etkileyen kararlarda kanuni istisna ve ek güvenceler gerekir. İnsan onayı göstermelik değil gerçek değerlendirme olmalıdır. Temel haklar ve dijital işlemler değerlendirilirken kanuni dayanak, meşru amaç, gereklilik ve ölçülülük basamakları birbirinden ayrılır. Bir müdahalenin yararlı olması tek başına yeterli değildir; daha az sınırlayıcı araç bulunup bulunmadığı ve kişi üzerindeki yük ile kamu yararı arasındaki denge incelenir. Veri işlemede amaçla bağlantılılık, sınırlılık, doğruluk ve gerekli süre kadar saklama ilkeleri bütün yaşam döngüsüne uygulanır. Teknolojinin yeni olması mevcut hak güvencelerini ortadan kaldırmaz.
Dijital uygulama, başvuru ve hesap verebilirlik
Kişiye işlemenin varlığı, temel mantığı ve beklenen sonuçları anlaşılır biçimde açıklanır; itiraz ve insan incelemesi kanalı sağlanır. Hata oranı, farklı gruplara etki, veri kayması ve güvenlik düzenli denetlenir. Ticari sır gerekçesi bütün açıklamayı ortadan kaldırmamalıdır. Kurumlar hangi veriyi, hangi amaçla, hangi hukuki sebeple ve ne kadar süre işlediğini açıklayabilmeli; erişim yetkisi ve güvenlik önlemlerini belgelemelidir. İlgili kişi talepleri, kurul veya mahkeme başvuruları ve içerik itirazları farklı usul ve sürelere bağlı olabilir. Ekran görüntüsü yanında tam URL, tarih, talep kaydı ve verilen cevap saklanmalıdır. Kural ve kurul kararları gelişebileceğinden güncel resmî rehber ile somut olayın bağlamı birlikte incelenmelidir.