Avrupa Yapay Zeka Hukuku

Prof. Dr. Ergin ERGÜL

İÇİNDEKİLER

SUNUŞ 

5

ÖNSÖZ 

13

İÇİNDEKİLER 

19

GİRİŞ 

31

1. Genel Olarak Yapay Zekâ Hukuku 

31

2. Avrupa Yapay Zekâ Hukuku 

36

3. Yumuşak ve Sert Yapay Zekâ Hukuku Ayrımı 

37

4. Yapay Zekâ Okur Yazarlığı ve Dijital Okur Yazarlık 

38

1. AB Yapay Zekâ Yasası: Yapay Zekâ Okur Yazarlığı 

38

1. AK Yapay Zekâ Çerçeve Sözleşmesi: Dijital Okuryazarlık ve Dijital

Beceri 

39

5. Kitabın Kapsamı 

41

BİRİNCİ BÖLÜM

AVRUPA BİRLİĞİ YAPAY ZEKÂ HUKUKUNUN GELİŞİMİ VE TEMELLERİ

1.1. AB HUKUKU DÜZENLEMELERİNE GENEL BAKIŞ 

43

1.2. YAPAY ZEKÂ YASASINA GİDEN YOLDA HUKUKİ GİRİŞİM VE

DÜZENLEMELER 

45

1.2.1. AB Komisyonunun Girişimleri 

46

1.2.1.1. 2019 Tarihli AB Komisyonu Uzman Grubu Önerileri 

46

1.2.1.2. Güvenilir Bir Yapay Zekâ İçin Etik İlkeler Rehberi

(2019) 

47

1.2.1.3. AB Komisyonu Beyaz Kitap Raporu (2020) 

49

1.2.1.4. Komisyonun Diğer Girişimleri 

50

1.2.2. AB Parlamentosu’nun Hukuki Yükümlülüklere İlişkin Karar

Tasarısı (2020) 

52

1.2.3. AB Yapay Zekâ Sorumluluk Direktifi 

54

1.2.4. Ürün Sorumluluk Direktifi 

55

1.3. İLGİLİ DÜZENLEMELER 

58

1.3.1. AB Temel Haklar Şartı 

58

1.3.2. Genel Veri Koruma Yasası 

59

1.3.2.1. Genel Olarak 

59

1.3.2.1. GDRP’nin Ulusal Uygulanmasına Örnekler 

65

1.3.2.1.1. SyRI davası kararı 

65

1.3.2.1.2. Uber Veri İhlali Davası 

66

1.3.2. 1.3. Uber ve Ola Cabs Sürücüleri Davası 

67

1.3.3. Avrupa Veri Yönetimi Yasası 

68

1.3.3. 2016 Tarihli Kolluk Direktifi 

70

1.3.4. Dijital Hizmetler ve Dijital Pazar Yasaları 

71

1.3.4.1. Mevzuat 

71

1.3.4.2. Kurumsal Yapı: Avrupa Algoritmik Şeffaflık Merkezi

(ECAT) 

73

1.3.5. AB Ürün Güvenliği Mevzuatı 

74

1.3.6. Siber Güvenlik Mevzuatı 

75

1.4. AB YAPAY ZEKÂ YASASINA GENEL BAKIŞ 

77

1.4.1. Genel Olarak 

77

1.4.2. İçeriği 

79

1.4.3. Yapay Zekâ Yasasının Temel Öğeleri 

80

1.4.4. Önemi ve Etkisi 

81

1.4.5. Değişiklik Yaptığı Mevzuat 

83

1.4.6. Yasanın Kapsamı 

83

1.4.7. Yapay Zekâ Yasasına Yönelik Eleştiriler 

85

1.4.8. Yapay Zekâ Yasasının Diğer AB Mevzuatı ile İlişkisi 

89

1.5. DAVALAR 

90

1.5.1. Ligue des droits humains Davası 

90

1.5.2. Google Spain SL, Google Inc. v Agencia Española de Protección

de Datos, Mario Costeja González Davası 

92

1.5.3. Schrems II Davası 

93

1.5.4. Özel Gerçek ve Tüzel Kişilerin Açacağı Davalar 

94

İKİNCİ BÖLÜM

YAPAY ZEKÂ YASASININ ANALİZİ

2.1. YASANIN KONU VE AMACI 

95

2.2. YASANIN KAPSAM VE UYGULAMA ALANI 

98

2.3. MUAFİYETLER 

102

2.3.1. Askeri, Savunma veya Ulusal Güvenlik Amaçları İçin Piyasaya

Sürülen, Hizmete Sunulan veya Kullanılan Yapay Zekâ sistemleri 

102

2.3.2. AB’de Piyasaya Sürülmeyen veya Hizmete Sunulmayan ve

Çıktısı Yalnızca Askeri, Savunma veya Ulusal Güvenlik Amaçları

İçin Kullanılan Yapay Zekâ Sistemleri 

105

2.3.3. Uluslararası İş Birliği Muafiyeti 

106

2.3.4. Yapay Zekâ Sistemleri veya Modellerinin Araştırma, Test veya

Geliştirme Faaliyetleri 

107

2.3.5. Yalnızca Bilimsel Araştırma ve Geliştirme Amacıyla Özel Olarak

Geliştirilen ve Hizmete Sunulan Yapay Zekâ Sistemleri veya

Modelleri ve Bunların Çıktısı 

108

2.3.6. Gerçek Kişiler Tarafından Sadece Kişisel ve Mesleki Olmayan Bir

Faaliyet Kapsamında Kullanılan Yapay Zekâ Sistemleri 

111

2.3.7. Serbest ve Açık Kaynaklı Lisanslar Altında Yayımlanan Yapay

Zekâ Sistemleri 

112

2.3.8. Eleştiriler 

113

2.4. YASANIN ETKİLEMEDİĞİ AVRUPA BİRLİĞİ MEVZUATI 

114

2.5. YAPAY ZEKÂ SİSTEMİNİN HUKUKİ TANIMI 

115

2.5.1. Yapay Zekâ Sistemi 

115

2.5.2. Genel Amaçlı Yapay Zekâ Modeli ve Genel Amaçlı Yapay Zekâ

Sistemi Tanımları 

122

2.5.3. Eleştiriler 

125

2.6. YAPAY ZEKÂ YASASININ UYGULAMA TAKVİMİ 

126

2.7. RİSK TEMELLİ DÜZENLEYİCİ YAKLAŞIM 

128

2.8. RİSK TÜRLERİ 

131

2.9. KABUL EDİLEMEZ RİSK 

134

2.9.1. Davranışları Çarpıtmak ve Bilinçli Karar Verme Yetisini

Zayıflatmak Amacıyla Bilinçaltı, Manipülatif veya Aldatıcı

Teknikler Kullanarak Önemli Zararlara Yol Açan Yapay Zekâ

sistemleri 

134

2.9.2. Yaş, Engellilik veya Sosyo–Ekonomik Durumla İlgili Zayıflıkları

İstismar Ederek, Davranışları Çarpıtarak Önemli Zararlara Yol

Açan YZ Sistemleri 

136

2.9.3. Sosyal Puanlama Yapay Zekâ Sistemleri 

137

2.9.4. Profilleme Amaçlı Yapay Zekâ Sistemleri (Öngörücü Adalet

Sistemleri) 

139

2.9.5. Yüz Tanıma Yapay Zekâ Sistemleri 

141

2.9.6. Duygu Tanıma Sistemleri 

143

2.9.7. Biyometrik Sınıflandırma Sistemleri 

145

2.9.8. Kamuya Açık Alanlarda Kanun Uygulama Amacıyla 'Gerçek

Zamanlı' Kullanılan Uzaktan Biyometrik Tanımlama Sistemleri 

146

2.10. YÜKSEK RİSKLİ YAPAY ZEKÂ SİSTEMLERİ 

151

2.10.2. Yasanın III Nolu Ekinde Sayılan Yapay Zekâ Sistemleri 

154

2.10.2.1. Uzaktan Biyometrik Tanıma, Biyometrik

Sınıflandırma ve Duygu tanıma sistemleri 

154

2.10.2.2. Kritik Altyapı 

156

2.10.2.3. Genel ve Mesleki Eğitim 

157

2.10.2.4. İstihdam, personel yönetimi ve serbest meslek

erişimi 

159

2.10.2.5. Temel Özel ve Kamu Hizmetleri ve Yardımlarına

Erişim ve Bunlardan Yararlanma 

160

2.10.2.6. Kanun Uygulama (Kolluk Faaliyeti) 

163

2.10.2.7. Göç, iltica ve Sınır Kontrol Yönetimi 

165

2.10.2.8. Adalet ve Demokratik Süreçler 

167

2.10.3. Muafiyet ve Eklemeler 

169

2.11. YÜKSEK RİSKLİ YAPAY ZEKÂ SİSTEMLERİNİN SAĞLAYICILARININ

YÜKÜMLÜLÜKLERİ 

170

2.11.1. Uyumluluk 

172

2.11.1.1. Gereksinimlere Uyum (m.8). 

172

2.11.1.2. Risk Yönetim Sistemi (m.9) 

172

2.11.1.3. Veri Ve Veri Yönetimi (m.10) 

174

2.11.1.4. Teknik Belgeleme (m.11) 

176

2.11.1.5. Kayıt Tutulması ve Saklanması (m.12 ve 19). 

176

2.11.1.6. Şeffaflık ve Kullanıcılara Bilgi Sağlama (m.13) 

177

2.11.1.7. İnsan Kontrolü (m.14) 

180

2.11.1.8. Doğruluk, Sağlamlık ve Siber Güvenlik (m.15) 

184

2.11.2. Bilgilendirme Yükümlülüğü (m.16) 

187

2.11.3. Kalite Yönetim Sistemi Kurma 

188

2.11.4. Belgeleme (Dokümantasyon) 

193

2.11.6. Uygunluk Değerlendirmesi 

194

2.11.7. AB Uygunluk Beyanı 

195

2.11.8. CE İşareti 

195

2.11.9. Kayıt Yükümlülükleri 

196

2.11.10. Düzeltici Eylemler 

197

2.11.11. Uygunluğun Gösterilmesi 

197

2.11.12. Erişilebilirlik Gereklilikleri 

198

2.11.13. Yetkili Otoritelerle İşbirliği 

204

2.11.14. AB Dışındaki Sağlayıcıların Yetkili Temsilci Atama Yükümlülüğü 

205

2.12. YÜKSEK RİSKLİ YAPAY ZEKÂ SİSTEMLERİNİN İTHALATÇILARI İÇİN

YÜKÜMLÜLÜKLER 

206

2.12.1. Piyasaya Sürmeden Önce Uyumluluğun Sağlanması 

206

2.12.2. Uyumsuz veya Sahte Sistemlerin Bildirilmesi 

207

2.12.3. İthalatçı Bilgilerinin Gösterilmesi 

208

2.12.4. Depolama ve Taşıma Koşulları 

208

2.12.5. Belgelerin Saklanması 

208

2.12.6. Yetkili Makamlara Bilgi Sağlama 

208

2.12.7. Yetkili Makamlarla İşbirliği 

209

2.13. DAĞITICILARIN YÜKÜMLÜLÜKLERİ 

209

2.13.1. Piyasaya Sunmadan Önce Doğrulama 

209

2.13.2. Uyumsuzluk Durumunda Yapay Zekâ Sistemlerini Piyasaya

Sürmeme 

210

2.13.3. Depolama ve Taşıma Koşulları 

210

2.13.4. Uyumsuzluk Durumunda Düzeltici Eylemler 

210

2.13.5. Yetkili Makamlara Bilgi Sağlama 

211

2.13.6. Yetkili Makamlarla İşbirliği 

212

2.14. YAPAY ZEKÂ DEĞER ZİNCİRİ BOYUNCA SORUMLULUKLAR 

212

2.15. YÜKSEK RİSKLİ YAPAY ZEKÂ SİSTEMLERİNİN KULLANICILARININ

YÜKÜMLÜLÜKLERİ 

214

2.15.1. Teknik ve Organizasyonel Önlemler 

215

2.15.2. İnsan Denetimi 

215

2.15.3. Diğer Yükümlülükler 

215

2.15.4. Girdi Verilerinin Kontrolü 

216

2.15.5. İzleme ve Ciddi Olayları Bildirim 

216

2.15.6. Otomatik Kayıtların Saklanması 

217

2.15.7. Çalışan Bilgilendirme 

218

2.15.8. Kamu Otoriteleri ve AB Kurumları 

218

2.15.9. Veri Koruma Etki Değerlendirmesi 

218

2.15.10. Adli İzin 

219

2.15.11. Gerçek Kişilerin Bilgilendirilmesi 

221

2.15.12. Yetkili Makamlarla İşbirliği 

222

2.16. YÜKSEK RİSKLİ YAPAY ZEKÂ SİSTEMLERİNİN DAĞITICILARI İÇİN TEMEL

HAKLAR ETKİ DEĞERLENDİRMESİ 

222

2.17. YÜKSEK RİSKLİ YAPAY ZEKÂ SİSTEMLERİ İÇİN BİLDİRİMDE BULUNAN

YETKİLİLER VE BİLDİRİLEN KURULUŞLAR 

226

2.18. STANDARTLAR, UYGUNLUK DENETİMİ SERTİFİKALAR VE KAYIT 

229

2.18.1. Uyumlaştırılmış Standartlar ve Standardizasyon Ürünleri 

229

2.18.2. Ortak Şartnameler 

229

2.18.3. Belirli Gerekliliklerle Uyumun Varsayılması 

230

2.18.4. Uygunluk Değerlendirmesi 

230

2.18.5. Sertifikalar 

230

2.18.6. Bildirilen Kuruluşların Bilgilendirme Yükümlülükleri 

231

2.18.7. Uygunluk Değerlendirme Prosedüründen Sapma 

231

2.18.8. AB Uygunluk Beyanı 

231

2.18.9. CE İşareti 

232

2.18.10. Pazarlama Sonrası İzleme Sistemleri 

232

2.18.11. Kayıt ve İzlenebilirlik 

233

2.19. SINIRLI RİSKLİ YAPAY ZEKÂ SİSTEMLERİNİN SAĞLAYICILARI VE

DAĞITICILARI İÇİN ŞEFFAFLIK YÜKÜMLÜLÜKLERİ 

236

2.20. SİSTEMİK RİSK TAŞIYAN YAPAY ZEKÂ MODELLERİ 

238

2.20.1. Genel Amaçlı Yapay Zekâ Modeli 

238

2.20.2. Sistemik Risk Taşıyan Genel Amaçlı Yapay Zekâ Modeli 

239

2.21. DÜŞÜK RİSKLİ SİSTEMLER 

244

2.22. YAPTIRIMLAR VE CEZALAR 

245

2.22.1. İhlaller ve Uygulanacak Cezalar 

245

2.22.2. AB Kurumlarına Yönelik Para Cezaları ve Düzenleyici Yaptırımlar 

247

2.22.3. Uyum Sağlamayan Sistemler İçin Düzeltici Tedbirler 

247

2.23. YÖNETİŞİM MEKANİZMALARI 

248

2.23.1. Ulusal Düzeyde 

248

2.23.2. Avrupa Yapay Zekâ Ofisi 

250

2.22.3. Avrupa Yapay Zekâ Kurulu 

252

2.23.4. Danışma Forumu 

253

2.23.5. Bağımsız Uzmanlar Bilimsel Paneli 

254

2.23.6. Üye Devletlerin Görev ve Sorumlulukları 

255

2.24. İNOVASYONU DESTEKLEYİCİ ÖNLEMLER: KUM HAVUZLARI VE KÜÇÜK

İŞLETMELERİN (KOBİLERİN) DESTEKLENMESİ 

255

2.24.1. Genel Olarak 

255

2.24.2. Düzenleyici Kum Havuzları 

257

2.24.3. Küçük İşletmelere Destek 

257

2.24.4. Küçük İşletmeler için Basitleştirilmiş Yönetim Sistemleri 

258

2.24.5. Yüksek Riskli Yapay Zekâ Sistemlerinin Gerçek Dünya

Koşullarında Test Edilmesi 

258

2.24.6. Kişisel Verilerin Kullanımı 

258

ÜÇÜNCÜ BÖLÜM

AVRUPA KONSEYİ YAPAY ZEKÂ HUKUKUNUN TEMELLERİ VE GELİŞİMİ

3.1. AVRUPA KONSEYİ VE YAPAY ZEK 

261

3.1.1. Genel Olarak 

261

3.1.2. Bakanlar Komitesinin Belgeleri 

262

3.1.3. Parlamenterler Meclisinin Belgeleri 

264

3.1.4. İnsan Hakları Komiserinin Belgeleri 

265

3.1.5. Yapay Zekâ Üzerine Komiteler 

266

3.1.5.1. Yapay Zekâ Ad Hoc Komite (CAHAI) 

266

3.1.5.2. Yapay Zekâ Komitesi (CAI) 

267

3.1.6. CEPEJ ve Yargı Sistemleri ve Çevrelerinde Yapay Zekânın

Kullanımı İçin Bir Avrupa Etik Şartı 

267

3.1.6.1. Avrupa Yargının Etkinliği Komisyonu (CEPEJ) 

267

3.1.6.2. Yargı Sistemleri ve Çevrelerinde Yapay Zekânın

Kullanımı İçin Bir Avrupa Etik Şartı 

269

3.2. AVRUPA KONSEYİ YAPAY ZEKÂ, İNSAN HAKLARI, DEMOKRASİ VE

HUKUKUN ÜSTÜNLÜĞÜ ÇERÇEVE SÖZLEŞMESİ 

272

3.2.1. Genel Olarak 

272

3.2.2. Sözleşmenin Hazırlık Süreci ve Kabulü 

275

3.2.3. Sözleşmenin Uygulama Alanı ve İlkeleri 

277

3.2.4. Sözleşmenin Uygulanması ve İzlenmesi 

278

3.2.5. Dikkate Alınan Belgeler 

278

3.2.6. Sözleşmeye Yönelik Eleştiriler 

279

DÖRDÜNCÜ BÖLÜM

İNSAN HAKLARI, DEMOKRASİ VE HUKUKUN ÜSTÜNLÜĞÜ BAĞLAMINDA YAPAY ZEKÂ HAKKINDA AVRUPA KONSEYİ ÇERÇEVE SÖZLEŞMESİNİN ANALİZİ

4.1. SÖZLEŞMENİN AMAÇ VE HEDEFLERİ 

284

4.2. YAPAY ZEKÂ SİSTEMİ TANIMI 

290

4.3. SÖZLEŞMENİN UYGULAMA ALANI 

291

4.3.1. Kamu Makamları veya Onların Adına Hareket Eden Özel

Aktörlerin Yapay Zekâ Sistemlerinin Yaşam Döngüsü

Çerçevesinde Faaliyeti 

292

Faaliyetlerinden Kaynaklanan Riskler ve Etkileri ile Özel

Aktörlerin Diğer Faaliyetleri 

292

4.4. MUAFİYETLER 

293

4.4.1. Ulusal Güvenlik Çıkarlarının Korunmasıyla İlgili Yapay Zekâ

Sistemlerinin Yaşam döngüsü Çerçevesinde Yürütülen

faaliyetler 

293

4.4.2. Yapay Zekâ Sistemlerine İlişkin Araştırma ve Geliştirme

Faaliyetleri, Testler, Benzeri Faaliyetler 

294

4.4.3. Ulusal Savunma ile İlgili Konular 

294

4.5. TARAF DEVLETLERİN GENEL YÜKÜMLÜLÜKLERİ 

295

4.5.1. İnsan Haklarının Korunması 

295

4.5.2. Demokratik Süreçlerin Dürüstlüğü ve Hukukun Üstünlüğüne

Saygı 

297

4.5.3. Yapay Zekâ Sistemlerinin Yaşam Döngüsü Çerçevesinde

Yürütülen Faaliyetlere İlişkin İlkeler 

302

4.5.3.1. İnsan Onuru ve Bireysel Özerklik 

303

4.5.3.2. Şeffaflık ve Denetim 

304

4.5.3.2.1. Şeffaflık İlkesi 

305

4.5.3.2.2. Denetim İlkesi 

307

4.5.3.3. Hesap Verebilirlik ve Sorumluluk 

307

4.5.3.4. Eşitlik ve Ayrımcılık Yasağı 

309

4.5.3.5. Mahremiyet ve Kişisel Verilerin Korunması 

313

4.5.3.6. Güvenilirlik 

316

4.5.3.7. Güvenli İnovasyon (Yenilikçilik) 

318

4.5.4. Hukuki Yollar 

320

4.5.5. Usuli Garantiler 

324

4.5.5.1. İnsan Kontrolü 

324

4.5.5.2. Bir İnsanla Etkileşimde Bulunmadığına İlişkin

Bilgilendirilme 

325

4.5.6. Risk ve Etki Yönetim Çerçevesi 

326

4.5.6.1. Risk Temelli Yaklaşım 

326

4.5.6.2. İnsan Hakları Etki Analizi 

329

4.5.6.3. Kabul Edilemez Risk Taşıyan YZ sistemleri 

330

4.5.7. Sözleşmenin Uygulanmasında Ayrımcılık Yapılmaması 

331

4.5.8. Engelli Kişilerin ve Çocukların Hakları 

333

4.5.9. Kamu İstişaresi 

334

4.5.10. Tanınan İnsan Haklarının Korunması 

334

4.5.11. Daha Geniş Koruma 

335

4.5.12. İzleme Mekanizması: Taraflar Konferansı 

335

4.5.13. Uluslararası İşbirliği 

338

4.5.14. Etkili Denetim Mekanizmaları 

339

4.5.15. Sözleşme ve AB Hukuku 

340

SONUÇ 

341

EKLER 

347

EK 1 : AVRUPA BİRLİĞİ YAPAY ZEKÂ YASASI (İçeriği) 

347

EK 2: AVRUPA KONSEYİ YAPAY ZEKÂ VE İNSAN HAKLARI, DEMOKRASİ VE

HUKUKUN ÜSTÜNLÜĞÜ ÇERÇEVE SÖZLEŞMESİ (Tam Metin) 

352

EK: 3 YAPAY ZEKÂ HAKKINDA OECD KONSEY TAVSİYESİ 

363

KAYNAKÇA 

369

YAZARIN YAYINLANMIŞ KİTAPLARI 

373