AVRUPA BİRLİĞİ YAPAY ZEKA KANUN TEKLİFİ (Artificial Intelligence Act)
I.Giriş
Yapay zeka, birçok sektörde ve sosyal faaliyette çeşitli ekonomik ve toplumsal avantajlar sağlama potansiyeline sahip olmakla birlikte hızla gelişmektedir. Bu kapsamda Avrupa Birliği Komisyonu (“Komisyon”) tarafından 21.04.2021 tarihinde “Yapay Zekaya İlişkin Uyumlu Kurallar Koyulması ve Bazı Avrupa Birliği Düzenlemelerinin Değiştirilmesi” (“Teklif”) adlı düzenleme teklifini sunmuştur. Sunulan bu teklif ile birlikte yapay zeka ile ilgili regülasyonları içeren bir yasal düzenleme niteliği taşımaktadır.
Komisyon tarafından sunulan teklifin yürürlüğe girebilmesi için Avrupa Parlamentosu ve üye ülkelerin onayı gerekmektedir. İlgili düzenlemenin yasalaşması halinde AB ülkelerinde faaliyet gösteren diğer ülkelerde faaliyet gösteren teknoloji şirketlerinin faaliyetleri de ilgili yasa gereğince uyum sağlaması gerekmektedir.
AB Komisyonu tarafından sunulan teklifin, nihai amacı yapay zeka araçlarının zararlı kullanımlarının önüne geçmek ve hatalı yönlendirme ile gelecekteki riskleri sınırlandırmak gibi tehlikeleri bertaraf ederek yapay zeka sistemlerinin kontrollü bir şekilde ilerlemesini sağlamaktır.
Son olarak ise ilgili yasa teklifi, yasal bir çerçeve oluşturarak güven ortamının geliştirilmesi hedefini benimsemektedir. Ayrıca, teklif AB değerleri ile temel hak ve özgürlüklere dayanmakta olup, yapay zeka tabanlı çözümlerin benimsenmesini teşvik etmeyi amaçlamaktadır.
II.Komisyon Tarafından Sunulan Yasanın Kapsamı Nedir?
Mevcut düzenleme, yapay zekâ sistemlerini AB içinde piyasaya süren veya hizmete sunan sağlayıcılar, Birlik içerisinde faaliyet gösteren yapay zekâ sistemlerini dağıtanlar, belirli kriterleri karşılayan durumlarda yapay zekâ sistemlerini ithal edenler ve distribütörler ile üreticileri etkilemesi beklenmektedir.
Anılan düzenleme ile birlikte, yapay zekâ sistemlerinin AB içinde üretilen çıktılarının kullanılması durumunda, AB sınırları dışında faaliyet gösteren yapay zekâ sistem sağlayıcılarını da ilgili düzenlemeye tabi tutmayı öngörüyor. Bu yaklaşım, dünya genelindeki teknoloji sektöründeki paydaşlar üzerinde küresel bir etki yaratması muhtemeldir.
III.AB Komisyonu Tarafından Sunulan Teklif ile Düzenlenen Bazı Hususlar<
Avrupa Parlamentosunun önceliği, AB’de kullanılan Yapay Zeka (“YZ”) sistemlerinin güvenli, şeffaf, izlenebilir, ayrımcı olmayan ve çevre dostu olmasını sağlamaktır. YZ sistemleri, zararlı sonuçları önlemek için otomasyon yerine insanlar tarafından denetlenmesi gerektiğini benimsemektedir.
Ayrıca, Avrupa Parlementosu YZ için gelecekteki YZ sistemlerine uygulanabilecek teknolojiden bağımsız, tek tip bir tanım oluşturmak istemektedir. Teklif kapsamında yapay zeka şu şekilde tanımlanmıştır: “Yapay zeka sistemi” (YZ sistemi), Ek I’de listelenen teknik ve yaklaşımlardan bir veya daha fazlası ile geliştirilen ve insan tarafından tanımlanan belirli bir dizi hedef için, etkileşimde bulundukları ortamları etkileyen içerik, tahminler, öneriler veya kararlar gibi çıktılar üretebilen yazılım anlamına gelir.”
Avrupa Parlamentosu yapay zekâ sistemlerini “Düşük Riskli, Sınırlı Riskli, Yüksek Riskli ve Kabul Edilemez” olarak dört ana başlıkta tanımlamıştır.
-
Teklif edilen YZ yasasının 5. maddesi uyarınca “Kabul Edilemez Risk” nedeniyle insanların güvenliği, geçim kaynakları ve temel hakları için açık bir tehdit oluşturması durumunda AB’de ve onaylanması halinde üye devletlerde piyasaya sürülmesi, hizmete sunulması veya kullanılması yasak olacaktır.
-
Teklif edilen YZ yasasının 6. maddesi uyarınca olumsuz etki yaratan “Yüksek Riskli” YZ sistemlerini düzenlemektedir.
YZ yasasının m.6/2 uyarınca yüksek riskli YZ sistemleri, aşağıdaki alanlardan herhangi birinde listelenen YZ sistemleridir:
- Gerçek Kişilerin Biyometrik Tanımlanması ve Sınıflandırılması:
- Altyapı Yönetimi ve İşletilmesi:
- Eğitim ve Mesleki Eğitim:
- İstihdam, İşçi Yönetimi ve Serbest Mesleklere Erişim:
- Temel Özel Hizmetlere ve Kamu Hizmet ve Yardımlarına Erişim ve bunlardan yararlanma:
- Kolluk Kuvvetleri:
- Göç, İltica ve Sınır Kontrol Yönetimi:
- Adalet Yönetimi ve Demokratik Süreçler:
Bu bağlamda, sağlayıcılar, yüksek riskli YZ sistemlerinin ithalatçıları, distribütörleri ve kullanıcıları bir dizi yükümlülüğü yerine getirmek zorunda kalacaktır.
- Yüksek riskli YZ sistemleri sağlayıcılarının öncelikle, sistemlerini piyasaya sürmeden veya hizmete sokmadan önce Komisyon tarafından yönetilen AB çapında bir veri tabanına model sistemi kaydettirmeleri gerekecektir.
- Risk yönetimi kurulmalıdır.
- YZ sistemi şeffaflık, açıklık ve denetlenebilir şekilde geliştirilmelidir.
- YZ sistemlerinin uygunluk değerlendirmeleri piyasaya sürülmeden önce yapılmalıdır.
- Sistem piyasaya sürüldükten sonra insanların gözetimine ve izlemesine ilişkin sistemler geliştirilmelidir. Zira, temel hak ve özgürlüklere yönelik risklerin önlenmesi için sistem ilgili kullanıcılara bilgi verilecek şekilde kurgulanmalıdır.
- Yüksek riskli YZ sistemi için her halükarda uygunluk değerlendirmesinden geçmesi gerekmektedir. (Compliance Assessment)
Risk grubuna bakılmaksızın tüm yapay zekâ sistemleri için, yapay zekâ ile ilgili (Code of Conduct) Davranış Kuralları’nın uygulanması gerektiği tavsiye edilmektedir.
-
Teklif edilen YZ sisteminin “Sınırlı Riskli” ya da “Düşük Riskli” olması durumunda yapay zeka sisteminin sadece bilgilendirme yapması yeterli görülmektedir.
Aşağıdaki tabloda Teklifde belirtilen risk gruplarını ifade etmektedir.
| Kabul Edilemez Risk (Unacceptable Risk) |
İnsanların veya belirli savunmasız grupların bilişsel davranışsal manipülasyonu, çocuklarda tehlikeli davranışları teşvik eden sesle etkinleştirilen oyuncaklar ile yüz tanıma gibi gerçek zamanlı ve uzaktan biyometrik tanımlama sistemleri |
|
Yüksek Risk (High Risk)
|
Otonom Cihazlar ile Cerrahi robotlar |
| Sınırlı Risk (Limited Risk) |
İnsanlarla etkileşime giren sistemler (Örn. Chatbotlar) gibi “sınırlı risk” arz eden YZ sistemleri |
| Düşük Risk (Low and Minimal Risk) |
Düşük ve minimum risk arz eden diğer tüm YZ sistemleri herhangi bir yasal yükümlülüğe bağlı kalınmaksızın AB’de geliştirilebilir ve kullanılabilir |
IV.Sunulan Teklif Kapsamında Öngörülen Yaptırımlar Nelerdir?
Bu teklif kapsamında belirlenen yükümlülüklere ve kurallara aykırı davranmanın sonucunda teknoloji sektörünün önde gelen şirketler maddi ve manevi olarak büyük zarara uğrayabilecektir. Zira, OpenAI, ChatGPT, Google Bard ile Midjourney gibi üretim aşamasındaki yapay zeka modellerini geliştiren şirketler belirtilen yükümlülüklere aykırı davranması sonucunda ağır yaptırımlara maruz kalabilirler. Bu durum, dünya genelinde daha güvenli ve şeffaf bir standartın belirlenmesini gerektirecektir.
Kurallar ile yükümlülüklerin uygulanması, AB’nin 27 üye devletine bağlı olacak ve düzenleyiciler, kurallara uymayan şirketleri uygulamalarını piyasadan çekmeye zorlama yetkisine sahip olacaktır. İlgili YZ yasası uyarınca yükümlülüklerin ve kuralların ihlali halinde, ihlalin ciddiyetine bağlı olarak 10M€ ila 40M € arasında veya şirketin yıllık küresel cirosunun yüzde 7’sine kadar para cezaları öngörülmektedir. Bu durum özellikle Google, Microsoft gibi teknoloji devlerini önemli kayıplarla karşı karşıya bırakabilir.
V.Sonuç
Tüm bu açıklamalarımız ışığında kanun teklifinin temel amacı, yapay zeka teknolojisinin olası risklerini izlemek, kötüye kullanım potansiyelini önlemek ve kontrollü bir şekilde teknolojinin ilerlemesini sağlamaktır. Bu düzenleme ile birlikte günümüz algoritma ve yapay zeka kullanan teknoloji şirketlerini etkileme potansiyeline sahiptir. Neticeten takip eden süreçte, üye devletlerin bir araya gelerek nihai metni belirlemesi beklenmektedir.
Kaynakça
AB Yapay Zeka Yasası: Yapay zekaya ilişkin ilk düzenleme
“Yürürlükteki AB Mevzuatı” Brifingleri
Yapay Zeka Yasası: Yapay Zeka ile ilgili ilk kurallara bir adım daha yaklaşıldı
Avrupa Parlamentosu ve Konseyi Tüzüğü/Yapay Zekaya İlişkin Uyumlaştırılmış Kuralların Belirlenmesi (Yapay Zeka Yasası) ve Bazı Birlik Yasalarının Değiştirilmesi