EU AI Act Kapsamında Yapay Zeka Geliştiren Şirketleri Neler Bekliyor?
Yapay zeka sistemleri geliştiren şirketler için Avrupa Birliği Yapay Zeka Tüzüğü, yani EU AI Act, önümüzdeki dönemin en önemli uyum başlıklarından biri haline gelmiştir. Avrupa Birliği, AI Act ile yapay zeka sistemlerini risk temelli bir yaklaşımla düzenlemekte; şirketlerden geliştirdikleri, piyasaya sundukları veya kullandıkları yapay zeka sistemlerinin risk düzeyine göre farklı yükümlülüklere uyum sağlamalarını beklemektedir. AI Act, 1 Ağustos 2024 tarihinde yürürlüğe girmiştir ve Avrupa Komisyonu bu düzenlemeyi yapay zeka alanındaki ilk kapsamlı hukuki çerçeve olarak tanımlamaktadır.
Bu düzenleme yalnızca Avrupa Birliği’nde kurulu şirketleri değil, belirli şartlar altında AB pazarına ürün veya hizmet sunan, AB’deki kullanıcıları etkileyen veya yapay zeka çıktıları AB’de kullanılan şirketleri de ilgilendirebilir. Bu nedenle Türkiye’de yapay zeka geliştiren, SaaS hizmeti sunan, yapay zeka destekli analiz, karar destek, insan kaynakları, sağlık, finans, eğitim veya güvenlik çözümleri geliştiren şirketlerin de EU AI Act’i yakından takip etmesi önemlidir.
Risk temelli yaklaşım ne anlama geliyor?
AI Act’in temelinde risk temelli bir sistem vardır. Yapay zeka sistemleri kullanım alanına ve doğurabileceği etkilere göre farklı seviyelerde değerlendirilir. Bazı yapay zeka uygulamaları yasaklı uygulama kapsamında değerlendirilebilirken, bazıları yüksek riskli sistem olarak kabul edilebilir. Daha düşük riskli sistemlerde ise daha sınırlı şeffaflık veya bilgilendirme yükümlülükleri gündeme gelebilir.
Şirketler açısından ilk yapılması gereken şey, geliştirilen yapay zeka sisteminin hangi risk kategorisine girdiğini belirlemektir. Çünkü hukuki yükümlülükler; sistemin kullanım amacı, hedef kitlesi, karar alma süreçlerine etkisi ve temel haklar üzerinde yaratabileceği sonuçlara göre değişir.
Yapay zeka geliştiren şirketlerin hazırlaması gereken alanlar
AI Act kapsamında şirketlerin yalnızca teknik geliştirme sürecine değil, aynı zamanda hukuki ve kurumsal uyum yapısına da odaklanması gerekir. Özellikle şu başlıklar önem kazanacaktır:
Yapay zeka sisteminin kullanım amacının net belirlenmesi
Risk sınıflandırmasının yapılması
Veri setlerinin kalitesi, kaynağı ve hukuka uygunluğunun değerlendirilmesi
Teknik dokümantasyonun hazırlanması
Kullanıcıya açık ve anlaşılır bilgilendirme yapılması
İnsan gözetimi mekanizmalarının kurulması
Siber güvenlik ve veri güvenliği önlemlerinin alınması
Sistem performansının ve hatalarının izlenmesi
Tedarikçi, müşteri ve kullanıcı sözleşmelerinin güncellenmesi
Bu başlıklar, özellikle yapay zeka sistemini yalnızca geliştiren değil; satan, entegre eden, kullanan veya üçüncü kişilere sunan şirketler bakımından da önemlidir.
KVKK ve GDPR bağlantısı
AI Act tek başına değerlendirilmemelidir. Yapay zeka sistemleri çoğu zaman kişisel veri işler. Bu nedenle KVKK, GDPR, veri güvenliği, çerez politikaları, kullanıcı sözleşmeleri ve veri işleme sözleşmeleriyle birlikte ele alınması gerekir. Yapay zeka sisteminin eğitim verileri, kullanıcı girdileri, çıktıların saklanması ve üçüncü taraf servislerle entegrasyonu ayrı ayrı incelenmelidir.
Özellikle kullanıcı verisiyle çalışan yapay zeka tabanlı ürünlerde şu sorular önemlidir: Hangi veriler işleniyor? Bu veriler hangi amaçla kullanılıyor? Kullanıcı bilgilendiriliyor mu? Açık rıza gerekli mi? Veriler üçüncü taraf yapay zeka servislerine aktarılıyor mu? Otomatik karar alma süreci var mı?
Şirketler için pratik sonuç
AI Act, yapay zeka geliştiren şirketler için yalnızca uyulması gereken bir mevzuat değil, aynı zamanda güvenilir ürün geliştirme standardı haline gelmektedir. Erken aşamada doğru hukuki yapı kuran şirketler, yatırım görüşmelerinde, müşteri sözleşmelerinde ve uluslararası pazara açılım süreçlerinde daha güçlü konumlanabilir.
Yapay zeka ürünü geliştiren veya yapay zeka destekli hizmet sunan şirketlerin, ürün geliştirme süreciyle birlikte hukuki uyum sürecini de planlaması gerekir. Bu kapsamda risk analizi, KVKK/GDPR değerlendirmesi, kullanıcı sözleşmeleri, veri işleme süreçleri ve teknik dokümantasyon birlikte ele alınmalıdır.
Yapay zeka ürününüzün EU AI Act, KVKK ve sözleşmesel yükümlülükler bakımından değerlendirilmesi için hukuki danışmanlık desteği alabilirsiniz.
