Nicea
New member
Brüksel/Berlin–Hafta sonundan kısa bir süre önce Avrupa Birliği (AB), yapay zekanın (AI) kullanımına ilişkin kurallar üzerinde anlaşmaya vardı. Avrupa Parlamentosu ve AB ülkeleri şunu vurguladı: Bunlar yapay zekanın dünyadaki ilk kurallarıdır. Ancak iki taraftan da eleştiri geliyor. Bazıları kuralların çok katı olduğunu, bazıları ise çok gevşek olduğunu düşünüyor. İş dünyası, gelecekteki AB düzenlemelerinin inovasyonu engelleyeceğinden korkuyor. Tüketici savunucuları açısından bazı uygulamaların riskleri yeterince ciddiye alınmıyor.
Alman Sanayi Federasyonu’na (BDI) göre, Avrupa artık yapay zekanın temel teknolojisinde geride kalma tehlikesiyle karşı karşıya. BDI yönetim üyesi Iris Plöger, “Yapay zeka temel modellerinin ve yapay zeka uygulamalarının kapsamlı düzenlenmesiyle, Yapay Zeka Yasası hem üreticilerin hem de kullanıcıların rekabet gücünü ve yenilikçilik yeteneğini tehlikeye atıyor” dedi. Düzenleme, şirketlere daha fazla hukuki kesinlik vermek yerine daha az yasal kesinlik veren olgunlaşmamış kriterlere dayanıyor.
Teknoloji endüstrisi derneği Bitkom, “ekonomi ve toplum pahasına bir siyasi başarı gösterisi”nden bahsetti. Varılan uzlaşmanın teknoloji üzerinde derin bir etkisi var. “AB bu nedenle şirketlere düzenleyici bir yük yüklüyor. Bitkom Genel Müdürü Bernhard Rohleder, Avrupalı şirketlerin, uygulanamayan projeler nedeniyle gelecekte hızlı teknolojik gelişmeyi takip edememe riskinin büyük olduğunu söyledi.
Reklam | Okumaya devam etmek için kaydırın
Tüketici avukatlarından eleştiri
Ancak Avrupalı tüketiciyi koruma örgütü Beuc, AB’yi şirketlerin öz düzenleme konusunda iyi niyetine çok fazla güvendiği için eleştirdi. “Örneğin, sanal asistanlar veya yapay zeka kontrollü oyuncaklar, yüksek riskli sistemler olarak görülmedikleri için yeterince düzenlenmiyor. ChatGPT veya Bard gibi sistemler de tüketicilerin onlara güvenebilmesi için gerekli korumaları alamayacak” dedi.
Ancak Almanya Tüketiciyi Koruma Bakanı Steffi Lemke (Yeşiller), yapay zeka düzenlemesinin tüketicileri yeni teknolojinin risklerinden koruduğu görüşünde. “Müzakereler sırasında yapay zeka sistemlerinin şeffaf, anlaşılır ve doğrulanabilir şekilde tasarlanmasını sağlamak için özellikle çalıştık. Gelecekte yapay zeka teknolojilerinin kullanımını sunan şirketlerin artık sistemlerinin nasıl çalıştığı hakkında bilgi vermesi ve yapay zeka destekli kararları açıklaması gerekecek” dedi Lemke Cumartesi günü. İhlallerin ortaya çıkması durumunda tüketici dernekleri temsilcilik yoluyla haklarında yasal işlem başlatabilecektir.
Önerilen düzenlemeler, yapay zekanın potansiyel risklerine ve etkilerine dayalı olarak yükümlülükler getirmektedir. Sağlığa, demokrasiye, çevreye veya güvenliğe önemli zarar verme potansiyeline sahip yapay zekalar özellikle riskli olarak sınıflandırılıyor.
Sözde temel modellerin düzenlenmesi
Cinsel yönelim veya dini inançlar gibi hassas özellikleri kullanan biyometrik sınıflandırma sistemleri gibi bazı uygulamalar tamamen yasaklanacak. İnternetten veya yüz tanıma veritabanları için gözetim kayıtlarından görüntülerin hedefsiz okunmasına da izin verilmemelidir. Bununla birlikte, örneğin bir terör saldırısı riskinin bulunduğu veya özellikle insan ticareti mağdurlarının arandığı durumlarda, kamusal alanlarda gerçek zamanlı biyometrik kimlik tespiti için istisnalar olacaktır. Bu noktada yoğun bir tartışma yaşandı; AB Parlamentosu aslında tam bir yasak istiyordu.
Bir başka çekişme noktası da temel model olarak adlandırılan düzenlemelerin düzenlenmesiydi. Bunlar geniş bir veri kümesi üzerinde eğitilmiş çok güçlü yapay zeka modelleridir. Diğer birçok uygulamanın temelini oluşturabilirler. Buna örneğin GPT dahildir. Almanya, Fransa ve İtalya daha önce yapay zekanın yalnızca belirli uygulamalarının düzenlenmesini, ancak temel teknolojinin kendisinin düzenlenmesini talep etmemişti. Müzakereciler artık bu modeller için belirli şeffaflık gereklilikleri üzerinde anlaşmaya vardı.
Federal Dijital Bakanı Volker Wissing (FDP), nihai bir değerlendirme yapmaktan kaçındı. Cumartesi günü yaptığı açıklamada, bir yandan bazı sistemlerin yüksek riskli alana düşmesinin engellendiğini ancak diğer yandan düzenlemelerin yeniliklere olanak tanıması ve orantılı olması gerektiğini söyledi. “Bunun başarılı olup olmadığını görmek için önümüzdeki birkaç gün içinde çok yakından inceleyeceğiz.”
Alman Sanayi Federasyonu’na (BDI) göre, Avrupa artık yapay zekanın temel teknolojisinde geride kalma tehlikesiyle karşı karşıya. BDI yönetim üyesi Iris Plöger, “Yapay zeka temel modellerinin ve yapay zeka uygulamalarının kapsamlı düzenlenmesiyle, Yapay Zeka Yasası hem üreticilerin hem de kullanıcıların rekabet gücünü ve yenilikçilik yeteneğini tehlikeye atıyor” dedi. Düzenleme, şirketlere daha fazla hukuki kesinlik vermek yerine daha az yasal kesinlik veren olgunlaşmamış kriterlere dayanıyor.
Teknoloji endüstrisi derneği Bitkom, “ekonomi ve toplum pahasına bir siyasi başarı gösterisi”nden bahsetti. Varılan uzlaşmanın teknoloji üzerinde derin bir etkisi var. “AB bu nedenle şirketlere düzenleyici bir yük yüklüyor. Bitkom Genel Müdürü Bernhard Rohleder, Avrupalı şirketlerin, uygulanamayan projeler nedeniyle gelecekte hızlı teknolojik gelişmeyi takip edememe riskinin büyük olduğunu söyledi.
Reklam | Okumaya devam etmek için kaydırın
Tüketici avukatlarından eleştiri
Ancak Avrupalı tüketiciyi koruma örgütü Beuc, AB’yi şirketlerin öz düzenleme konusunda iyi niyetine çok fazla güvendiği için eleştirdi. “Örneğin, sanal asistanlar veya yapay zeka kontrollü oyuncaklar, yüksek riskli sistemler olarak görülmedikleri için yeterince düzenlenmiyor. ChatGPT veya Bard gibi sistemler de tüketicilerin onlara güvenebilmesi için gerekli korumaları alamayacak” dedi.
Ancak Almanya Tüketiciyi Koruma Bakanı Steffi Lemke (Yeşiller), yapay zeka düzenlemesinin tüketicileri yeni teknolojinin risklerinden koruduğu görüşünde. “Müzakereler sırasında yapay zeka sistemlerinin şeffaf, anlaşılır ve doğrulanabilir şekilde tasarlanmasını sağlamak için özellikle çalıştık. Gelecekte yapay zeka teknolojilerinin kullanımını sunan şirketlerin artık sistemlerinin nasıl çalıştığı hakkında bilgi vermesi ve yapay zeka destekli kararları açıklaması gerekecek” dedi Lemke Cumartesi günü. İhlallerin ortaya çıkması durumunda tüketici dernekleri temsilcilik yoluyla haklarında yasal işlem başlatabilecektir.
Önerilen düzenlemeler, yapay zekanın potansiyel risklerine ve etkilerine dayalı olarak yükümlülükler getirmektedir. Sağlığa, demokrasiye, çevreye veya güvenliğe önemli zarar verme potansiyeline sahip yapay zekalar özellikle riskli olarak sınıflandırılıyor.
Sözde temel modellerin düzenlenmesi
Cinsel yönelim veya dini inançlar gibi hassas özellikleri kullanan biyometrik sınıflandırma sistemleri gibi bazı uygulamalar tamamen yasaklanacak. İnternetten veya yüz tanıma veritabanları için gözetim kayıtlarından görüntülerin hedefsiz okunmasına da izin verilmemelidir. Bununla birlikte, örneğin bir terör saldırısı riskinin bulunduğu veya özellikle insan ticareti mağdurlarının arandığı durumlarda, kamusal alanlarda gerçek zamanlı biyometrik kimlik tespiti için istisnalar olacaktır. Bu noktada yoğun bir tartışma yaşandı; AB Parlamentosu aslında tam bir yasak istiyordu.
Bir başka çekişme noktası da temel model olarak adlandırılan düzenlemelerin düzenlenmesiydi. Bunlar geniş bir veri kümesi üzerinde eğitilmiş çok güçlü yapay zeka modelleridir. Diğer birçok uygulamanın temelini oluşturabilirler. Buna örneğin GPT dahildir. Almanya, Fransa ve İtalya daha önce yapay zekanın yalnızca belirli uygulamalarının düzenlenmesini, ancak temel teknolojinin kendisinin düzenlenmesini talep etmemişti. Müzakereciler artık bu modeller için belirli şeffaflık gereklilikleri üzerinde anlaşmaya vardı.
Federal Dijital Bakanı Volker Wissing (FDP), nihai bir değerlendirme yapmaktan kaçındı. Cumartesi günü yaptığı açıklamada, bir yandan bazı sistemlerin yüksek riskli alana düşmesinin engellendiğini ancak diğer yandan düzenlemelerin yeniliklere olanak tanıması ve orantılı olması gerektiğini söyledi. “Bunun başarılı olup olmadığını görmek için önümüzdeki birkaç gün içinde çok yakından inceleyeceğiz.”