AB mahkemesinde "Orwellian" AI yalan dedektörü projesine itiraz edildi

<pre>AB mahkemesinde "Orwellian" AI yalan dedektörü projesine itiraz edildi


Yasal bir meydan okuma Göçmenlik kontrollerini hızlandırmak amacıyla yüz "yalan tespiti" için yapay zeka kullanan tartışmalı bir AB tarafından finanse edilen araştırma projesiyle ilgili olarak bugün Avrupa Adalet Divanı'nda duyuldu.

şeffaflık davası Bloğun finansman programlarını denetleyen AB Araştırma Yürütme Ajansı'na (REA) karşı, Mart 2019'da Korsan Partisi Almanya Milletvekili ve sivil özgürlükler aktivisti Patrick Breyer tarafından açıldı – daha önce Komisyon'a ifşa etmeyi reddettiği için başarılı bir şekilde dava açtı. belgeler.

Projenin etik değerlendirmesi, yasal kabul edilebilirliği, pazarlaması ve sonuçlarıyla ilgili belgelerin yayınlanmasını istiyor. Ve kamu tarafından finanse edilen araştırmanın AB temel haklarına uyması ve bu süreçte kamu parasının yapay zeka "yılan yağı" için boşa harcanmasını önlemeye yardımcı olması gerektiği ilkesini belirlemeyi umuyor.

"AB tehlikeli gözetim ve kontrol teknolojisini geliştirmeye devam ediyor ve hatta gelecekte silah araştırmalarını finanse edecek, umarım kamu denetimine ve özel kâr menfaatlerinin hizmetinde kamu tarafından finanse edilen etik olmayan araştırmalara dair tartışmalara izin verecek dönüm noktası niteliğinde bir karar alınacaktır" dedi Breyer bugünkü duruşmanın ardından yaptığı açıklamada. "Şeffaflık davamla, mahkemenin, vergi mükelleflerinin, bilim adamlarının, medyanın ve Milletvekillerinin kamu tarafından finanse edilen araştırmalar hakkında bilgi alma hakkına – özellikle de 'iBorderCtrl gibi sözde bilimsel ve Orwellian teknoloji' durumunda karar vermesini istiyorum. video yalan dedektörü '. "

Mahkeme, dava hakkında henüz bir karar tarihi belirlemedi, ancak Breyer, yargıçların ajansı "yoğun ve eleştirel bir şekilde bir saatten fazla" sorguladıklarını ve AI teknolojisi ile ilgili, kamuya açıklanmamış ancak kamuya açıklanmış olan belgelerin açıklandığını söyledi. Yargıçlar tarafından incelenen, “etnik özellikler” gibi bilgileri içeren ve birçok soruyu gündeme getiren.

Mahkeme başkanı, tartışmalı konu hakkında daha fazla bilgi yayınlayarak saklayacak hiçbir şeyi olmadığını göstermenin AB araştırma ajansının çıkarına olup olmayacağını sorgulamaya devam etti. iBorderCtrl Breyer için proje.

AI "yalan algılama"

Söz konusu araştırma tartışmalı çünkü doğru bir yalan makinesi makinesi fikri bilim kurgu olarak kalıyor ve bunun iyi bir nedeni var: Aldatma için "evrensel bir psikolojik işaret" olduğuna dair hiçbir kanıt yok.

Yine de, bir video yalan dedektörü inşa etmeye yönelik bu yapay zeka destekli ticari Ar-Ge "deneyi" – test görevlilerinin, bir web kamerası yüz ifadelerini tararken sanal bir sınır muhafızı tarafından kendilerine yöneltilen sorulara yanıt vermelerini gerektirdi ve sistem, ne olduğunu tespit etmeye çalıştı. projenin resmi AT özeti yüz ifadelerinin doğruluğunu puanlama çabasıyla "aldatmanın biyolojik belirteçleri" olarak tanımlanıyor (evet, gerçekten🤦‍♀️) – bloğun altındaki AB araştırma fonunda 4,5 milyon Euro / 5,4 milyon doların üzerinde puan aldı Horizon 2020 şeması.

İBorderCtrl projesi Eylül 2016 ile Ağustos 2019 arasında yürütülmüştür ve finansman, bir dizi Üye Devlette (Birleşik Krallık, Polonya, Yunanistan ve Macaristan dahil) 13 özel veya kar amacı gütmeyen kuruluş arasında yayılmıştır.

Kamu araştırması, Komisyon dedi Breyer'in şeffaflık eksikliğine meydan okuyan sorularına yazılı bir yanıt olarak geçen yıl yayımlanacaktı, henüz gün yüzüne çıkmış görünmüyor.

2019'da geri dön Kesmek iBorderCtrl sistemini kendisi için test edebildi. Videolu yalan makinesi, muhabirini yalan söylemekle suçladı – 16 üzerinden dört yanlış cevap verdiğine karar vererek ve ona sonuçları değerlendiren bir polis memurunun yapması gereken sistemden bir öneriyi tetiklediğini bildirdi. başka kontrollere tabi tutulmalıdır (ancak sistem sınır testleri sırasında asla gerçekten çalıştırılmadığı için).

Intercept, muhabirin sonuçlarının bir kopyasını almak için AB hukukunda belirlenmiş bir hak olan bir veri erişim talebinde bulunması gerektiğini söyledi. Raporda, iBorderCtrl projesini "inandırıcı değil" olarak nitelendiren Derby Üniversitesi'nde ceza soruşturması profesörü olan Ray Bull'dan alıntı yapıldı – insanların yüzlerindeki mikro hareketleri izlemenin yalanları ölçmenin doğru bir yolu olduğuna dair kanıt eksikliği göz önüne alındığında.

“Gerçekten etkili olacağını düşünerek kendilerini kandırıyorlar ve çok fazla para israf ediyorlar. Teknoloji, insanların doğru ve aldatıcı olduklarında yaptıklarına dair temel bir yanlış anlaşılmaya dayanıyor ”dedi.

Yeterli veriyi pompalarsanız, yapay zekanın insan özelliklerini otomatik olarak tahmin edebileceği fikri üzücü bir şekilde yaygındır – sadece bakın son girişimler yüz şeklinden "kişilik özelliklerini" elde etmek için makine öğrenimi uygulayarak frenolojiyi canlandırmak. Dolayısıyla, yüz taramalı bir yapay zeka “yalan dedektörü”, uzun ve alçakça bir anti-bilimsel “gelenek” içinde oturur.

21. yüzyılda, milyonlarca avro kamu parasının korkunç eski fikirlerin yeniden canlandırılması için harcanması açıkçası inanılmaz bir şey – siz daha AB fon araştırmalarının doğasında bulunan ve AB şartında belirtilen temel haklara aykırı olan etik ve yasal kör noktaları düşünmeden önce . Bunun uçmasına izin vermenin içerdiği tüm kötü kararları düşündüğünüzde, baştan aşağı utanç verici görünüyor.

Yapay zekanın böylesine şüpheli bir uygulamasına fon verilmesi, veriye dayalı teknolojilerin ölçeklendirme önyargısını ve ayrımcılığı nasıl riske attığını gösteren tüm (iyi) araştırmaları görmezden geliyor gibi görünüyor.

Yine de kesin olarak bilemiyoruz, çünkü iBorderCtrl'in arkasındaki konsorsiyumun deneysel başvurularında etik hususları nasıl değerlendirdiği hakkında yalnızca çok sınırlı bilgi yayınlandı – ki bu yasal şikayetin temel bir parçasıdır.

Lüksemburg'daki Avrupa Adalet Divanı'nın önündeki zorluk, Komisyon için bazı çok tuhaf sorular ortaya çıkarıyor: AB, vergi mükelleflerinin parasını sözde bilimsel “araştırmaya” aktarmalı mı? Gerçek bilimi finanse etmeye çalışması gerekmez mi? Ve amiral gemisi araştırma programı – AB tacının mücevheri – neden bu kadar az kamu gözetimi yapıyor?

Bir video yalan makinesinin, AB’nin "etik öz değerlendirmeBu arada "süreci, iddia edilen" etik kontrollerinin "ikinci bir bakışa değmeyeceğini gösteriyor.

"Kabul edip etmeme kararı [an R&D] Üye Devlet temsilcileri bir karar aldıktan sonra REA tarafından başvuru alınır veya alınmaz. Yani kamu incelemesi yok, parlamento ya da STK katılımı yok. Yok [independent] tüm bu projeleri tarayacak etik organ. Tüm sistem çok kötü kurulmuş ”diyor Breyer.

Onların argümanı temelde bu Ar-Ge'nin amacının bilime katkıda bulunmak veya kamu yararı için bir şeyler yapmak veya AB politikalarına katkıda bulunmak değil, ancak bu programların amacı gerçekten endüstriyi desteklemek, satmak için malzeme geliştirmek olduğu yönündedir. Yani tasarlandığı şekliyle gerçekten ekonomik bir program olması gerekiyordu. Ve bence bunun doğru olup olmadığı, böyle olması gerekip gerekmediği konusunda gerçekten bir tartışmaya ihtiyacımız var ”.

"AB, AI'yı düzenlemek üzere ve burada aslında etik olmayan ve yasa dışı teknolojileri finanse ediyor" diye ekliyor.

Dış etik gözetimi yok

Sadece AB'nin haklara yönelik düşmanca araştırmaları finanse etmesi ikiyüzlü görünmekle kalmıyor, aynı zamanda – eleştirmenler – bu gerçekten yararlı araştırmalara harcanabilecek bir kamu parası israfıdır (bir güvenlik amacıyla ya da daha geniş anlamda, halk için) iyi ve bu “Avrupa değerlerini” ilerletmek için AB milletvekilleri atıfta bulunmayı severler).

Breyer, "Bilmemiz ve anlamamız gereken şey, işe yaramadığı veya etik olmadığı veya yasadışı olduğu için asla kullanılmayacak olan, gerçekten önemli ve yararlı olacak diğer programlar için para israf eden araştırmadır" diyor.

Örneğin, güvenlik programında polisin koruyucu donanımı açısından belki biraz iyi şeyler yapabilirsiniz. Ya da belki suç önleme açısından nüfusu bilgilendirmek açısından. Dolayısıyla, bu araçlar doğru bir şekilde kullanılırsa çok iyi şeyler yapabilirsiniz – ve umarız bu şüpheli teknolojide asla kullanılmaz ”.

Horizon 2020'den devralan AB’nin amiral gemisi araştırma ve inovasyon programının en son somut halinin 2021-2027 dönemi için ~ 95,5 milyar € bütçesi var. Dijital dönüşümü ve yapay zeka alanındaki gelişmeler, AB’nin belirtilen araştırma fonu öncelikleri. Yani "deneysel" yapay zeka için mevcut olan para miktarı çok büyük görünüyor.

Ancak, Ar-Ge'nin AB'nin kendi temel insan hakları şartına açıkça aykırı olduğu durumlarda, paranın algoritmik yılan yağına ve tehlikeli algoritmik yılan yağına harcanmamasını kim sağlayacak?

Avrupa Komisyonu, sözcülerin bu konular hakkında konuşmaları için çok sayıda talebi reddetti, ancak bazı kayıt noktaları (aşağıda) ve yasal şikayetin önemli bir parçası olan belgelere erişimle ilgili bazı arka plan bilgileri gönderdi.

Komisyon'un “araştırmada etik” konusundaki rekor beyanları arasında, “etiğe, AB tarafından finanse edilen araştırmalarda en yüksek önceliğin verildiği” iddiasıyla başladı.

"Ufuk2020 kapsamında yürütülen tüm araştırma ve yenilik faaliyetlerinin etik ilkelere ve ilgili ulusal, AB ve uluslararası hukuka uygun olması gerekir, Temel Haklar Şartı ve Avrupa İnsan Hakları Sözleşmesi de dahil olmak üzere" dedi, ayrıca şunları ekledi: "Tüm teklifler, araştırma projesinin etik kurallara ve standartlara uygunluğunu doğrulayan ve sözleşmeye bağlı olarak zorunlu kılan özel bir etik değerlendirmesinden geçer ”.

Bir “videolu yalan makinesinin”, haysiyet, mahremiyet, eşitlik ve ayrımcılık yapmama hakkı gibi AB temel haklarına nasıl uyabileceğini ayrıntılı olarak açıklamadı.

Ayrıca, Avrupa Veri Koruma Denetçisinin (EDPS) AB tarafından finanse edilen bilimsel araştırma ile veri koruma kanunu arasındaki yanlış hizalamayla ilgili endişeleri dile getirdiğini belirtmek gerekir. ön görüş Geçen yıl: “Hangi faaliyetlerin gerçek araştırma, bilimsel araştırma için AB davranış kuralları, AB araştırma çerçeve programları ve veri koruma standartları arasında daha yakın uyum sağladığına dair ortak bir anlayış için veri koruma otoriteleri ve etik inceleme kurulları arasındaki diyaloğun yoğunlaştırılmasını öneriyoruz. Araştırmacıların özel şirketler tarafından tutulan verilere erişiminin kamu yararına dayalı olabileceği koşullar üzerine bir tartışmanın başlangıcı ”.

İBorderCtrl projesinde özellikle Komisyon bize proje, araştırmanın etik yönlerinin “ilk etik gerekliliğine uygun olarak” uygulanmasını denetlemek için bir etik danışman atadı. "Danışman, konsorsiyumdan özerklik ve bağımsızlığı sağlayacak şekilde çalışmaktadır", diye iddia etti, projenin (kendi kendine atanan) etik danışmanının kim olduğunu açıklamadan.

“Etik hususlar, projenin yürütülmesi sırasında ilgili çıktıların revizyonu yoluyla Komisyon / REA tarafından sürekli olarak izlenmekte ve raporlama dönemlerinin sonuna bağlı teknik inceleme toplantılarında harici bağımsız uzmanlarla işbirliği içinde dikkatle analiz edilmektedir”, devam etti. , “Mart 2019'da tatmin edici bir etik kontrolü yapıldı” diye ekledi.

Bu kendi kendini düzenleyen “etik kontrol” hakkında daha fazla ayrıntı sağlamadı.

Breyer, AB'nin araştırma programının nasıl yapılandırıldığını tartışırken, "Şimdiye kadarki çalışma şekli, temelde Komisyon'un teklif / ihale çağrısıyla oluşturduğu bir uzman grubu" diyor. "Sektör uzmanları tarafından yönetiliyor, içinde parlamento üyesi yok, içinde sadece – sanırım – bir sivil toplum temsilcisi var, bu yüzden en başından beri yanlış bir şekilde oluşturulmuş. Daha sonra Araştırma Yürütme Ajansına gider ve asıl karar Üye Devletlerin temsilcileri tarafından alınır.

"Arama [for research proposals] Bakarsanız, kendisi kulağa o kadar da kötü gelmiyor – bu çok genel – dolayısıyla sorun gerçekten de ona yanıt olarak önerdikleri spesifik teklifti. Ve anladığım kadarıyla bunlar bağımsız uzmanlar tarafından taranmıyor. Etik konusu öz değerlendirme ile ele alınır. Dolayısıyla, temelde başvuru sahibinin projede yüksek bir etik risk olup olmadığını belirtmesi beklenir. Ve ancak bunu belirtmeleri halinde – REA tarafından seçilen – uzmanlar bir etik değerlendirmesi yapacaklardır.

"Kimin seçildiğini bilmiyoruz, fikirlerini bilmiyoruz – aynı zamanda gizli tutuluyor – ve daha sonra bir projenin etik olmadığı ortaya çıkarsa, hibeyi iptal etmek mümkün değil".

İkiyüzlülük suçlaması burada keskin bir şekilde ortaya çıkıyor, çünkü Komisyon, AI uygulaması için risk temelli kuralları şekillendirme. Ve AB milletvekilleri yıllardır, yapay zeka teknolojilerinin bölgesel değerler ve haklara uygun olarak uygulandıklarından emin olmak için "korkuluklara" ihtiyacı olduğunu söylüyorlar.

Komisyon Başkan Yardımcısı Margrethe Vestager hakkında konuştu Örneğin, yapay zekayı sağlamak için kurallara duyulan ihtiyaç "etik olarak kullanılır" ve "insan kararlarını destekleyebilir ve onlara zarar veremez".

Yine de AB kurumları, bölgede uygulandığında açıkça hukuka aykırı olacağı ve sivil toplum eleştirmenlerinin “yalan tespiti” nin temelini oluşturan bilimsel temelin yokluğu göz önüne alındığında açıkça etik olmadığını nitelendiren AI araştırmalarına kamu fonlarını eşzamanlı olarak kullanıyorlar.

Bir SSS bölümü iBorderCtrl web sitesinde, projenin arkasındaki ticari konsorsiyum, ilgili bazı teknolojilerin gerçek dünyadaki dağıtımının mevcut AB yasal çerçevesi tarafından kapsanmayacağını kabul ediyor – bunun şu anlama geldiğini de ekliyor: "Demokratik bir siyasi karar olmadan uygulanamazlar. yasal bir dayanak ”.

Ya da başka bir deyişle, böyle bir sistemin kanunda bir değişiklik olmaksızın Avrupa'da sınır kontrolleri için fiilen kullanılması yasa dışı olacaktır. Yine de Avrupa vergi mükelleflerinin finansmanı yine de devreye girdi.

Bir EDPS sözcüsü, Breyer'ın davası hakkında özel olarak yorum yapmayı reddetti, ancak bilimsel araştırma ve veri koruma konusundaki ön görüşünün hala geçerli olduğunu doğruladı.

O da işaret etti daha fazla ilgili iş Bu, araştırma amaçları için tüm AB sağlık verilerinin paylaşımını teşvik etmeye yönelik yeni bir Komisyon itkisini ele alır – burada, EDPS, veri koruma önlemlerinin "başlangıçta" tanımlanması gerektiğini ve ayrıca "baştan sona" düşünülmüş bir yasal temelin oluşturulması gerektiğini tavsiye eder. önde yer alan araştırma.

"EDPS, verilerin ahlaki kullanımına özel dikkat gösterilmesini tavsiye eder. [health data sharing] mevcut etik komitelerini ve ulusal mevzuat bağlamındaki rollerini dikkate almayı önerdiği çerçeve ”, diye yazıyor AB'nin baş veri sorumlusu, "Başarısının [health data sharing plan] Temel haklara saygı da dahil olmak üzere AB değerlerine bağlı yasal, sorumlu, etik bir yönetim için yeterli güvenceler sağlayan güçlü bir veri yönetişim mekanizmasının kurulmasına bağlı olacaktır ”.

tl; dr: Verilerin yasal ve etik kullanımı, araştırma çabalarının DNA'sı olmalıdır – sonradan düşünülen bir onay kutusu değil.

Doğrulanamayan teknoloji

AB finansmanı sağlayan araştırma projelerinin bağımsız etik gözetimi eksikliğine ek olarak, – şu anda ve endişe verici bir şekilde, sözde ticari olarak düşünülmüş araştırmalar için – dışarıdan kişilerin ilgili teknolojiyi bağımsız olarak doğrulamasının (ya da aslında tahrif etmenin) bir yolu yoktur.

İBorderCtrl teknolojisi söz konusu olduğunda, projenin sonuçlarına ilişkin anlamlı veriler kamuoyuna açıklanmamıştır ve bilgi edinme özgürlüğü yasası kapsamında aranan veri talepleri ticari menfaat gerekçesiyle bloke edilmiştir.

Breyer, 2019'da tamamlandığından beri projenin sonuçları hakkında bilgi edinmeye başarılı olamadı. The Guardian, geri verdiği mücadeleyi ayrıntılı olarak bildirdi. Aralık.

AB araştırmalarını saran yasal çerçeve altında, proje sonuçları hakkında bilgi yayınlamak için yalnızca çok sınırlı bir gereksinim olduğunu söylüyor – ve bundan çok sonra. Dolayısıyla, Adalet Divanı'nın “ticari çıkarların” kamu yararına bilgi ifşasını genel anlamda reddetmek için kullanılamayacağını umuyor.

TechCrunch'a, "Temelde bir projenin gerçekten işe yarayıp yaramadığını inceleme zorunluluğu olmadığını, böylece çalışmayan araştırmaları finanse etme hakkına sahip olduklarını iddia ediyorlar" dedi. Ayrıca, bilginin herhangi bir şekilde yayınlanmasının teknolojiyi satma yeteneğine zarar vermesi durumunda erişimi dışlamanın temelde yeterli olduğunu ve bunun ticari olarak hassas bilgilerin son derece geniş bir yorumu olduğunu savunuyorlar.

"Kabul edeceğim şey, yazılım programlarının kaynak kodu veya dahili hesaplamalar veya benzeri gibi ticari sırları gerçekten içeren bilgileri hariç tutmaktır. Ancak, örneğin bir projenin etik dışı olarak etiketlenmesi kesinlikle bu kapsamda olmamalıdır. Bu bir iş sırrı değil ama açıkça satma yeteneklerine zarar verecek – ama açıkçası bu yorumlama aşırı derecede geniş ”.

Bunu umuyorum [legal action] Kamuoyunun bilme hakkının teknolojiyi satmak için ticari çıkarlardan öncelikli olduğu, bu tür etik olmayan – ve gerçekten kullanılmış veya konuşlandırılmışsa yasa dışı – teknolojiler hakkındaki bilgilerin açıklığa kavuşturulması için bir emsal teşkil edecek ”diye ekliyor. "Bilgiyi yayınlamayacağımızı çünkü bunu yapmanın teknolojiyi satma şansını azaltacağını söylüyorlar. Ve bunu gördüğümde, o zaman kesinlikle mahkemeye gitmeye değer dedim çünkü tüm taleplere aynı şekilde davranacaklar ”.

Sivil toplum kuruluşları da iBorderCtrl projesi hakkında ayrıntılı bilgi alma girişimlerinde engellendi. Intercept, 2019'da Milano merkezli Hermes Şeffaflık ve Dijital İnsan Hakları Merkezi bilgi edinme özgürlüğü yasalarını elde etmek için kullandı dahili belgeler Örneğin, iBorderCtrl sistemi hakkında, ancak geri aldıkları yüzlerce sayfa, büyük ölçüde yeniden düzenlendi – çoğu tamamen karartıldı.

"Dan duydum [journalists] diğer şüpheli araştırma projeleri hakkında büyük ölçüde bilgi sakladıklarını öğrenmek için boşuna çabaladılar. Etik raporu veya yasal değerlendirme gibi şeyler bile – ticari sırlar içermeyen her şey bunlar ”, diye devam ediyor Breyer. "Herhangi bir kaynak kodu veya herhangi bir hassas bilgi içermiyor – bunları kısmen bile yayınlamadılar.

"Bir AB otoritesinin [the REA] aslında bununla ilgilenmediğimizi söyleyeceğiz çünkü satışları azalttığı anda bilgileri saklayacağız. Bunun hem vergi mükelleflerinin paralarının ne için kullanıldığını bilmedeki çıkarları açısından hem de bu deneyleri “ aldatma tespiti '' denen şey üzerinde test edebilmek / doğrulamak için bilimsel çıkar açısından kabul edilebilir olduğunu sanmıyorum. '- gerçekten işe yarıyorsa bu çok tartışmalıdır. Ve bunu doğrulamak ya da tahrif etmek için bilim adamlarının elbette bu denemelerle ilgili ayrıntılara erişmeleri gerekir.

"Ayrıca demokratik olarak konuşursak, yasa koyucu böyle bir sistemin başlatılmasına veya hatta bu araştırma programlarının çerçevesine karar vermek isterse, temelde ayrıntıları bilmemiz gerekir – örneğin, yanlış pozitiflerin sayısı kaçtı? Gerçekten ne kadar iyi çalışıyor? Yüz tanıma teknolojisi gibi belirli insan gruplarında daha az işe yaradığı için ayrımcı bir etkisi var mı? Bunlar gerçekten acilen bilmemiz gereken şeyler ”.

AB tarafından finanse edilen araştırmalarla ilgili belgelere erişimle ilgili olarak, Komisyon bizi Yönetmeliğe sevk etti. 1049/2001 – "genel ilkeleri ve sınırları belirlediğini" söylediği halde, "her vakanın dikkatlice ve ayrı ayrı analiz edildiğini" ekledi.

Bununla birlikte, Komisyon'un Horizon programı düzenlemelerine ilişkin yorumu, en azından iBorderCtrl projesi durumunda, bilgi özgürlüğünün uygulanmasını tamamen dışlıyor görünmektedir.

Breyer'e göre, kamuya açıklamayı araştırma bulgularının bir özetiyle sınırlıyorlar – bu, projenin tamamlanmasından yaklaşık üç veya dört yıl sonra yayınlanabilecek.

"Bazı bilimsel dergilerde bu proje hakkında beş veya altı sayfalık bir makale göreceksiniz ve elbette bunu teknolojiyi doğrulamak veya tahrif etmek için kullanamazsınız" diyor. "Tam olarak ne yaptıklarını, kiminle konuştuklarını göremiyorsunuz. Yani bu özet bilimsel olarak, kamuoyunda ve demokratik olarak oldukça yararsızdır ve yaşları alır. Bu nedenle, gelecekte daha fazla kavrayış ve umarım kamuoyunda tartışmaya gireceğimizi umuyorum ”.

AB araştırma programının yasal çerçevesi ikincil mevzuattır. Dolayısıyla Breyer’in argümanı, "ticari çıkarları" korumaya ilişkin genel bir maddenin AB'nin şeffaflık konusundaki temel haklarını gölgede bırakmaması gerektiğidir. Ancak elbette karar vermek mahkemeye kalacaktır.

“Özellikle şeffaflık ve bilgiye erişim aslında AB'de temel bir hak olduğu için – AB temel haklar tüzüğünde yer aldığı için iyi bir şansım olduğunu düşünüyorum. Ve bu Horizon mevzuatı yalnızca ikincil mevzuattır – birincil kanundan sapamazlar. Ve buna göre yorumlanmaları gerekiyor ”diye ekliyor. “Bu nedenle, mahkemenin umarım bunun uygulanabilir olduğunu söyleyeceğini ve ticari bilgileri de koruyan ancak kamu menfaatlerine tabi olan bilgi özgürlüğü bağlamında bir miktar dengeleme yapacağını düşünüyorum. Bu yüzden iyi bir uzlaşma bulacaklarını ve umarım daha iyi içgörü ve daha fazla şeffaflık bulacaklarını düşünüyorum.

"Belki belgenin bazı kısımlarını karartacaklar, bazılarını çıkaracaklar ama kesinlikle umarım prensip olarak buna erişebiliriz. Ve böylelikle gelecekte Komisyon ve REA'nın bu araştırmada talep edilen şeylerin çoğunu teslim etmesini de sağlayın. Çünkü orada pek çok şüpheli proje var ”.

Daha iyi bir araştırma projesi gözetimi sistemi, finansman başvurularının çoğunlukla endüstri ve AB Üye Devletlerinin temsilcilerinden (tabii ki her zaman bölgelerine AB parasının gelmesini isteyeceklerdir) – aynı zamanda parlamento temsilcilerinden oluşmamasına karar veren komiteye sahip olarak başlayabilir. Breyer başına daha fazla sivil toplum temsilcisi ve bilim insanı.

"Bağımsız katılımcıları olmalı ve bunlar çoğunluk olmalı" diyor. "Bu, araştırma faaliyetlerini kamu yararına, değerlerimizle uyumluluğa, faydalı araştırmaya yöneltmek mantıklı olacaktır – çünkü bilmemiz ve anlamamız gereken şey, işe yaramadığı veya işe yaramadığı için asla kullanılmayacak olan araştırmadır. etik dışı veya yasadışı, bu gerçekten önemli ve yararlı olabilecek diğer programlar için para israf ediyor ”.

Savunmaya odaklanan yeni bir AB araştırma programının oluşturulduğuna da işaret ediyor – aynı yapı altında, finansman kararlarının veya bilgilerin açıklanmasının uygun bir şekilde kamuoyu tarafından incelenmesinden yoksun, "Bunu savunma için de yapmak istiyorlar. Bu ölümcül teknolojiler için bile olacak ”.

Bugüne kadar iBorderCtrl ile ilgili tek ifşa, sistemin teknik özelliklerinin birkaç parçası ve her ikisinin de "büyük ölçüde düzeltildiğini" belirten Breyer'a göre bir iletişim raporunun bir kısmıydı.

"Örneğin, bu sistemi hangi sınır kurumlarına tanıttıklarını söylemiyorlar, hangi politikacılarla konuştuklarını söylemiyorlar" diyor. “İlginç olan aslında bu finansmanın bir kısmının teknolojiyi AB'deki sınır yetkililerine ve politikacılara da sunması. Bu çok ilginç çünkü Komisyon bak, bunun sadece araştırma olduğunu söylüyor; gerçekten önemli değil. Ama aslında projeyi teknolojiyi ve satışını tanıtmak için kullanıyorlar. Ve bu asla AB sınırlarında kullanılmasa bile, kalkınmayı finanse etmek, diğer hükümetler tarafından kullanılabileceği anlamına gelecektir – Çin, Suudi Arabistan ve benzerlerine satılabilir.

"Ve ayrıca aldatma tespit teknolojisi – onu pazarlayan şirket [a Manchester-based company called Silent Talker Ltd] – aynı zamanda sigorta şirketlerine teklif ediyor veya iş görüşmelerinde kullanılmak üzere ya da belki bir bankada kredi başvurusu yaptığınızda. Bu yüzden, bir yapay zeka sisteminin özel sektörde çok geniş bir şekilde kullanılan yalan risklerini tespit edebileceği fikri ve bunun hiç çalışmadığını ve temelde bir piyango olduğunu söylediğim için, birçok insan bu şüpheli durumdan dezavantajlara sahip olma riski taşıyor. teknoloji ”.

“Kimsenin AB'nin böyle bir 'vudu' teknolojisini finanse etmesini engellememesi çok çirkin bir durum” diye ekliyor.

Komisyon bize “ Akıllı Taşınabilir Sınır Kontrol Sistemi ”(aka iBorderCtrl) "Kara sınırı geçişinin verimliliğini, rahatlığını ve güvenliğini artırma konusunda yeni fikirler keşfetti" ve tüm güvenlik araştırma projeleri gibi, "güvenlik zorluklarını ele almak için yeni fikirleri ve teknolojileri test etmeyi amaçlıyordu".

"İBorderCtrl hazır teknolojiler veya ürünler sunması beklenmiyordu. Tüm araştırma projeleri, gerçek dünya uygulamalarıyla teknolojilerin geliştirilmesine yol açmaz. Araştırma projeleri sona erdiğinde, daha fazla araştırma yapmak ve / veya proje tarafından incelenen çözümleri geliştirmek isteyip istemediklerine karar vermek Üye Devletlerin sorumluluğundadır ”dedi.

Ayrıca, gelecekteki herhangi bir teknolojinin belirli bir şekilde uygulanmasının, "temel haklar ve kişisel verilerin korunmasına ilişkin AB kuralları da dahil olmak üzere, her zaman AB ve ulusal yasalara ve korumalara saygı göstermesi gerektiğine" dikkat çekti.

Bununla birlikte Breyer, Komisyon'un "yalnızca Ar-Ge olduğunu" veya belirli bir teknolojinin kullanımına karar vermediğini iddia ederek kamuoyunun dikkatini başka yöne çekmeye çalıştığını da söylüyor. "Elbette, faydalı olduğu veya işe yaradığı ortaya çıkarsa, geliştirilmiş olan bir şeyi kabul etmesi yasa koyucu üzerinde baskı yaratır", diyor. "Ve ayrıca AB tarafından kullanılmasa bile başka bir yerde satılacak – bu yüzden bu araştırmanın inceleme ve etik değerlendirme eksikliğinin gerçekten skandal olduğunu düşünüyorum. Özellikle de gözetleme teknolojilerini defalarca geliştirip araştırdıkları için – kamusal alanların toplu gözetimi dahil ”.

“İnternette toplu veri toplama ve İnternet verilerinin işlenmesi üzerine projeleri var. Güvenlik programı çok sorunlu çünkü temel haklara – mahremiyet hakkına – müdahaleleri araştırıyorlar ”diye devam ediyor. “Programda, kitlesel gözetlemenin etik olmayan yöntemlerini ve benzerlerini dışlamak için hiçbir sınırlama yoktur. Ve sadece maddi sınırlamalar değil, aynı zamanda bu tür projeleri baştan dışlayabilecek kurumsal bir yapı da yok. Ve sonra programlar tasarlanıp başlatıldıktan sonra bile bunlara erişimi açıklamayı bile reddedecekler. Ve bu gerçekten çok çirkin ve dediğim gibi, mahkemenin uygun bir denge kuracağını ve daha fazla içgörü sağlayacağını umuyorum ve sonra temelde bu araştırma planlarının tasarımı hakkında kamusal bir tartışma başlatabiliriz ”.

Yine Komisyon'un aynı endüstri merkezli karar verme yapısı altında bir savunma Ar-Ge fonu kurma planına işaret ederek – "benzer şekilde eksik bir etik değerlendirme mekanizması" ile – AB araştırmalarının özerk finansmanı sağlayabilmesinde bazı sınırlar varken silahlar, kitle imha silahları ve nükleer silahlar gibi diğer alanlar vergi mükelleflerinin nakit parası için teklif verebilir.

"Yani bu büyük ölçüde sorunlu olacak ve elbette aynı şeffaflık sorunu yaşanacak" diye ekliyor.

Genel olarak şeffaflık konusunda, Komisyon bize “projeleri her zaman sonuçlarını olabildiğince kamuoyuna duyurmaya teşvik ettiğini” söyledi. Özellikle iBorderCtrl için, proje hakkında daha fazla bilginin CORDIS web sitesi ve adanmış proje web sitesi.

Zaman ayırıp "yayınlarİBorderCtrl web sitesinin ”sayfasında bir dizi“ çıktı ”bulacaksınız – bir“ etik danışmanı ”dahil; “etik danışmanının ilk raporu”; bir "profil oluşturma etiği, bireylerin damgalanma riski ve azaltma planı"; ve tümü "gizli" olarak listelenmiş "AB çapında yasal ve etik inceleme raporu".