ABD düzenleyicisi: FTC, “AI silah tespit uzmanı” Evolv'a karşı harekete geçti

Aramizda

Aktif Üye
ABD ticaret düzenleyicisi FTC (Federal Ticaret Komisyonu), yapay zeka (AI) kullanarak bagajdaki tabanca veya bıçak gibi silahları otomatik olarak tespit edebildiği iddia edilen teknolojisi konusunda Evolv şirketi ile bir anlaşmazlıkta anlaşmaya vardı. Bu nedenle güvenlik şirketi, tarayıcısının silahları tespit edebildiğini ve bunları zararsız kişisel eşyalardan ayırt edebildiğini artık iddia edemez. Ayrıca dizüstü bilgisayarların ve diğer cihazların artık çantalardan veya valizlerden çıkarılması gerekmediğine dair reklam yapılmasına da artık izin verilmiyor. Şirketin ayrıca metal dedektörlerinin kullanımına kıyasla silah tespitinin doğruluğu hakkında bilgi vermesi de yasaktır.


Reklamcılık



Evolv, yapay zeka tabanlı bagaj tarayıcılarının diğer özelliklerinin yanı sıra “potansiyel tehditleri tespit etmek için eğitimli bir operatöre olan ihtiyacı ortadan kaldırdığını” öne sürdü. Çoğu geleneksel röntgen makinesinin, röntgen görüntüsünü yorumlamak için bir operatöre ihtiyaç duyduğunu söylüyorlar. Şirketin kendi teknolojisi ise bir kişinin çantayı araması gerekip gerekmediğini yalnızca kırmızı veya yeşil renkle işaret ediyor. Bu sayede “taranan bagaj hacmi” maksimuma çıkarılabilir ve elle aranması gereken nesne sayısı en aza indirilebilir. Evolv'un dünya çapında 800'den fazla müşterisi olduğu iddia ediliyor. Bunlara stadyumlar, tema parkları ve müzelerin yanı sıra okullar, hastaneler, kiliseler ve şehir yönetimleri de dahildi.

Sivil haklar aktivisti: Yapay zeka pahalı olduğu varsayılan mucizevi bir tedavi


FTC, şikayetinde Evolv'u bilerek, defalarca ve yasa dışı bir şekilde teknoloji hakkında yanıltıcı iddialarda bulunmakla suçladı. Sonuçta, geleneksel tarayıcılar gibi bunlar da yalnızca metali algılayabilir ve karşılık gelen nesneler için bir alarmı tetikleyebilir. Evolv ekipmanı için tipik bir sözleşmenin maliyeti yılda onbinlerce dolardır; bu, geleneksel metal dedektörlerinin maliyetinin beş katıdır. Kentucky'deki bir bölge, okullarını donanım ve yazılımla donatmak için 17 milyon dolar harcadı. Ancak sonuçlar çoğu zaman ayıltıcıdır. Temmuz'dan Ekim'e kadar New York City, Evolv teknolojisini 20 metro ve tren istasyonunda test etti. Gerçekleştirilen 2.749 taramadan 118'inde hatalı pozitif sonuç elde edildi. Müfettişler on iki bıçağa el koydu, ancak ateşli silah bulunamadı.

FTC ile yapılan anlaşma, Evolv tarayıcılarını kullanan birçok okulun sözleşmelerini erken feshedebilmesini şart koşuyor. Şirketin ayrıca, geleneksel dedektörlerden üstün olduğu söylenen performans, etkinlik, tip veya merkezi özellikler gibi cihazların temel yönlerini açıkça belirtmesine de artık izin verilmiyor. Buna algoritmaların, yapay zekanın ve diğer otomatik sistem ve araçların kullanımına ilişkin beyanlar da dahildir. ABD sivil haklar örgütü Electronic Frontier Foundation (EFF) anlaşmayı memnuniyetle karşılıyor: Yapay zekaya bu kadar sıklıkla abartılı reklam veya “yılan yağı” denmesinin iyi nedenleri var. Şirketler, kendilerini izlemek amacıyla yapay zekayı kullanmak için defalarca kamuya açık verilere başvurdu. Daha sonra bunların hiçbirinin işe yaramadığını belirlemek vergi mükellefine bırakılır. Atışları tespit etmeye ve yerini belirlemeye yönelik yapay zeka yazılımı da nadiren bu tür suçlara dair kanıt sağlar.


(Asla)