Aramizda
Aktif Üye
AI Güncellemesi: AI Haluzinasyonlar, Meta Ems Veri, Siri Kaos, Text2robot
Slopsquatting: AI halüsinasyonları yoluyla yeni güvenlik tehdidi
Yapay zeka tarafından oluşturulan koddaki halüsinasyonlu kod kütüphaneleri giderek daha fazla güvenlik riski haline geliyor. AI tarafından üretilen her beşinci kod snippet'i icat edilmiş kütüphaneler içerir – güvenlik araştırmacılarını slopsquatting olarak tanımlayan bir fenomen. Araştırmacı Seth Larson tarafından şekillenen terim, Hacker Schadcode'un AI sistemlerini düzenli olarak “halüsinasyon” yapan isimler altında yayınladığı bir saldırı stratejisini anlatıyor.
Chatgpt-4 bile kütüphaneleri vakaların yaklaşık yüzde beşinde icat etti ve kota açık kaynak modelleri için daha da yüksek. Tehlike, geliştiriciler bu tür kodu devraldığında ve “eksik” paketleri yüklemeye çalıştıklarında ortaya çıkar – saldırganların gizli bir kötülük kodu ile doldurabileceği bir boşluk. Korumak için uzmanlar her zaman AI tarafından oluşturulan kodu eleştirel olarak incelemeyi, paket adlarını doğrulamayı ve karma testleri yapmayı önerir.
Meta platformları, Avrupa müşterilerinin verilerini yapay zekâsının verilerini besliyor
Meta, AI modellerini eğitmek için AB kullanıcılarının kamuya açık kişisel verilerini kullanır. Instagram, Facebook ve konularda herkese açık paylaşılan katkılar, resimler ve videolar kullandı – ancak özel mesajlar veya yalnızca kişiler tarafından görülebilen içerik değil.
Grup, Avrupa veri koruma yetkilileri ile yapılan bir anlaşma sonrasında GDPR'yi kullandıktan sonra GDPR'ye demirlenen “meşru faiz” e güveniyor. Kullanıcılar verilerinin pop-up yoluyla kullanımı hakkında bilgilendirilir ve çelişebilir. Bununla birlikte, halihazırda kullanılan veriler artık eğitimli modellerden kaldırılamaz – çelişki sadece gelecekteki eğitim için geçerlidir.
İrlandalı veri korumacıları Grokat eğitimini inceliyor
İrlanda Veri Koruma Otoritesi DPC, Elon Musk'ın Platformu X'i hedefliyor. Odak noktası, şirketin AI sistemi GROK'sını eğitmek için geçerli bir rıza göstermeden AB vatandaşlarından kişisel verileri kullanıp kullanmadığı. X Platformu, daha önceki bir prosedür kullanarak bu uygulamayı işe almayı üstlendi.
İrlanda'daki Avrupa merkezine sahip birçok ABD teknoloji şirketi için önde gelen denetim otoritesi olan DPC'nin önemli yaptırım seçenekleri vardır. GDPR ihlali durumunda, küresel cironun yüzde dördüne kadar para cezası tehdit edilmektedir.
Quark yarışmayı aşıyor: Alibabas Ki-App Çin'de hakim
Alibaba, KI App Quark ile Çin pazarındaki en üst sırayı fethetti. Dünya çapında aylık yaklaşık 150 milyon aktif kullanıcı ile hizmet, yarışmacıların Doubao'yu bayta ve Deepseek'ten geçiyor. Alibaba, başlangıçta bir bulut depolama ve arama hizmeti olan lor peyniri sadece geçen ay kapsamlı bir AI asistanına dönüştürdü.
Çin AI pazarı oldukça rekabetçi. BYTEDANCE zaten Doubao için video işlevlerini test ederken, Tencent Yuanbao hizmetini WeChat platformuna entegre etti. Andreessen Horowitz'in bir analizinden Quark, en popüler AI uygulamalarında altıncı sırada yer alıyor-sohbete açık bir mesafede, uluslararası alanda liderlik etmeye devam ediyor.
Yapay zeka ne kadar zeki? İşimiz, boş zamanlarımız ve toplumumuz için üretken yapay zekanın sonuçları nelerdir? Haberler'nin “AI Güncellemesi” nde, kod çözücü ile birlikte en önemli AI gelişmelerine güncellemeler getiriyoruz. Cuma günleri uzmanlarla AI devriminin farklı yönlerine ışık tutuyoruz.
Apple'ın Siri-Ki'nin etrafında kaos
AI rampasındaki rakipler ileriye doğru ilerlerken, Apple teknik olarak geride kalıyor. Siri, Apple Intelligence'ın kurulmasından dokuz ay sonra çok daha akıllı olamadı. Yeni AI işlevlerini bir yıla kadar erteledikten sonra, iç güç mücadeleleri şimdi biliniyor. Buna göre, Apple başlangıçta AI eğitimi için yeterli GPU'ların satın alınması nedeniyle başarısız oldu, çünkü Apple'ın CFO'su buna karşı.
Bu arada, Kaliforniya'da reklamı yapılan Siri-KI işlevlerinin iki ve Kanada'nın British Columbia kentinde üç dava sunuldu. Diğer şeylerin yanı sıra, suçlama haksız rekabettir, çünkü Apple, daha sonra vaat edilen işlevlerden yoksun olan yeni iPhone'ları satın almak için reklamları cazip hale getirmiştir. En kötü durumda, Apple milyonlarca para cezasını tehdit ediyor.
Text2robot: Ki metin açıklamasıyla robot oluşturur
Basit metin girişi ile bir robot geliştirmek, Duke Üniversitesi'nden Ki-Framework Text2Robot'u vaat ediyor. Sistem, kısa bir açıklamada kısa bir açıklamadan bir üretim robot tasarımı oluşturmalıdır, bu da daha sonra bir simülasyonda test edilir.
Evrimsel stratejilerle birlikte, algoritmalar robotun ve kontrol yazılımının fiziksel formunu optimize eder, bu da etkili hareket dizilerine yol açar. İşleyen bir fiziksel robot, bir gün içinde 3D baskı kullanılarak tamamlanabilir. Çerçeve şu anda dört ayaklı robot için optimize edilmiştir, ancak gelecekte diğer formları da desteklemelidir.
(Mali)