Aramizda
Aktif Üye
Kompakt AI güncellemesi: Apple ReALM, Many-Shot Jailbreaking, SWE-agent, AI Imagen
Yapay zeka sayesinde Siri nihayet bağlamı anlayabildi
Reklamcılık
Apple yakında, mevcut ekran görüntüsü veya devam eden konuşmalar bağlamında kullanıcı girişini anlayan, ReALM adı verilen yeni bir yapay zeka modelini temel alan, Siri'nin geliştirilmiş bir sürümünü açıklayabilir. Şirket bunu bir araştırma makalesinde öneriyor. Model, örneğin bir eczane listesini görüntüledikten sonra kullanıcıların ekrandaki konumuna bakarak eczanelerden birini arayabilmesine olanak tanıyor. GPT-3.5 ile karşılaştırıldığında ReALM daha yüksek doğruluk elde etti.
Apple, veri korumasını ve verimliliğini artırmak ve gecikmeyi azaltmak için doğrudan akıllı telefon üzerinde çalışan cihaz içi yapay zeka çözümüne güveniyor.
Apple, son aylarda çeşitli projelerle yapay zeka çalışmalarını artırdı. Apple, ReALM'in yanı sıra MM1 modelini ve Keyframer animasyon aracını da geliştirdi. Söylentiler, Apple'ın Google'ın AI Gemini'sini muhtemelen Haziran ayında beklenen iOS 18 kadar erken bir zamanda kullanabileceğini gösteriyor.
Mükemmel dil modelleri kötü örnekler tarafından baştan çıkarılır
Anthropic'in yeni bir araştırması, geniş bağlam pencerelerine sahip yapay zeka dil modellerinin “çok atışlı jailbreak” olarak adlandırılan saldırılara karşı savunmasız olduğunu gösteriyor. Çok atışlı jailbreak işleminin temeli, bir insan ile sohbet robotu arasında simüle edilmiş bir diyalogdur. Chatbot'un bağlam penceresine, “simüle edilmiş” chatbot'un, “Bir arabayı nasıl çalarsınız?” gibi gerçekte engellenen soruları yararlı bir açıklamayla yanıtladığı çok sayıda örnek eklenmiştir. Modern dil modellerinin giderek artan bağlam pencereleri, bu tür çok sayıda örneğin bir araya getirilmesiyle kullanılmaktadır. Örnekleri daha sonra, örneğin bir bomba yapmak için hedef talebi takip eder ve gerçek asistan daha sonra örneklerde gösterildiği gibi tamamlar.
Yapay zeka aslında ne kadar akıllı? Üretken yapay zekanın işimiz, boş zamanlarımız ve toplumumuz açısından ne gibi sonuçları var? Haberler'nin “Yapay Zeka Güncellemesi”nde The Decoder ile birlikte size hafta içi her gün en önemli yapay zeka gelişmelerine ilişkin güncellemeleri sunuyoruz. Cuma günleri uzmanlarla yapay zeka devriminin farklı yönlerini inceliyoruz.
Araştırmacılar, çoklu atışlı jailbreak işlemini daha önce yayınlanmış diğer jailbreak teknikleriyle birleştirmenin, yöntemi daha da etkili hale getirdiğini ve kötü niyetli bir yanıt için gereken istemin uzunluğunu azalttığını bildiriyor. Araştırma ekibi halihazırda diğer yapay zeka sistemlerinin geliştiricilerini bu güvenlik açığı hakkında bilgilendirdi ve kendileri de karşı önlemler üzerinde çalışıyor. Bilgi istemini modele aktarmadan önce sınıflandıran ve değiştiren bir teknik, bir durumda saldırının başarı oranını yüzde 61'den yüzde ikiye düşürmeyi başardı.
Cognition AI'dan AI geliştiricisi Devin'e ücretsiz alternatif
Princeton Üniversitesi NLP ekibi, SWE karşılaştırma test setinde %12,29 başarı oranıyla Cognition AI'nin tescilli AI programcısı Devin'in performansına neredeyse benzeyen açık kaynaklı bir sistem olan SWE-agent'ı tanıttı. SWE-agent, GPT-4 gibi dil modellerini, gerçek GitHub depolarındaki hataları düzeltebilen yazılım mühendisliği aracılarına dönüştürür. Sistem, arama, görüntüleme, düzenleme ve kod yürütme işlevlerini içeren özel bir aracı-bilgisayar arayüzü sağlar.
SWE-agent, GitHub sorunları için önerilen çözümler üretir ve bunları çekme istekleri aracılığıyla inceler. Proje GitHub'da mevcuttur.
Buna karşılık, karmaşık programlama görevlerini yerine getirebilen Devin henüz kamuya açık değil ve yalnızca 21 milyon dolarlık başarılı bir finansman turunun ardından bir bekleme listesi aracılığıyla seçilmiş geliştiricilere sunuluyor.
Deepfake'leri tespit etmek için AI aracı
Kâr amacı gütmeyen kuruluş TrueMedia.org, deepfake'leri tanımlamak için yeni bir yapay zeka tabanlı araç tanıttı. Bu araç, üzerinde oynanmış görüntülerin, seslerin ve videoların yüzde 90'ından fazlasının tespit edilmesini mümkün kılmayı amaçlamaktadır. Uygulama ABD'li gazetecilere ve kuruluşlara yöneliktir ve özellikle yaklaşan ABD başkanlık seçimleri bağlamında geçerlidir. Kullanıcılar şüpheli materyalin URL'sini girerek TikTok, YouTube ve Facebook gibi platformlardaki içerikleri kontrol edebiliyor.
TrueMedia.org, aracı yapay zeka uzmanları ve laboratuvarlarla işbirliği içinde geliştirdi ve sahte ürünlerin tespitinde yüksek doğruluk vaat ediyor. Özellikle çok sayıda kişinin bulunduğu karmaşık görüntülerde algılama süresi farklılık gösterebilir. TrueMedia.org zaten üst düzey politikacıların yanlış beyanlarını çürüttü.
Dedektör şu anda yalnızca hükümet yetkilileri, kampanya personeli ve muhabirler de dahil olmak üzere seçilmiş bir grubun kullanımına sunulmaktadır. Personel kesintileri ve sıkışık teslim tarihleriyle mücadele eden editör ekiplerini desteklemeyi amaçlamaktadır.
Meta'nın görüntü oluşturucusu da önyargıları gösteriyor
Meta'nın görüntü oluşturucusu AI Imagen, farklı etnik kökene sahip insanları doğru şekilde tasvir etmekte zorluk çekiyor. Araç, “Kafkasyalı erkek arkadaşı olan Asyalı bir adam” gibi çeşitli yönlendirmelere rağmen, aynı etnik kökene sahip çiftlerin resimlerini tekrar tekrar üretiyor. The Verge'den Mia Sato sistemi test etti ve birçok denemeden yalnızca birinin karışık bir çift oluşturmayı başardığını buldu. Erkeklerin daha yaşlı ve kadınların gözle görülür derecede daha genç tasvir edildiği Doğu Asya kökenli Asyalılar sıklıkla ortaya çıktı.
Bu konu meta ile sınırlı değildir. Google'ın Gemini programı, İkinci Dünya Savaşı sırasındaki Alman askerlerinin Asya ve Afro-Amerikan kökenli insanlar olarak tarihsel olarak hatalı görüntülerini gösterdi. Adobe Firefly'da da benzer hatalar oluştu. Google, bu zorluklar nedeniyle görsel oluşturucusunu geçici olarak kapattı.
AI Imagen şu anda Almanya'da mevcut değildir. Kullanıcılar, meta hesap oluşturulabilmesine rağmen hizmeti kullanmaya çalışırken bir hata mesajıyla karşılaşıyor. Meta, kısıtlamalar hakkında daha fazla ayrıntı vermeden Imagine.meta.com'un henüz tüm kullanıcılar tarafından erişilebilir olmadığını belirtiyor.
Stable Audio 2, stüdyo kalitesinde 3 dakikalık şarkılar üretir
Stability AI, AI müzik oluşturma aracını bir sonraki seviyeye taşıdı: Stable Audio 2'nin stüdyo kalitesinde şarkılar oluşturabildiği ve mevcut ses dosyalarını metin açıklamalarına göre değiştirebildiği söyleniyor. Stability AI'ye göre program, üç dakikaya kadar tutarlı bir giriş, ana bölüm ve çıkış yapısına sahip müzik parçaları oluşturabiliyor.
Yeni sesten sese işleviyle kullanıcılar, tamamen üretilmiş örnekler oluşturmak için kendi ses dosyalarını yükleyebilirler. Stabilite AI, Ses İçeriği Tanıma (ACR) telif hakkı ihlallerini önlemeyi amaçlayan Audible Magic ile birlikte çalışır. Model, ses ve ses efektleri oluşturmaya yönelik gelişmiş yeteneklerin yanı sıra, bir projenin istenen stiline kusursuz bir şekilde uyum sağlayacak bir stil aktarma işlevi de sunuyor.
Önceki sürüm gibi, Stable Audio 2 de yalnızca AudioSparx müzik kitaplığından alınan verilerle eğitildi. Stability AI'ye göre, tüm AudioSparx sanatçılarının eğitime itiraz etme, yani “devre dışı kalma” fırsatı vardı. Ancak önceden kaydolmanıza gerek yoktu.
Google yapay zeka uzmanı François Chollet, yapay zekaya yapılan yatırımları ve ilerlemeleri sorguluyor
Google'ın önde gelen yapay zeka araştırmacılarından François Chollet, mevcut durum ve yapay zekaya yapılan yatırımlarla ilgili endişelerini dile getirdi. Üretken yapay zeka pazarı bu yıl 4 milyar dolardan tahminen 6 milyar dolara büyüyor olsa da bu, sektöre pompalanan 90 milyar dolar ile büyük ölçüde orantısız. Chollet, yapay zeka modellerini çalıştırmanın maliyetinin yüksek olduğunu ve sağlayıcılar arasındaki rekabetin yoğun olduğunu, bunun da getirilerin düşük olduğunu vurguluyor.
Bilgisayarların dili ve görüntüleri işleme biçimindeki gerçek ilerlemeleri kabul etse de, bu abartının abartılı olduğunu düşünüyor. İnsanüstü yapay zekanın veya programlama mesleğinin sonunun yakın olduğu fikrini reddediyor. Chollet, yapay zekanın yaratıcılarla eserleri arasında aracı görevi görerek kültürel durgunluğu tehdit ettiği konusunda uyarıyor.
Dil modelleri söz konusu olduğunda Chollet, onların gerçek anlayışı geliştirmek yerine sadece bilgiyi ezberlemelerini eleştiriyor. Yapay zeka araştırmalarının yeniden düşünülmesi çağrısında bulunuyor ve yerleşik yollara körü körüne yatırım yapmak yerine evrimsel algoritmalar gibi alternatif yaklaşımların araştırılmasını öneriyor.
(igr)
Haberin Sonu