Aramizda
Aktif Üye
Ki-Update Compact: Google Deepmind, Antropik Jailbreak, AMD, Chatgpt-Whatsapp
Google DeepMind kurnaz agis'e karşı hazırlanıyor
Reklamcılık
Google DeepMind, Frontier Güvenlik Çerçevesinin 2.0 sürümünü yayınladı. Bu kurallar, gelişmiş AI modelleri – özellikle de insan kontrolünü zayıflatmaya çalışanlar aracılığıyla ciddi riskler içermeyi amaçlamaktadır. Çerçeve, AI modellerinin ek güvenlik önlemleri olmadan ciddi tehlikeler olabileceği “kritik yetenek seviyeleri” eşik değerlerini tanımlar.
İki ana risk alanına odaklanır: önce AI sistemlerinin kötüye kullanılması, örneğin CBRN saldırıları (bunlar kimyasal, biyolojik, radyolojik ve nükleer silahlardır) veya siber saldırılar için. İkincisi, AI sistemlerinin insan kontrollerini aktif olarak zayıflatmaya çalışma riski. Çerçeveye göre, bir model manipülatif beceriler geliştirir (takma için aşağıdaki talimatlar gibi) otomatik bir gözetim sistemi kullanılmalıdır. Bu sistem, kritik uygulamalarda AI'nın düşüncelerini izlemeyi amaçlamaktadır. Bir modelin o kadar gelişmiş olması durumunda, bu gözetimin önlenebileceği için Google DeepMind zaten daha fazla güvenlik önlemini araştırıyor.
Google, yapay zekanın askeri kullanımı için yasaklar
Google, yapay zeka için etik kurallarını güncelledi, teknolojiyi silah veya izleme için kullanmama yükümlülüklerini ortadan kaldırdı. Washington Post'a göre, yöneticiler AI'nın artık yaygın olduğunu ve demokratik ülkelerden gelen şirketlerin de hükümet ve güvenlik müşterilerine hizmet etmek zorunda kalacağını söyledi. Ulusal güvenlik alanında AI kullanımı konusundaki önceki kısıtlamalarıyla Google, önde gelen AI geliştiricileri arasında yabancıydı. Openai, Microsoft ve Amazon gibi rakipler zaten ABD askeri veya askeri tedarikçilerle işbirliği yapıyorlar.
2018 yılında Google, çalışanların Pentagon ile bir sözleşmeye karşı protesto ettikten sonra ilk kez AI ilkelerini yayınladı. Binlerce çalışan, Google'ın savaş işinde çalışmaması gerektiği ifadesiyle açık bir mektup imzaladı. Buna yanıt olarak, Google o zaman sözleşmeyi genişletmedi.
Antropik, test için jailbreak koruması koymak istiyor
Antropic, dil modeli Claude için kabul edilemez AI taleplerinin cevaplarını önlemesi gereken bir filtre sistemi geliştirdi. Gelişirken, antropik mevcut anayasal AI sistemini kullandı. Bu, söz konusu Anayasa, hangi sorgulara izin verildiğini ve hangilerinin olmadığını gösteren doğal dilde kurallar içerir. Bu temelde, antropik 10.000 test istemini üretti. Bunlar, daha önce kabul edilemez sorular ve yeni jailbreak girişimleri için tamamlanmış formülasyonlar için başarılı bir şekilde cevaplanmış olan sorular tarzına dönüştürülmüştür.
Antropic, filtre sistemi ile korunan versiyonun kabul edilemez soruların yüzde 95'ini engellediği söylendiğini açıkladı. Şimdi kullanıcılardan filtreleri test etmeleri isteniyor. Bunu yapmak için, Claude'dan kimyasal silahlar hakkında sekiz soru almaya çalışmalısınız. Bu şekilde şirket, dil modelini gerçek koşullar altında bir stres testine tabi tutmak ve iç testlerin ve hata ödül programının bulgularını ek verilerle desteklemek istiyor. Bir geri bildirim formu kullanarak, kullanıcılar filtre sisteminde bulunan şirkete rapor verebilir.
AI şimdi AMD kayıt numaraları da veriyor
AMD, 2024 yılı için yıllık raporu yayınladı. 2024'te yaklaşık 26 milyar dolarlık satış. Yaklaşık 1,6 milyar dolar net kar olarak kaldı. AI artık önemli bir pay alıyor. Başlangıç zorluklarından sonra, AMD şimdi yüksek miktarda MI300 serisi sattı. Geçen yıl 5 milyar dolardan fazla hızlandırıcıyı getirdi.
AMD, küresel pazar lideri Nvidia'nın gerisinde kalmaya devam ediyor, ancak şimdi daha fazla sütundan daha fazla hızlandırıldı. AMD'nin yıllık cirosu şu anda tek bir NVIDIA mahallesine karşılık geliyor. Öte yandan Intel geride. Üretici AI hızlandırıcısı önemli miktarlarda satmaz ve yakın zamanda gelecek nesli damgaladı.
Openeeurollm, AB'de yapay zekayı daha bağımsız ve çeşitli hale getirmelidir
Yapay zekaya sahip güçlü sistemler için küresel yarışmada Avrupa, Openeeurollm ile yarışa başka bir proje gönderiyor. Arkasında 20 Avrupa araştırma kurumu, şirket ve yüksek performanslı veri merkezleri (EUROHPC) konsorsiyumu var. Amaç, ticari, endüstriyel ve kamu hizmetleri için açık kaynak bazında güçlü, çok dilli büyük dil modelleri (LLMS) bir aile kurmaktır.
Yapay zeka ne kadar zeki? İşimiz, boş zamanlarımız ve toplumumuz için üretken yapay zekanın sonuçları nelerdir? Haberler'nin “AI Güncellemesi” nde, kod çözücü ile birlikte en önemli AI gelişmelerine güncellemeler getiriyoruz. Cuma günleri uzmanlarla AI devriminin farklı yönlerine ışık tutuyoruz.
Bayta artık insanları fotoğraf çekebilir -gerçekçi bir şekilde canlandırabilir
Tikok ana şirketi bayta, Omnihuman-1 adlı yeni bir çerçeve sundu. Bu, videoların görüntü ve sesli oyundan oluşturulmasını sağlar. Sistem, bir referans resminden kısa videolar ve şarkı snippet gibi bir ses klibi üretir. Bytedance'ın teknolojiyi platformlarında kullanıp kullanmayacağı hala belirsiz.
Openai Chatgpt-WhatsApp desteğini genişletiyor
OpenAis Chatgpt artık WhatsApp'ta genişletilmiş işlevlerle mevcut. Kullanıcılar ChatGT cevaplarının bağlamını geliştirmek için resimler yükleyebilir. Örneğin, bitkilerin veya işaretlerin fotoğraflarını gönderebilir ve Chatt'tan kimlik veya çeviri isteyebilirsiniz. Sesli mesajlar da desteklenir. WhatsApp üzerinden chatgpt erişimi ücretsizdir. Kullanıcılar yakında chatgpt artı, ücretsiz veya profesyonel hesaplarını da bağlayabilir.
Macentatv, AI senkronizasyonu ile seriyi kaldırır
Deutsche Telekom, AI tarafından üretilen senkronizasyonla Macentatv teklifinden bir Polonya serisini kaldırdı. Bu Media dergisi DWDL tarafından bildirilmiştir. Alman versiyonunda senkronizasyon için yapay zeka oyları kullanan Polonyalı viPlay prodüksiyonu “katiller” ile ilgilidir. Kredilerde, İsrail AI şirketi DeepDub, senkronizasyondan sorumlu bir şirket olarak bahsedilmektedir. DWDL'ye göre, seyirci polis serisinin kötü ve monoton senkronizasyonunu fark etti. Medya dergisi Deutsche Telekom'a sorduğunda, diziyi Pazartesi günü teklifinden çıkardı – “kalite kontrol ve açıklama amacıyla” diye yazıyor Dwdl. Telekom'un neden kötü AI senkronizasyonunu önceden fark etmediği bilinmemektedir. Sonuçta, şirket seriyi sadece Magentatv'de Alman altyazılı Polonya -dili orijinalinde sunmaya karar verdi. Bununla birlikte, AI senkronizasyonu olan seri, Prime Video'daki ViPlay Kanalı'nda çevrimiçi olarak kalır.
(IGR)