Aramizda
Aktif Üye
Kompakt AI güncellemesi: Jan Leike, OpenAI, Jameda AI Assistant, Rabbit R1
OpenAI'nin eski süper yapay zeka güvenlik şefi Jan Leike rekabete katılıyor
Reklamcılık
Yapay zeka güvenlik araştırmacısı Jan Leike, OpenAI'den istifa ettikten sonra rakip Anthropic'e geçiyor. OpenAI'de Yapay Zeka Hizalama ve Süper İstihbarat Güvenliği departmanının başkanıydı.
X ile ilgili uzun bir başlıkta Leike, OpenAI'deki güvenlik kültürünü sert bir şekilde eleştirdi. Şirketlerin gelecek nesil yapay zeka modellerinin güvenliğine çok daha fazla bilgi işlem gücü ayırması gerektiğine inanıyor.
Leike'ye göre OpenAI'nin güvenlik ekibine mevcut bilgi işlem gücünün yüzde 20'sini sağlama sözü tutulmadı. Zaman zaman ekibi bilgi işlem gücü için mücadele etmek zorunda kalıyordu ve önemli araştırmaları yürütmek giderek zorlaşıyordu.
Anthropic'te Leike'nin benzer düşüncelere sahip insanlar bulması muhtemel: Start-up, Microsoft'un katılmasının ardından OpenAI'nin daha ticari odaklı olmasına karşı çıkan eski OpenAI araştırmacıları tarafından 2021 yılında kuruldu. Antropik kurucu ortak Dario Amodei, şirket kurulmadan önce OpenAI'de güvenlik sorumlusuydu ve kız kardeşi Daniela Amodei de oradaki güvenlik ve politikalardan sorumluydu.
Anthropic, OpenAI'nin Google ile birlikte en güçlü rakibi olarak kabul ediliyor ve Claude 3 Opus ile en güçlü AI modellerinden birini sunuyor.
OpenAI, GPT-4'ün halefini eğitiyor, güvenlik komitesi kuruyor
OpenAI, GPT-4'ün yerini alacak ve Yapay Genel Zeka yolunda bir başka adımı temsil edecek bir sonraki büyük AI modelini eğitmeye başladı. Aynı zamanda şirket, yapay zeka geliştirmede riskin azaltılmasına ilişkin kritik kararlar almak üzere yeni bir Emniyet ve Güvenlik Komitesi kurdu.
Bunun arka planında, araştırmacılarının görevlerinden istifa ettiği önceki Superalignment ekibinin iki hafta önce dağılması yer alıyor. Güvenlik konusundaki çalışmalarının giderek güçlenen yapay zeka sistemleri tarafından sekteye uğradığını eleştirmişlerdi. Yeni komiteyle birlikte OpenAI artık görünüşe göre yetersiz koruyucu önlemlere yönelik dahili eleştirilere yanıt veriyor.
LC-Boost, küçük bağlam pencereleriyle iyi sonuçlar elde ediyor
Çin'deki Renmin Üniversitesi ve Pekin Yapay Zeka Akademisi'ndeki araştırmacılar, yapay zeka modellerinin küçük bağlam pencereleriyle bile uzun metinlerin işlenmesinde iyi sonuçlar elde eden, LC-Boost adı verilen bir yöntem geliştirdi. Bunu yapmak için metinleri daha kısa bölümlere ayırır ve modelin hangi bölümlerin bir görevi çözmek için uygun olduğuna karar vermesini sağlar.
Deneylerde, yalnızca 4000 tokena sahip LC-Boost, 200.000 tokene kadar bağlam uzunluğuna sahip modellerle karşılaştırılabilir veya daha iyi sonuçlar elde etti. Özellikle soru-cevap görevlerinde üstündü. LC-Boost ayrıca önemli ölçüde daha az enerji kullanır. Yazarlar bunu büyük dil modellerinin kaynak tüketimini sınırlamak için önemli bir adım olarak görüyorlar, çünkü çoğu zaman uzun metinlerin yalnızca bazı kısımları gerçekten alakalı.
Jameda doktorlara yönelik dokümantasyon için yapay zeka asistanlarını tanıttı
Jameda'nın ana şirketi olan Docplanner Group, Jameda Yapay Zeka Asistanını pratisyen hekimlerle birlikte geliştirdi. Bu, doktorların dokümantasyon çabalarını yüzde 80'e kadar azaltmalarına yardımcı olmayı amaçlamaktadır. Doktor-hasta görüşmesi sırasındaki bilgileri kaydeder ve bunu teşhis, tedavi ve ilaçları içeren bir doktor mektubu oluşturmak için kullanır.
İlk olarak, Docplanner'ın altyapısında yerel olarak çalışan OpenAI'nin konuşmayı metne dönüştürme çözümü Whisper, konuşulanları metne dönüştürüyor. Arka planda, Microsoft'un Azure bulutundan bir yapay zeka hizmeti daha sonra verileri daha da işler. Büyük dil modeli sürekli olarak tıbbi terimler ve verilerle eğitilmektedir. Tamamlanan doktor yazısı istenirse doğrudan muayenehane yönetim sistemine aktarılabilir. Jameda'ya göre veriler üzerindeki kontrol doktorda kalıyor.
Yapay zeka aslında ne kadar akıllı? Üretken yapay zekanın işimiz, boş zamanlarımız ve toplumumuz açısından ne gibi sonuçları var? Haberler'nin “Yapay Zeka Güncellemesi”nde The Decoder ile birlikte en önemli yapay zeka gelişmelerine ilişkin günlük güncellemeleri sizlerle buluşturuyoruz. Cuma günleri uzmanlarla yapay zeka devriminin farklı yönlerine ışık tutuyoruz.
Google, sertifikalı Plus Chromebook'lara AI özelliklerini getiriyor
Google, sertifikalı Plus Chromebook'ları yeni yapay zeka özellikleriyle donatıyor. Öne çıkan özellik, Chrome tarayıcısına entegre edilen “Benim için yaz” işlevidir. Web sitelerindeki metin alanlarında metin önerileri veya yeniden ifade etme yardımcıları oluşturur. Başlangıçta İngilizce olarak çalışacak ve Eylül ayı sonuna kadar Almanca olarak da çalışacak.
Bir AI görüntü oluşturucu, video konferanslar için masaüstü arka planları veya arka plan görüntüleri oluşturur. Google Fotoğraflar uygulaması, resim içeriğini tanımak ve düzenlemek için bir “sihirli düzenleyici”ye sahip oluyor. Chatbot Gemini, doğrudan ana ekrana bir uygulama olarak yerleştirildi.
Planlanan diğer özellikler arasında web sayfalarını ve PDF'leri özetlemek için “Okumama yardım et” adı verilen bir metin analizinin yanı sıra yüz ve jest kontrolü de yer alıyor. Chromebook işlemcilerinde AI hızlandırıcıların bulunmaması nedeniyle çoğu işlevin bulutta çalışması muhtemeldir.
“Platonik temsil”: Yapay zeka bir gerçeklik modeline mi yaklaşıyor?
MIT'deki araştırmacılar tarafından yapılan yeni bir çalışma, farklı yapay zeka modellerinin gücü ve boyutu arttıkça ortak temsillerde birleştiklerini ileri sürüyor. Araştırmacılar, bu temsilin, “platonik temsil” adını verdikleri, altta yatan gerçekliğin istatistiksel bir modeli olabileceğini öne sürüyorlar.
Deneylerde, farklı mimarilere ve eğitim verilerine sahip modellerin benzer temsillere ulaştığını göstermektedir. Örneğin, performansı önemli ölçüde etkilemeden benzer performansa sahip modeller arasında katmanlar değiştirilebilir. Yakınsama, modaliteler arasında bile gerçekleşiyor gibi görünüyor, yani görsel modellerin ve dil modellerinin temsilleri giderek benzer hale geliyor.
Araştırmacılar, daha fazla veri ve göreve ölçeklendirmenin yanı sıra daha büyük modellerin ortak bir optimum bulma yeteneğinin yakınsamayı desteklediğinden şüpheleniyorlar. Bu nedenle yapay zeka modellerinin çok modlu eğitimden de faydalandığından ve ölçeklendirmenin modelleri “platonik temsile” yaklaştırabileceğinden ve dolayısıyla halüsinasyonları azaltabileceğinden şüpheleniyorlar.
Ancak araştırmacılar, farklı yöntemlerin farklı bilgiler içerebileceği ve bu durumun tam yakınsamayı engelleyebileceği gibi hipotezlerinin sınırlamalarını da tartışıyorlar. Ayrıca robot bilimi gibi bazı alanlarda hala standartlaştırılmış gösterimler bulunmamaktadır.
Tavşan R1'in arkasında kim var?
Yeni kurulan Rabbit Inc., “Rabbit r1” adında küçük turuncu bir cihaz geliştirdi. Bunun, yapay zekayı kullanan ve görevler verilebilen bir tür aracı görevi görmesi amaçlanıyor. Ancak r1'in öncelikle “tavşan deliği” adı verilen bir alanda eğitilmesi gerekir.
Youtuber Stephen Findeisen (Coffeezilla), Rabbit'in kurucularının geçmişini inceledi. Rabbit Inc. ilk olarak 2021 yılında Cyber Manufacture adı altında kuruldu. O dönemde şirket, “Gama” adı verilen yeşil bir kripto para biriminin eşlik ettiği bir NFT projesi, bir oyun veya meta veri uygulaması geliştirmeyi planlıyordu. Bu planlardan hiçbir şey çıkmadı ve 6 milyon doların kaybolduğu söyleniyor.
Tavşan r1 vaat edilen yeteneklere sahip görünmüyor. Bunun yerine herhangi bir akıllı telefonda çalışabilecek bir uygulama gibi görünüyor. Ancak Rabbit Inc., birinin bunu yapması halinde dava açmakla tehdit ediyor. R1'in fiyatı 200$'dır.
Bundesbank banka denetimlerinde yapay zekayı kullanıyor
Bundesbank, Almanya'da denetlediği küçük bankaları denetlemek için yapay zekayı giderek daha fazla kullanıyor. Amaç, kurumların sunması gereken kapsamlı belgelerdeki usulsüzlükleri bulmaktır. Re
ublica 24'te Bankacılık Denetiminde Dijital Dönüşüm Başkanı Christian Drescher, Bundesbank'ın birçok kullanım senaryosu üzerinde denemeler yaptığını bildirdi.Başarılardan biri, ilgili basın içeriğinin daha iyi tanınması ve entegre edilmesidir. 2023'ün ortalarından itibaren kodsuz bir editör, denetçilerin programlama bilgisi olmadan bile modüler yapay zeka uygulamalarını kullanmalarına olanak tanıyacak. Gizlilik nedeniyle denetleyici makam şu ana kadar yalnızca şirket içi sistemlerle çalıştı. Yüksek güvenlik gereksinimleri nedeniyle buluta geçiş zordur. Drescher'e göre yapay zeka yalnızca bankacılık denetiminde destekleyici bir etkiye sahip olabilir; Kararların anlaşılır olması ve sorumluluğun kişilerin sorumluluğunda olması gerekir.
(igr)
Haberin Sonu