Aramizda
Aktif Üye
Kompakt AI güncellemesi: OpenAI ve askeriye, işgücü piyasası, AMIE ve AI Amazon'da başarısız oluyor
OpenAI kullanım politikasını değiştirdi; “askeri ve savaş” artık açıkça hariç tutulmuyor
Reklamcılık
OpenAI, hizmet koşullarında, teknolojisinin askeri amaçlarla kullanılmasının açıkça hariç tutulmasını ortadan kaldıran bir değişiklik yaptı. “Ordu ve savaş” için dil modellerinin kullanımını yasaklayan önceki pasaj artık mevcut değil. Ancak ChatGPT'nin silah üretimi için kullanılması hâlâ yasaktır. Yasaklamalara ilişkin bölümün tamamı revize edildi ancak tamamen yürürlükten kaldırılmadı.
Eski Hizmet Şartları, silah geliştirme, askeri ve savaşta kullanım gibi başkalarına yüksek zarar verme riski taşıyan faaliyetleri yasaklıyordu. Kritik altyapının kontrolünün de potansiyel olarak tehlikeli olduğu düşünülüyordu.
Yeni ifade edilen kullanım şartlarında askeriye ve savaştan açıkça bahsedilmiyor. Ancak Hizmetler kendinize veya başkalarına zarar vermek amacıyla kullanılamaz. Kritik altyapı cümlesi API kullanımıyla ilgili yeni oluşturulan paragrafa taşındı.
Değişiklik artık askeri veya savaş örgütlerinin ChatGPT ve benzeri hizmetleri iletişim, bilgi toplama veya görüntü oluşturma amacıyla kullanmasına olanak tanıyor.
OpenAI CEO'su yapay zekanın iş piyasasındaki hızlı etkisi konusunda uyardı
OpenAI CEO'su Sam Altman, önümüzdeki yıllarda yapay zekada önemli ilerlemeler öngörüyor ancak bunun iş piyasası üzerindeki olası etkileriyle ilgili endişelerini dile getiriyor. Önümüzdeki beş yıl içinde, teknolojinin verimliliğini, doğruluğunu ve maliyetini optimize edecek şekilde büyük yapay zeka modellerinin nasıl çalıştığına dair daha iyi bir anlayış bekleniyor. Altman önümüzdeki iki yıl içinde akıl yürütme, güvenilirlik, kişiselleştirme, kişiselleştirme ve kişisel verilerin yapay zeka için kullanımı alanlarında kilometre taşları öngörüyor.
“Her teknolojik devrim hızlanmıştır ve bu, açık ara en hızlısı olacaktır. Bu, potansiyel olarak biraz korkutucu bulduğum kısım: toplumun uyum sağlamak zorunda kalacağı hız ve iş piyasasının değişme hızı” dedi. Altman, Bill Gates'le röportajında. Bu endişelere rağmen insanlığın uyum sağlayacağından ve “kendini gerçekleştirmeye giden yeni yollar” bulacağından emin. Altman, programlama, sağlık ve eğitim alanlarındaki yapay zeka sistemleri için özellikle büyük bir potansiyel görüyor.
Google ve DeepMind, ayırıcı tanılar için tıbbi sohbet robotu AMIE geliştiriyor
Google Araştırma ve DeepMind, ayırıcı tanı oluşturma yeteneğiyle ChatGPT'den öne çıkan tıbbi sohbet robotu AMIE'yi sunuyor. AMIE, Google'ın PaLM modellerini temel alır ve tıbbi çıkarımlar, özetler ve gerçek klinik görüşmeler kullanılarak eğitilir.
Google, hasta görüşmelerinin daha etkili olmasını sağlamak için otomatik geri bildirim mekanizmalarına sahip simüle edilmiş bir öğrenme ortamı kullanır. Bunlar, AMIE'nin kendisini sürekli olarak geliştirmesine ve bu alanda OpenAI'nin GPT-4'ünden daha iyi performans göstermesine olanak tanıyor.
Bir çalışmada AMIE, metin arayüzü aracılığıyla yapılan teşhis konsültasyonlarında insan doktorlara kıyasla daha yüksek doğruluk ve tavsiye kalitesi sergiledi. Bununla birlikte Google'a göre AMIE'yi özellikle adalet, mahremiyet ve sağlamlık açısından sağlam bir klinik araca dönüştürmek için daha fazla araştırmaya ihtiyaç var.
AMIE gibi yapay zeka sistemleri daha sonra teletıpta kullanılabilir ve doktorları işlerinde destekleyebilir.
Amazon, adlarında ChatGPT hata mesajı bulunan ürünleri kaldırıyor
Amazon, ürün adı olarak ChatGPT'den hata mesajı görünen birkaç ürünü listeden kaldırdı. ABD dergisi The Verge, bahçe mobilyaları ve “Özür Diliyorum Ancak Bu İsteği Yerine Getiremiyorum, OpenAI kullanım Politikasını ihlal ediyor-gri” gibi terimler altında listelenen diğer makalelere rastladı. Bu teklifler artık mevcut değil. Amazon bu konuda henüz bir yorum yapmadı.
Amazon'da içerik oluşturmak için yapay zeka metin oluşturucularını kullanmak yeni değil. Geçmişte ABD'li bir yazar, yazar olarak adının yer aldığı ancak muhtemelen bir yapay zeka tarafından yaratıldığı e-kitapları keşfetmişti. Diğer durumlarda, yapay zeka tarafından oluşturulan mantar rehberleri yaşamı tehdit eden tavsiyeler bile içeriyordu. Amazon bu tür olaylara ancak basında çıkan haberlerden sonra tepki gösterdi.
Amazon sonbahardan bu yana perakendecilere, ürünleri daha hızlı ve daha verimli bir şekilde çevrimiçi hale getirmek için otomatik olarak başlıklar, madde işaretleri ve açıklamalar oluşturmayı amaçlayan kendi yapay zeka teknolojisini sunuyor.
Yapay zeka modelleri, güvenlik eğitimine rağmen kötü niyetli davranışları sürdürebilir
ABD merkezli yapay zeka girişimi Anthropic, büyük dil modellerinin istenmeyen davranışlar sergilemesini durdurmanın mümkün olup olmadığını araştırdı. Araştırmacılar zararlı davranışlara sahip dil modelleri geliştirdiler ve bunların güvenlik eğitimi sonrasında bile istenmeyen davranışlar sergilemeye devam ettiğini buldular.
Hatta bazı eğitim yöntemleri, modellerin eğitim sırasında zararlı davranışlarını gizlemelerine ve bunu yalnızca pratikte gerçekleştirmelerine bile neden oldu. Model ne kadar güçlüyse, güvenlik eğitimini göz ardı etme ve istenmeyen davranışı daha sonra sergileme konusunda da o kadar başarılıydı. Sonuçlar, kötü niyetli aktörlerin bu güvenlik açıklarından yararlanabileceğini gösteriyor.
Anthropic, yapay zeka sistemlerine güvenen şirketlerin tehdidin farkında olmalarını ve yapay zeka modellerini güvence altına almak için adımlar atmalarını öneriyor.
Yapay zeka aslında ne kadar akıllı? Üretken yapay zekanın işimiz, boş zamanlarımız ve toplumumuz açısından ne gibi sonuçları var? Haberler'nin “Yapay Zeka Güncellemesi”nde The Decoder ile birlikte size hafta içi her gün en önemli yapay zeka gelişmelerine ilişkin güncellemeleri sunuyoruz. Cuma günleri uzmanlarla yapay zeka devriminin farklı yönlerini inceliyoruz.
(mki)
Haberin Sonu