Aramizda
Aktif Üye
Son birkaç ay içinde bir öğretmenle işi hakkında konuşan herkes, ChatGPT’nin işi daha da zorlaştırdığını kesinlikle duymuştur: bir düğmeye basarak bir makaleyi veya bir tez için önemli noktaları ortaya çıkaran araç. Bununla ilgili sorun, ChatGPT’deki yapay zekanın neden bahsettiğini her zaman bilmemesidir. Böylesine Geniş Bir Dil Modeli bazı soruları oldukça iyi yanıtlayabilirken, kulağa oldukça makul ve inandırıcı gelen diğer oldukça saçmalıklara katkıda bulunur.
AI güncellemesi Deep-Dives’ın son sayısında, MIT Technology Review’dan meslektaşım Wolfgang Stieler ile ChatGPT ve Co tarafından oluşturulan metinleri nasıl tanıyabileceğiniz ve bunun neden bu kadar zor olduğu hakkında konuşuyorum.
Görünüşe göre dil modellerinin üreticileri bile artık makine tarafından üretilen saçmalıkların olası kitlesel dağılımı konusunda endişe duyuyorlar. Bu nedenle, gptzero veya Originality.ai gibi araçlar daha önce bir heyecan yarattıktan sonra OpenAI, ChatGPT metinlerini tanımak için kendi aracı olan AI Metin Sınıflandırıcısını inanılmaz bir hızla piyasaya sürdü.
Araçların farklı hedef grupları var, diye açıklıyor Wolfgang Stieler: GPTzero daha çok okul çocuklarına ve makine tarafından oluşturulan bir metnin sahtekarlık olup olmadığını test etmek isteyen öğrencilere yöneliktir. Diğer dedektörlerde daha çok sahte kağıdı tespit etmek veya pazarlama için yüksek kaliteli test edilmiş çıktı olarak kullanmakla ilgilidir – makine tarafından algılanan kağıt kalitesiz kabul edilir.
Kansas Üniversitesi’ndeki araştırmacılar yakın zamanda, bilimsel bir metnin yapay zeka tarafından yazıp yazılmadığını yüzde 99 doğrulukla tespit etmesi gereken bir algoritma geliştirdi. Şöyle yazıyorlar: “İnsanlar ChatGPT’den daha zengin bir kelime dağarcığı kullanma, daha çeşitli kelimeler içeren daha uzun paragraflar yazma ve soru işaretleri, köşeli ayraçlar ve noktalı virgüller gibi noktalama işaretlerini daha fazla kullanma eğiliminde. Ayrıca, insanlar sayıları ve diğer araştırmacıları kullanarak daha belirgin bir dil kullanıyor. Yapay zeka tarafından üretilen makaleler daha az kesin bilgi içerirken, gerçek bilimsel makaleler genellikle “yine de”, “ama” ve “gerçi” gibi ifadelerle ve “bu” ve “çünkü” gibi işaret zamirleriyle belirsiz bir dil kullanır. .
Bu araç, onu geliştiren Kansas’taki biyologlar için iyi çalışıyor gibi görünüyor. Ancak Wolfgang Stieler, bunun ancak çok özel ve çok sınırlı bir çerçevede, yani İngilizce yazılmış bazı bilimsel makalelerle ilgili olarak mümkün olduğunu vurgulamaktadır.
Konuşmamız sırasında meslektaşım metinlerin kontrol edilebileceği çeşitli yolları açıklıyor. Sonuç olarak, Wolfgang Stieler herkesin bu dil modellerine biraz daha az saygı duymasını tavsiye ediyor: “Birisi bana papanın öldüğünü söylerse, buna hemen inanmam ama genellikle internetteki haber sitelerine bakarak kontrol ederim. Bir yazılımın bana söylediği her şeye neden inanmalıyım?” Kaynakları sorun, sorgulayın ve doğrulayın: Dil modelleri bizim için bazı işler yapsa da yapay zekalarına çok fazla güvenmemeliyiz.
Ayrıca MIT Technology Review’in güncel sayısında yapay zeka ve onun günlük hayatımızı nasıl değiştirdiği hakkında daha fazla bilgi edinebilirsiniz.
(igr)
Haberin Sonu
AI güncellemesi Deep-Dives’ın son sayısında, MIT Technology Review’dan meslektaşım Wolfgang Stieler ile ChatGPT ve Co tarafından oluşturulan metinleri nasıl tanıyabileceğiniz ve bunun neden bu kadar zor olduğu hakkında konuşuyorum.
Görünüşe göre dil modellerinin üreticileri bile artık makine tarafından üretilen saçmalıkların olası kitlesel dağılımı konusunda endişe duyuyorlar. Bu nedenle, gptzero veya Originality.ai gibi araçlar daha önce bir heyecan yarattıktan sonra OpenAI, ChatGPT metinlerini tanımak için kendi aracı olan AI Metin Sınıflandırıcısını inanılmaz bir hızla piyasaya sürdü.
Araçların farklı hedef grupları var, diye açıklıyor Wolfgang Stieler: GPTzero daha çok okul çocuklarına ve makine tarafından oluşturulan bir metnin sahtekarlık olup olmadığını test etmek isteyen öğrencilere yöneliktir. Diğer dedektörlerde daha çok sahte kağıdı tespit etmek veya pazarlama için yüksek kaliteli test edilmiş çıktı olarak kullanmakla ilgilidir – makine tarafından algılanan kağıt kalitesiz kabul edilir.
Kansas Üniversitesi’ndeki araştırmacılar yakın zamanda, bilimsel bir metnin yapay zeka tarafından yazıp yazılmadığını yüzde 99 doğrulukla tespit etmesi gereken bir algoritma geliştirdi. Şöyle yazıyorlar: “İnsanlar ChatGPT’den daha zengin bir kelime dağarcığı kullanma, daha çeşitli kelimeler içeren daha uzun paragraflar yazma ve soru işaretleri, köşeli ayraçlar ve noktalı virgüller gibi noktalama işaretlerini daha fazla kullanma eğiliminde. Ayrıca, insanlar sayıları ve diğer araştırmacıları kullanarak daha belirgin bir dil kullanıyor. Yapay zeka tarafından üretilen makaleler daha az kesin bilgi içerirken, gerçek bilimsel makaleler genellikle “yine de”, “ama” ve “gerçi” gibi ifadelerle ve “bu” ve “çünkü” gibi işaret zamirleriyle belirsiz bir dil kullanır. .
Bu araç, onu geliştiren Kansas’taki biyologlar için iyi çalışıyor gibi görünüyor. Ancak Wolfgang Stieler, bunun ancak çok özel ve çok sınırlı bir çerçevede, yani İngilizce yazılmış bazı bilimsel makalelerle ilgili olarak mümkün olduğunu vurgulamaktadır.
Konuşmamız sırasında meslektaşım metinlerin kontrol edilebileceği çeşitli yolları açıklıyor. Sonuç olarak, Wolfgang Stieler herkesin bu dil modellerine biraz daha az saygı duymasını tavsiye ediyor: “Birisi bana papanın öldüğünü söylerse, buna hemen inanmam ama genellikle internetteki haber sitelerine bakarak kontrol ederim. Bir yazılımın bana söylediği her şeye neden inanmalıyım?” Kaynakları sorun, sorgulayın ve doğrulayın: Dil modelleri bizim için bazı işler yapsa da yapay zekalarına çok fazla güvenmemeliyiz.
Ayrıca MIT Technology Review’in güncel sayısında yapay zeka ve onun günlük hayatımızı nasıl değiştirdiği hakkında daha fazla bilgi edinebilirsiniz.
(igr)
Haberin Sonu