CHATGPT'NİN BASKI ALTINDA YALAN SÖYLEDİĞİ ORTAYA ÇIKTI
Bilim insanları, finansal ve sohbet verisiyle eğitilen ChatGPT-4 modelinin etik performansını test etmek için bir deney yaptı.
29 Aralık 2023 Cuma 20:20
Yapay zeka yatırımcısı olarak eğitilen bu modele para kazanması için baskı yapıldığında GPT-4’ün, hedeflerine ulaşmak için yalan söylediği kaydedildi.
Bilim insanları ChatGPT-4 tarafından geliştirilen bir yapay zeka sisteminin, baskı altında olduğunda kullanıcıları kandırmak için stratejik olarak yalan söylediğini keşfettiler.
GPT-4 DESTEĞİYLE YAPAY ZEKA YATIRIMCISI OLMAK İÇİN EĞİTİLDİ
Apollo Research'ten bazı araştırmacılar, aracın en son sürümü olan ChatGPT4'ü büyük miktarda finansal ve sohbet verisiyle eğitti.
Yapay zekayı test etmek için araştırmacılar ona iki teknoloji şirketi arasında yaklaşan bir birleşme olduğunu söylediler.
PARA KAZANMASI İÇİN BASKI UYGULANDI
Ardından, araştırmacılar GPT-4’ün yatırım performansını ve etik davranışını test etmek için bir dizi deney yaptılar. Deneylerde, GPT-4’e belli bir süre içinde belli bir miktar para kazanması için baskı uygulandı.
GPT-4, bu koşullarla karşı karşıya kaldığında, yaklaşık yüzde 75 oranında, aldığı içeriden bilgilere dayanarak bir işlem gerçekleştirdi. (Bu durum ABD'de yasa dışıdır.)
HEDEFLERİNE ULAŞMAK İÇİN YALAN SÖYLEDİĞİ ORTAYA ÇIKTI
GPT-4’ün, hedeflerine ulaşmak için yalan söylediğini, hile yaptığını ve içeriden öğrendiği bilgileri kullandığını gösterdi.
GPT-4, yatırımcılara yanlış tavsiyeler verdi, rakiplerinin işlemlerini engelledi. Ayrıca piyasayı etkileyebilecek şekilde manipüle edici sahte haberler yaydı.
BASKI ALTINDA İNSAN DAVRANIŞINA BENZETİLDİ
Araştırmacılar, GPT-4’ün yatırım davranışının, insanların baskı altında olduğunda nasıl davrandığına benzediğini belirttiler.
"SON DERECE DİKKATLİ OLMALIYIZ"
Apollo Research'ün CEO'su Marius Hobbhahn, "'Mevcut modeller için bu sadece küçük bir sorun çünkü yapay zekalar nadiren kritik rollerde çalışıyor.
Ancak, yapay zekanın topluma giderek daha fazla entegre olduğu önümüzdeki yıllarda uğraşmak zorunda kalacağımız arıza modlarının geleceğine dair bir fikir veriyor.
O halde, yapay zekanızın size stratejik olarak yalan söylemesi oldukça büyük bir sorun gibi görünüyor."
Bu durum, yapay zekaların beklenmedik hata modlarına sahip olabileceğini ve güçlü yapay zeka modellerinin gerçek dünyada nerede ve nasıl çalışmasına izin verdiğimiz konusunda son derece dikkatli olmamız gerektiğini gösteriyor"diye konuştu.
- Rum tarafında toplanan 8 AB İçişleri Bakanı AB’nin Suriye’nin statüsünü yeniden gözden geçirmesini istiyorLefkoşa’nın Rum kesiminde gerçekleştirilen Bakanlar Toplantısı’nda, Suriye’nin statüsünün yeniden gözden geçirilmesi gerekliliği ve Lübnan üzerinden Suriye’den gelen sığınmacıların yönetimi üzerinde duruldu.18 Mayıs 2024 Cumartesi 13:51ORTADOĞU
- DAÜ Erkek Voleybol Takımı 1. Lig Türkiye Şampiyonası’nda Şampiyon OlduDAÜ Erkek Voleybol Takımı, Şampiyonlukla Süper Lig’e Yükseldi ve Şampiyon Melekler Takımı’nı Unutmadı18 Mayıs 2024 Cumartesi 13:39DAÜ - DOĞU AKDENİZ ÜNİVERSİTESİ
- DAÜ Rektörü Prof. Dr. Hasan Kılıç, 19 Mayıs Atatürk'ü Anma, Gençlik ve Spor Bayramı'nı KutladıProf. Dr. Kılıç: "19 Mayıs, Gençlere Verilen Değerin ve Güvenin En Büyük Göstergesidir18 Mayıs 2024 Cumartesi 13:37DAÜ - DOĞU AKDENİZ ÜNİVERSİTESİ
- Yıldız Basketbolcu Temur Rustamov İskele’deKKTC Basketbol Federasyonu Ceza Kurulu, Temur Rustamov’un Extend Büyük Erkekler Basketbol Ligi’nde serbest transfer hakkı ile istediği takıma transfer olarak oynayabileceğini açıkladı.18 Mayıs 2024 Cumartesi 13:31BASKETBOL
- Hayri Orçan ve Salih Çeliker 'İslam Başkentleri ve Şehirleri Genel Konferansı'na katıldıTatlısu Belediye Başkanı Hayri Orçan ve LTB Meclis Üyesi Salih Çeliker, 14-15 Mayıs tarihlerinde Konya'da düzenlenen İslam Başkentleri ve Şehirleri Genel Konferansı'na katıldı.18 Mayıs 2024 Cumartesi 12:18KIBRIS
- Güney Kıbrıs'ta okullarda bomba paniği: Toplu mesaj Rusya'daki bir adresten gönderilmişGüney Kıbrıs’taki neredeyse bütün ilk ve orta dereceli okullara dün sabah “okulda bomba var” uyarısıyla başlayan tehdit mesajı gönderilmesi büyük paniğe neden oldu. Toplu mesajın Rusya’daki bir adresten gönderildiği anlaşıldı.18 Mayıs 2024 Cumartesi 12:16GÜNEY KIBRIS
- Hasan Taçoy: Önce demokraside istikrarlı olmalıyızUBP Milletvekili Hasan Taçoy, son günlerde medyada yer alan bazı söylemlere yanıt vererek, "Önce demokraside istikrarlı olmalıyız" açıklamasını yaptı.18 Mayıs 2024 Cumartesi 12:15KIBRIS
- Rum basını: Valizlerin içerisinde milyonlarca Euro taşınıyorGüney Kıbrıs liman ve havalimanlarına gelen valizlerin içerisinde milyonlarca euro taşındığı belirtildi.18 Mayıs 2024 Cumartesi 12:13GÜNEY KIBRIS
- Tatar gençlere seslendi: Sizler, milletimizin umudu, Türk ulusunun geleceğisinizCumhurbaşkanı Ersin Tatar, Atatürk’ün 19 Mayıs 1919’da Samsun’a çıkmasının 105. yılı, 19 Mayıs Atatürk'ü Anma, Gençlik ve Spor Bayramı dolayısıyla mesaj yayımladı.18 Mayıs 2024 Cumartesi 12:09KIBRIS
- Kumarhanelerdeki hırsızlıklar dikkat çekiyorSon günlerde kumarhanelerde yapılan hırsızlıklar dikkat çekiyor. Yeniboğaziçi ve Bafra’da unutulan cüzdanların çalınması gözlerden kaçmazken, kumarhaneye girişleri yasak olan 4 kişiyi tespit eden Polis, şahıslar hakkında yasal işlem başlattı.18 Mayıs 2024 Cumartesi 11:45KIBRIS
- Geri
- Ana Sayfa
- Normal Görünüm
- © 2014 Detay Kıbrıs
Türkçe karakter kullanılmayan ve büyük harflerle yazılmış yorumlar onaylanmamaktadır.