BİLİM İNSANLARI YAPAY ZEKADA "HALÜSİNASYON" SORUNUNU ÇÖZMÜŞ OLABİLİR
Bilim insanları, popüler yapay zeka sistemlerinin en büyük sorunlarından birinin üstesinden gelmeyi sağlayacak bir yol bulmuş olabilir.
![Bilim insanları yapay zekada "halüsinasyon" sorununu çözmüş olabilir](http://www.detaykibris.com/d/news/183929.jpg)
23 Haziran 2024 Pazar 11:11
Yeni bir araç, yapay zekaların ne zaman "halüsinasyon" gördüğünü, yani gerçekleri uydurduğunu bulmasını sağlayabilir. Bu halihazırda büyük dil modellerine (LLM'lere) güvenirken karşı karşıya kalınan büyük bir tehlike.
ChatGPT ve benzeri araçların temelini oluşturan LLM'ler, gerçeklerden ziyade dil üretmek üzere inşa edilmiştir. Bu da sık sık "halüsinasyonlar" üretebilecekleri anlamına gelir; yani kendinden emin bir şekilde ifade edilen ve makul görünen ancak aslında gerçekle hiçbir ilişkisi olmayan iddialarda bulunurlar.
Bu sorunu çözmenin zor olduğu anlaşılmıştı, çünkü kısmen yeni sistemler böylesine makul görünen metinler üretiyor. Ancak bu aynı zamanda teknolojiyi geniş bir uygulama yelpazesinde kullanma umudunun da merkezinde yer alıyor, çünkü insanların sistemlerin ürettiği her metnin doğru ve güvenilir olduğuna güvenebilmeleri gerek.
Yeni yöntem, bilim insanlarının LLM'ler yanlış ve keyfi metin ürettiğinde "masa uydurma" diye adlandırdıkları şeyi bulmasını sağlıyor. LLM'ler bunu genellikle bir soruyu yanıtlayacak bilgiye sahip olmadığında yapıyor.
Bu, asıl LLM'nin çalışmasını kontrol etmek için başka bir LLM ve ardından bu çalışmayı değerlendiren başka bir LLM kullanılarak yapılıyor. Çalışmaya dahil olmayan bir araştırmacı bunu "ateşe ateşle karşılık vermek" diye tanımladı ve LLM'lerin kendilerini kontrol etmenin önemli bir parçası olabileceğini öne sürdü.
Çalışma kelimelerin kendilerine değil anlamlarına odaklanıyor. Araştırmacılar sistemin kontrol edilmesi gereken çıktılarını, ifadelerinin diğer anlamı ima edip etmediğine karar veren ve esasen yorumlamayı arayan başka bir sisteme gönderiyordu.
Bu yorumlamalar daha sonra asıl sistemin çıktısının güvenilir olma olasılığını anlamak için kullanılabiliyordu. Araştırma, bu çalışmayı değerlendiren üçüncü bir LLM'nin, bir kişinin yaptığıyla aşağı yukarı aynı sonuçlara ulaştığını gösterdi.
Sistem, LLM'leri daha güvenilir hale getirmek ve dolayısıyla daha geniş bir görev yelpazesinde ve daha önemli ortamlarda kullanılabilmek açısından değerli olabilir. Ancak bilim insanları bunun başka tehlikeleri de beraberinde getirebileceği uyarısını yaptı.
Melbourne Üniversitesi'nden Karin Verspoor çalışmaya ek bir makalede, LLM'leri bu amaçla kullanmaya devam ettikçe, "araştırmacıların bu yaklaşımın LLM'lerin çıktısını gerçekten kontrol edip etmediği ya da halüsinasyonlara ve öngörülemeyen hatalara eğilimli birden fazla sistemi katmanlaştırarak yangını istemeden körükleyip körüklemediği meselesiyle uğraşması gerekecek" diye yazdı.
Çalışma, Nature akademik dergisinde yayımlanan "Detecting hallucinations in large language models using semantic entropy" (Büyük dil modellerindeki halüsinasyonları semantik entropiyle saptamak) başlıklı yeni bir makalede anlatılıyor.
Dünyanın yüzde 62'si sosyal medya kullanıyorDünyada sosyal medyayı 2024 verilerine göre toplam nüfusun yüzde 62'si kullanıyor. Facebook, aylık aktif 3 milyarı aşkın sayısıyla dünyada en fazla kullanıcıya sahip sosyal medya platformu olarak zirvedeki yerini koruyor.01 Temmuz 2024 Pazartesi 22:54TEKNOLOJİ
Biden'ın sağlığının başkanlığa uygun olmadığına inananların oranı yüzde 72ABD’de yapılan ankette katılımcıların yüzde 72’si, ABD Başkanı Joe Biden’ın "başkan olarak görev yapacak zihinsel ve bilişsel sağlığa" sahip olmadığına inandığını söyledi.01 Temmuz 2024 Pazartesi 21:53AMERİKA
İki komşunun kavgası bir ağacı turistik cazibe merkezine çevirdiİngiltere'nin Sheffield şehrinde 70'li yaşlarındaki iki komşunun kavgası, bir ağacı turistik cazibe merkezi haline getirdi. Hatta Google bile ağacın bulunduğu yeri, turistik bir yer olarak etiketledi.01 Temmuz 2024 Pazartesi 20:52İNGİLTERE
Avrupa Birliği'nin dönem başkanlığı 6 aylığına Macaristan'a geçtiAvrupa Birliği (AB) üyeleri arasında dönüşümlü üstlenilen dönem başkanlığını 6 aylığına Macaristan yürütecek.01 Temmuz 2024 Pazartesi 19:50AVRUPA
ABD’de polise ‘oyuncak’ silah doğrultan çocuk, vurularak öldürüldüABD’de polis, bir silahlı soyguna ilişkin düzenlediği soruşturma kapsamında iki çocuğu durdurdu. Çocuklardan birisi kaçmaya çalıştığı sırada cebinden ‘oyuncak silah’ çıkardı. Çocuk vurularak öldürüldü.01 Temmuz 2024 Pazartesi 18:49AMERİKA
Boğazköy-Dikmen Anayolu 10 gün kapalıBoğazköy-Dikmen Anayolu üzerinde, 01-10 Temmuz 2024 tarihleri arasında 10 gün süreyle üçüncü etap asfaltlama çalışmaları yapılacaktır01 Temmuz 2024 Pazartesi 18:01KIBRIS
İskele festival güzelleri seçildiİskele festival güzelleri seçildi01 Temmuz 2024 Pazartesi 17:58KÜLTÜR/ SANAT
US News & World Report : KKTC’nin en iyisi YDÜYakın Doğu Üniversitesi, İngiliz Times Higher Education’ın ardından Amerikalı US News & World Report tarafından da KKTC’nin en iyisi olarak dünyanın en iyi üniversiteleri arasında gösterildi!01 Temmuz 2024 Pazartesi 17:52YDÜ - YAKIN DOĞU ÜNİVERSİTESİ
Berova, arabuluculardan oluşan heyetleri kabul ettiMaliye Bakanı Özdemir Berova, Türk Dünyası Arabulucular Birliği Başkanı Yakup Erikel ve beraberindeki Türkiye Arabulucuları ve Azerbaycan Mediasiya (Arabulucuları) şurasından oluşan heyetle Maliye Bakanlığı’nda görüştü.01 Temmuz 2024 Pazartesi 16:44KIBRIS
Metehan çemberden Ortaköy’e gidiş yolu kapatılacakMetehan çemberinden Ortaköy’e gidiş yolunun Çarşamba gününden itibaren trafiğe kapatılacağı belirtildi.01 Temmuz 2024 Pazartesi 16:42KIBRIS
- Geri
- Ana Sayfa
- Normal Görünüm
- © 2014 Detay Kıbrıs
Türkçe karakter kullanılmayan ve büyük harflerle yazılmış yorumlar onaylanmamaktadır.