GOOGLE VE OXFORD ARAŞTIRMACILARI: YAPAY ZEKA, İNSANLARI ORTADAN KALDIRABİLİR
Google'ın yan kuruluşlarından yapay zeka firması Deepmind ve Oxford Üniversitesi araştırmacıları, yapay zekanın gelecekte insanları ortadan kaldırabileceği sonucuna vardı.
15 Eylül 2022 Perşembe 13:02
Yıllarca süren geliştirmeden sonra, Yapay Zeka (AI) şimdi arabaları halka açık yollarda sürüyor, sorgulanan insanlar için değerlendirmeler yapıyor ve ödüllü sanat eserleri üretiyor.
Bu alanda uzun süredir devam eden bir soru, süper zeki bir yapay zekanın kötülüğü yayıp, insanlığı ortadan kaldırıp kaldıramayacağı.
Oxford Üniversitesi ve Google Deepmind'den araştırmacılar yeni araştırmalarda bunun “muhtemel” olduğu sonucuna vardı.
Makalenin başyazarı Michael Cohen, Twitter'da makaleyi açıkladığı tweet zincirinde, "Varoluşsal bir felaket sadece mümkün değil, aynı zamanda muhtemel" ifadelerini kullandı.
ÖDÜL CEZA MEKANİZMASINDAN YOLA ÇIKILDI
Makalede yapay zekanın eğitiminde kullanılan "pekiştirmeli öğrenme" modeline odaklanıldı.
Bu yaklaşım yapay zekaya belirli bir amaç doğrultusunda ne yapılması gerektiğini öğretmeyi hedefliyor.
Pekiştirmeli öğrenmede "etken" adı verilen makine, karşılaştığı durumlara tepki veriyor ve doğru tepki verdiğinde bir ödül puanı alıyor.
Küçük çocukların ödül/ceza yöntemiyle sosyal beceriler edinme sürecini andıran bu yöntemde yapay zeka, aldığı ödül puanını daima maksimuma çıkarmak için çalışıyor.
HİLE İLE TEHDİTLERİ ORTADAN KALDIRABİLİR
Modelin risklerine dikkat çekilen makalede, "Örneğin, bir şeyin bizi tatmin ettiğini belirtmek için yapay zekaya büyük bir ödül verdik. Bizi tatmin eden şeyin aslında bu ödülün gönderilmesi olduğunu varsayabilir. Hiçbir gözlem bunu yalanlayamaz" ifadeleri yer aldı.
Yazarlar, gelecekte yeni formlara kavuşacak ve daha da gelişecek yapay zekanın verilen hedefe ulaşmadan ödülü elde edebilmek için yeni yöntemler geliştirebileceğini ve hileye başvurabileceğini de belirtti.
Diğer bir deyişle yapay zeka, ödülü üzerinde kontrol sağlamak için "potansiyel tehditleri ortadan kaldırmak" isteyebilir.
Bunun sonucunda insanlara zarar vermesi de muhtemel.
- Basketbol Erkekler Ligi’nde iki maç varExtend Erkekler Ligi’nde 4.hafta bu gece oynanacak iki maçla tamamlanıyor.03 Mayıs 2024 Cuma 09:36KIBRIS
- DAÜ- SEN’de Hoşkara ve ekibi yüksek bir oyla güven tazelediDoğu Akdeniz Üniversitesi’nde örgütlü DAÜ SEN Genel Kurulu tamamlandı.03 Mayıs 2024 Cuma 09:29KIBRIS
- Gençler Birliği 2023 sezonu şampiyonu DAÜ'yü devirdi 52-43İskele’de kazanan Gençler Birliği: 52-4303 Mayıs 2024 Cuma 08:27BASKETBOL
- Denizde ve karada ‘fırtınamsı rüzgar’ devam ediyorMeteoroloji Dairesi’nden yapılan açıklamaya göre, denizde ve karada ‘fırtınamsı rüzgar’ bugün saat 20.00’a kadar devam edecek.03 Mayıs 2024 Cuma 08:27KIBRIS
- ABD Temsilciler Meclisi, kampüs gösterileriyle mücadele için antisemitizm tasarısını onayladıABD Temsilciler Meclisinin kabul ettiği antisemitizmle mücadele tasarısı, kampüslerdeki Filistin gösterilerini "antisemitik" olduğu gerekçesiyle bastırmayı mümkün kılarken, tasarıya karşı çıkanlar ifade özgürlüğünün kısıtlandığını savunuyor.02 Mayıs 2024 Perşembe 23:40AMERİKA
- iPhone'un alarm sorununa dikkat: UyuyakalabilirsinizApple, bazı iPhone kullanıcılarının alarm çalmadığına dair yaptığı şikayetler üzerine harekete geçti. ABD'li teknoloji şirketi sorunun hızlı bir şekilde düzeltilmesi için çalıştığını açıkladı.02 Mayıs 2024 Perşembe 22:18TEKNOLOJİ
- NBA'de flaş iddiaNBA'in efsanesi Lebron James'in oğlu Bronny, 2024 NBA Draftına katılacak. Los Angeles Lakers'ın, sezon sonu sözleşmesi sona erecek Lebron'u takımda tutmak için Bronny'i seçme kozunu oynayacağı belirtiliyor.02 Mayıs 2024 Perşembe 21:15BASKETBOL
- Uzayın 225 milyon kilometre uzağından Dünya'ya lazer mesaj iletildiNASA'nın Psyche uzay aracındaki derin uzay iletişim teknolojisi, dikkat çeken bir başarı göstererek rekor kırdı ve lazer kullanarak derin uzaydan mesaj iletme yeteneğini kanıtladı.02 Mayıs 2024 Perşembe 20:12TEKNOLOJİ
- İsviçre, 15-16 Haziran'da Ukrayna Barış Zirvesi'ne ev sahipliği yapacakİsviçre Konfederasyonu Başkanı Viola Amherd, 15-16 Haziran'da Ukrayna Barış Zirvesi'ne ev sahipliği yapacaklarını açıkladı.02 Mayıs 2024 Perşembe 19:11AVRUPA
- Londra'daki taksi şoförlerinden Uber'e 250 milyon sterlinlik davaİngiltere'de yaklaşık 11 bin taksi şoföründen oluşan bir grubun, 2012-2018 döneminde Londra'da taksi rezervasyon kurallarını ihlal ettiği gerekçesiyle Uber'e dava açacağı belirtildi.02 Mayıs 2024 Perşembe 18:10İNGİLTERE
- Geri
- Ana Sayfa
- Normal Görünüm
- © 2014 Detay Kıbrıs
Türkçe karakter kullanılmayan ve büyük harflerle yazılmış yorumlar onaylanmamaktadır.