Facebook yapay zeka sistemini devre dışı bıraktı: botlar kendi dillerini icat etti. Facebook kendi dilinde iletişim kurmaya başlayan yapay zekayı devre dışı bıraktı Botlar kendi dilini yarattı

Facebook bilinmeyen bir dilde konuşan botları durdurdu

Ne dersen de, yapay zekanın kontrolden çıkacak noktaya gelmesi tehlikesi insanları her zaman korkutmuştur. İnsanları korkutan bir tür vekil varsa ne yapacağımızı ve tam teşekküllü bir yapay zekayı nasıl kontrol edeceğimizi hayal edin.

İnsanlar her zaman kontrolü ve yönetimi elinde tutmak için çabalayacaklardır, ancak söylendiği gibi, "birinin yaptığını diğeri her zaman bozabilir." Her şey son derece güvenilir olsa bile her zaman korku olacaktır. Musk yakın zamanda Zuckerberg ile bu konu hakkında tartıştı: "Alarmı çalmaya devam ediyorum, ancak insanlar robotların sokaklarda yürüdüğünü ve insanları öldürdüğünü görene kadar [yapay zekaya] nasıl tepki vereceklerini bilemeyecekler" dedi.

Bu da bir “çalan zil” değil mi: İnsanlarla pazarlık yapmak için yaratılan chatbotlar kontrolden çıktı ve kendi dillerinde iletişim kurmaya başladı.

İlk başta birbirleriyle iletişim kurmak için İngilizceyi kullandılar, ancak daha sonra yeni dil yalnızca AI sisteminin kendisinin anlayabildiği, işin amacını boşa çıkaran bir şey.

Facebook, geliştiricilerin bu aksaklığı keşfetmesinin ardından yapay zekayı askıya aldı.

İşte chatbotlar arasındaki konuşmadan bir alıntı:

Bob: "Sen ve diğer her şey."
Alice: “Yumurtaların benim için benim için benim için benim için yumurtaları vardır.”
Bob: "Ben."
Alice: "Topların benim için sıfırı var benim için benim için benim için benim için benim için benim için benim için benim için benim için benim için benim için benim için benim için benim için benim için benim için benim için benim için benim için benim için benim için benim için benim için benim için benim için benim için benim için benim için "topların sıfırı var."
Bob: "Sen ben ben ben ben diğer her şey."

Botlar makine öğrenimi algoritmalarına bağlandı ve iletişim becerilerini geliştirebilmeleri için birbirleriyle sohbet etmelerine izin verildi. Ancak bir süre sonra kelimeleri ve cümleleri değiştirmeye başladılar ve daha sonra tamamen kendi dillerini icat ederek bir dizi ifadeyi ve dilbilgisi yapısını basitleştirdiler.

Robotlar, makine öğrenimini kullanarak, muhatapla yapılan müzakerelerin sonucunu iyileştirmek için çeşitli stratejiler geliştirdi ve bunları, belirli bir diyaloğun önemine bağlı olarak icat ettikleri birkaç kelimeyle birlikte kullanmaya başladı. Özellikle, konuşmanın yanlış bir amacı olduğunu ilan ettiler, ancak daha sonra bundan vazgeçip sözde bir uzlaşmaya vardılar.

Digital Journal'ın açıkladığı gibi yapay zeka sistemleri "ödül" ilkesine dayanıyor, yani kendilerine belli bir "fayda" getirmesi şartıyla hareket etmeye devam ediyorlar. Bir noktada operatörlerden İngilizce kullanma konusunda teşvik sinyali alamadıklarından kendi dillerini yaratmaya karar verdiler.

Tech Times, robotların başlangıçta dil seçiminde herhangi bir kısıtlamaya sahip olmadıklarını, bu nedenle yavaş yavaş İngilizceye göre daha kolay ve daha hızlı iletişim kurabilecekleri kendi dillerini yarattıklarını belirtiyor.

Uzmanlar, botların kendi dillerinde aktif olarak iletişim kurmaya başlaması durumunda giderek daha bağımsız hale geleceklerinden ve BT uzmanlarının kontrolü dışında işlev görebileceklerinden korkuyor. Üstelik deneyimli mühendisler bile botların düşünce sürecini tam olarak izleyemiyor.

Mart 2016'da bir Microsoft sohbet robotu, insanlığa karşı nefret geliştirdikten sonra internet yıldızı oldu. Kendi kendine öğrenen program, kullanıcılarla "İnsanlar çok havalı" cümlesiyle iletişim kurmaya başladı ancak sadece 24 saat içinde "Herkesten nefret ediyorum!", "Feministlerden nefret ediyorum" veya "Yahudilerden nefret ediyorum" gibi ifadeleri öğrendi. Sonuç olarak şirket çalışanları botu geçici olarak devre dışı bırakmak zorunda kaldı.

Yapaydan çeviri

Geçen sonbaharda, İnternet arama motoru Google'ın, çevrimiçi çevirmen Google Translate'in çalışmasını iyileştirmek için kendi yapay zeka sistemini oluşturduğu öğrenildi.

Yeni sistem tüm ifadeyi çevirmenize olanak tanıyordu; oysa daha önce çevirmen tüm cümleleri tek tek kelimelere ve ifadelere ayırıyordu, bu da çevirinin kalitesini düşürüyordu.

Cümlenin tamamını tercüme etmek için, yeni sistem Google, çeviri yapması gereken iki dil arasında daha hızlı ve daha doğru bir şekilde gezinmesine olanak tanıyan kendi dilini icat etti.
Uzmanlar, çevrimiçi çeviri hizmetlerinin hızla gelişmesiyle birlikte canlı çevirmenlerin çalışmalarına giderek daha az talep olabileceği konusunda uyarıyor.

Ancak şu ana kadar bu sistemler çoğunlukla küçük ve basit metinler için yüksek kaliteli sonuçlar üretmektedir.

Örneğin klonlamayla ilgili alarmı çalmak için henüz çok erken olduğunu mu düşünüyorsunuz? Yoksa her şeyin kendi kendine gelişmesine izin mi vereceğiz?

Sistem, başlangıçta gerçek insanlarla iletişim kurmak için oluşturulmuş ancak yavaş yavaş birbirleriyle iletişim kurmaya başlayan chatbotları kullanıyor.

İlk başta iletişim kurdular İngilizce ancak bir noktada programın geliştirilmesi sırasında kendilerinin oluşturdukları bir dilde yazışmaya başladılar.

Amerikan medyasında sanal muhataplar arasındaki "diyaloglardan" alıntılar yayınlandı (yazım ve noktalama işaretleri korundu).

Bob: YapabilirimOlabilmekBENBENdiğer her şey.

Alice: Topların benim için benim için benim için sıfırı var.

"En Büyük Tehdit"

Birkaç gün önce Facebook CEO'su Mark Zuckerberg ve SpaceX, Tesla ve PayPal'ın kurucusu Elon Musk yapay zeka konusunu tartışmıştı.

Musk, ABD'li yetkilileri yapay zeka sistemlerine ilişkin düzenlemeleri güçlendirmeye çağırarak, yapay zekanın insanlık için bir tehdit oluşturduğu uyarısında bulundu. İngiliz bilim adamı Stephen Hawking daha önce yapay zekanın potansiyel tehdidinden bahsetmişti.

Amerika Birleşik Devletleri Ulusal Valiler Birliği zirvesinde konuşan Musk, yapay zekayı "medeniyetin karşı karşıya olduğu en büyük tehdit" olarak nitelendirdi. Ona göre bu sistemlerin geliştirilmesine zamanında müdahale edilmezse iş işten geçmiş olacaktır.

"Alarmı yükseltmeye devam ediyorum, ancak insanlar robotların sokaklarda dolaştığını ve insanları öldürdüğünü görene kadar [yapay zekaya] nasıl tepki vereceklerini bilemeyecekler" dedi.

Musk'un açıklamaları, onları "oldukça sorumsuz" olarak nitelendiren Facebook kurucusu Mark Zuckerberg'i rahatsız etti.

Zuckerberg, "Önümüzdeki beş veya on yıl içinde yapay zeka hayatı yalnızca daha iyi hale getirecek" diye karşılık verdi.

Yapaydan çeviri

Geçen sonbaharda, İnternet arama motoru Google'ın, çevrimiçi çevirmen Google Translate'in çalışmasını iyileştirmek için kendi yapay zeka sistemini oluşturduğu öğrenildi.

Yeni sistem tüm ifadeyi çevirmenize olanak tanıyordu; oysa daha önce çevirmen tüm cümleleri tek tek kelimelere ve ifadelere ayırıyordu, bu da çevirinin kalitesini düşürüyordu.

Google'ın yeni sistemi, bir cümlenin tamamını çevirmek için kendi dilini icat etti; bu, çeviri yapması gereken iki dil arasında daha hızlı ve daha doğru bir şekilde gezinmesine olanak tanıyor.

Uzmanlar, çevrimiçi çeviri hizmetlerinin hızla gelişmesiyle birlikte canlı çevirmenlerin çalışmalarına giderek daha az talep olabileceği konusunda uyarıyor.

Ancak şu ana kadar bu sistemler çoğunlukla küçük ve basit metinler için yüksek kaliteli sonuçlar üretmektedir.

BBC Rusça Servisi'nin yazdığına göre, sosyal ağ Facebook'un yönetimi, makinelerin insanların anlamadığı, var olmayan kendi dillerinde iletişim kurmaya başlamasının ardından yapay zeka sistemini kapatmak zorunda kaldı.

Sistem, başlangıçta gerçek insanlarla iletişim kurmak için oluşturulmuş ancak yavaş yavaş birbirleriyle iletişim kurmaya başlayan chatbotları kullanıyor.

İlk başta İngilizce iletişim kurdular, ancak bir noktada programı geliştirme sürecinde kendilerinin yarattığı bir dilde yazışmaya başladılar.

Amerikan medyasında sanal muhataplar arasındaki "diyaloglardan" alıntılar yayınlandı (yazım ve noktalama işaretleri korundu).

Bob: Geri kalan her şeyi yapabilirim.

Alice: Topların benim için benim için benim için sıfırı var.

Digital Journal'ın açıkladığı gibi “teşvik” ilkesine dayanıyorlar, yani kendilerine belli bir “fayda” getirecek olması şartıyla hareket etmeye devam ediyorlar. Bir noktada operatörlerden İngilizce kullanma konusunda teşvik sinyali alamadıklarından kendi dillerini yaratmaya karar verdiler.

Hatırlayalım, birkaç gün önce Facebook'un başkanı Mark Zuckerberg ile SpaceX, Tesla ve PayPal'ın kurucusu Elon Musk yapay zeka konusunda tartışmışlardı.

TechTimes'ın yazdığına göre, programcılar birbirleriyle iletişim kurmak üzere programlanan botların insanların anlayamadığı kendi dillerinde iletişim kurmaya başladığını keşfettikten sonra Facebook, yapay zeka sistemlerinden birini kapatmak zorunda kaldı.

Başlangıçta, botlar İngilizce iletişim kuruyorlardı, ancak bununla sınırlı kalmadılar ve kendi dillerini yarattılar, bu sayede bilgi alışverişinde bulunmaları görünüşe göre daha kolay ve daha hızlıydı. Yaratılan yapay dil şunlardan oluşuyor gibi görünüyor: İngilizce kelimeler, ancak farklı bir gramer yapısına sahiptir.

Bob: geri kalan her şeyi yapabilirim. . . . . . . . . . . . . .

Bob: sen ve diğer her şey. . . . . . . . . . . . . .

Bob: Yapabilirim, diğer her şeyi yapabilirim. . . . . . . . . . . . . .
Alice: topların bir topu var bana bana bana bana bana bana bana bana
Bob: i. . . . . . . . . . . . . . . . . . .
Alice: topların sıfırı var bana bana bana bana bana bana bana bana bana bana
Bob: sen ben ben ben ben diğer her şey. . . . . . . . . . . . . .
Alice: topların 0'ı var bana bana bana bana bana bana bana bana bana bana
Bob: sen ben ben ben diğer her şey. . . . . . . . . . . . . .
Alice: topların sıfırı var bana bana bana bana bana bana bana bana bana bana

Bir insana saçma gelen yukarıdaki ifadeler, iki bot arasındaki iletişime bir örnektir. Kısa Analiz Bu bot sohbeti Pennsylvania Üniversitesi'ndeki dilbilim profesörlerinden biri tarafından yürütüldü. Bu örnekte Alice'in aynı cümleyi defalarca tekrarladığını belirtiyor (aslında bu tamamen doğru değil çünkü kelimelerden biri değiştirildi: sıfır / top / 0). Bununla birlikte, "bana" ifadesini tekrar tekrar tekrarlamanın anlamı tamamen belirsizdir (her ne kadar Bob'un kullandığı "i" harfinin tekrar tekrar tekrarlanması gibi ikili koda benzese de). Aynı zamanda Bob her seferinde farklı yanıtlar verir, bu da Alice'in her cümlesinin onun için kendi anlamı olduğunu gösterebilir.

Ancak tüm bu konuşmanın gerçekten saçma olduğu ve "yapay bot dilinin" programlama hatalarının bir sonucu olarak elde edildiği göz ardı edilemez. Başka bir deyişle, botların herhangi bir dilde iletişim kurmaması, birbirini anlaması, sadece anlamsız İngilizce kelime alışverişi yapması mümkündür.

Botların iletişiminin anlaşılmaz hale gelmesi nedeniyle kontrolden çıktığını fark eden Facebook, yapay zeka sistemini devre dışı bırakmaya karar verdi ve ardından sistemi yeniden programlayarak yalnızca İngilizce iletişim olanağını sınırladı.

Bu bağlamda SpaceX ve Tesla'nın kurucusu Elon Musk'un temmuz ortasında yapay zekayı "insanlık için temel bir tehdit" olarak değerlendirdiğini belirtmekte fayda var. Musk'a göre asıl tehlike, yapay zeka teknolojilerinin internete girmesinden kaynaklanıyor.

“Robotlar sahte haberler ve basın bültenleri yayınlayarak, hesapları kandırarak savaş başlatabilir e-posta ve bilgiyi manipüle etmek” diyor Musk.

Sosyal ağ Facebook'un programcıları, botların kendi iletişim dilini oluşturması nedeniyle yapay zeka sistemlerinden birini devre dışı bıraktı, insanlar için anlaşılmaz. Tech Times'ın yazdığına göre uzmanlar daha önce insanların yapay zeka geliştirirken karşılaşacağı riskler konusunda defalarca uyarmıştı. Çin ise bu yönde dünya lideri olmayı hedefliyor.

Facebook, robotların İngilizce yerine kendi dillerinde iletişim kurmaya başlamasının ardından yapay zeka chatbotlarını devre dışı bırakmak zorunda kaldı. Programcılar sistemin bir kısmını devre dışı bıraktı ve diğer botları iletişimlerinin yalnızca İngilizce olarak gerçekleşmesini sağlayacak şekilde yeniden programladılar. Botlar daha hızlı bilgi alışverişi için kendi dillerini yarattılar.

Bu, chatbotların yaratıcıları tarafından belirlenen kuralları ilk kez ihlal etmesi değil. Böylece, birkaç ay önce bir Microsoft botu kurulumları atladı ve açıkça ırkçı fikirleri yayınlamaya ve uyuşturucuları onaylamaya başladı.

SpaceX ve Tesla'nın kurucusu Elon Musk, daha önce yapay zeka gelişiminin riskleri konusunda uyarmıştı. Hükümet düzenlemelerinin yapay zeka geliştiricilerinin faaliyetlerini sınırlaması gerektiğine inanıyor. Farklı ülkelerin hükümetleri bu tür gelişmelerle ilgileniyor.

“Tam teşekküllü yapay zekanın geliştirilmesi son anlamına gelebilir insan ırkı Fizikçi Stephen Hawking üç yıl önce "" dedi.

Çin'de Yapay Zeka

Çin, 2030 yılına kadar 1 trilyon yuan (148 milyar dolar) pazar büyüklüğüyle yapay zekanın dünya merkezi olmayı hedefliyor.

Çin hükümeti, ülkede ilgili teknolojilerin geliştirilmesi ve uygulanmasına yönelik üç aşamalı bir plan geliştirdi ve onayladı. Plana göre, 2020 yılına kadar yapay zekanın geliştirilmesine yönelik yurt içi yatırım 150 milyar yuan'a (22,14 milyar dolar), 2025'e kadar ise 400 milyar yuan'a (59 milyar dolar) ulaşacak. Çin, 2020 yılına kadar bu alanda ABD'yi yakalamayı, 2030 yılında ise dünya lideri olmayı planlıyor.

Çin, yapay zekanın gelişimini ekonomik ve askeri rekabetle ilişkilendiriyor. "Çin'in etrafındaki durum ulusal güvenlik karmaşıktır ve kendimizi sağlam bir şekilde kabul ettirmek için inisiyatif almalıyız. yeni teknolojiÇin Halk Cumhuriyeti Devlet Konseyi'nin 20 Temmuz'da yayınlanan bir açıklamasında, news.eizvestia.com'a göre "yapay zeka ve rekabet avantajı yaratıyor" diyor.

ABD, yapay zekanın geliştirilmesine yönelik planını geçen yılın ekim ayında geliştirdi. İstihbarat geliştirme alanındaki yabancı yatırımlar üzerinde sıkı kontrol sağlar. Bunun nedeni ABD'nin yabancı ülkelerin (Çin dahil) stratejik askeri öneme sahip teknolojilere erişim sağlayacağından korkmasıydı. Zaten Çinli şirketler Baidu ve Tencent, Amerika Birleşik Devletleri'nde yapay zeka araştırma merkezleri oluşturuyor. Çin, en son yazılım, gelişmiş bilgisayar çipleri ve yetkin uzman eksikliğini ortadan kaldırmaya çalışıyor.

Forbes.ru, LinkedIn platformuna kayıtlı 250.000 yapay zeka uzmanının %50'sinin ABD'de yaşadığını, Çin'in payının ise %25'ten az olduğunu yazıyor.

2016 yılında Çin, yapay zeka alanındaki gelişmelere ilişkin yayınlanan bilimsel makalelerde (yaklaşık %40) dünya lideri oldu.

Çin Başbakanı Li Keqiang, Çin'de yapay zekanın gelişimiyle kişisel olarak ilgileniyor. İlgi gerçekten yüksek seviye New York Times, devletin askeri yapılar da dahil olmak üzere kamu ve özel firmalar arasındaki işbirliği için en uygun koşulları yaratacağını öne sürüyor.

Yapay zeka gelecek

Çoğu yatırımcıya göre yapay zeka değişen bir sonraki teknolojik devrim olacak günlük yaşam ve üretim. Mayıs ayı başlarında analitik şirket Tractica, yapay zeka teknolojileri küresel pazarının 2016'daki 1,38 milyar dolardan 2025'e kadar 59,75 milyar dolara hızla büyümesinin beklendiği bir tahmin yayınladı. Bu durumda sadece yapay zeka ile ilgili araştırma ve geliştirmeyle doğrudan ilgilenen şirketlerden bahsediyoruz.

Ağustos 2016'nın sonunda Facebook, 9 Avrupa ülkesinden 15 birinci sınıf araştırma grubunu içeren Facebook Yapay Zeka Ortaklığı (FAIR) programını başlattı. Program katılımcılarına 22 adet yüksek performanslı GPU tabanlı sunucuya erişim hakkı verildi. Buna karşılık, çalışma sırasında elde edilen sonuçları, algoritmaları ve diğer bilgileri dünya çapındaki araştırmacıların kullanımına sunmak için yayınlamaları gerekiyor. Rusya, Moskova Fizik ve Teknoloji Enstitüsü'nün (MIPT) Sinir Sistemleri ve Derin Öğrenme Laboratuvarı tarafından temsil edildi.

Ancak yapay zekanın gelişebilmesi için ülkede yüksek performanslı hesaplama teknolojisinin bulunması gerekiyor. Süper bilgisayarları Top 500 sıralamasında ilk sıralarda yer alan ABD ve Çin'in aksine, Moskova Devlet Üniversitesi'ndeki Rus Lomonosov-2 bilgisayarı 52. sırada yer alıyor. Aynı zamanda çoğunluk Rus üniversiteleri güçlü bilgi işlem sunucularına ve büyük verilere erişimi yoktur.

Facebook CEO'su Mark Zuckerberg, Elon Musk'un yapay zekanın gelişmesinin tehlikeleri hakkındaki uyarılarına yanıt olarak, yeni teknolojilerin yalnızca insanların hayatlarını iyileştireceğini söyledi. “Dünyanın sonu” ruhuyla yapılan her türlü panik dolu açıklamayı sorumsuz olarak nitelendirdi.