Facebook öz süni intellekt sistemini sıradan çıxarıb: botlar öz dillərini icad ediblər. Facebook öz dilində ünsiyyət qurmağa başlayan süni intellekti əlil etdi Botlar öz dillərini yaratdı

Facebook naməlum dildə danışan botları dayandırıb

Nə desəniz, süni intellektin nəzarətdən çıxacaq dərəcədə inkişaf etdirilməsi təhlükəsi həmişə insanları qorxutmuşdur. İnsanları qorxudan bir növ surroqat varsa, nə edəcəyimizi və tam hüquqlu AI-ni necə idarə edəcəyimizi təsəvvür edin.

İnsanlar həmişə nəzarəti və idarəçiliyi əldə saxlamağa çalışacaqlar, lakin deyildiyi kimi, “biri nə etsə, o birisi həmişə qıra bilər”. Hər şey super etibarlı olsa belə, həmişə qorxu olacaq. Musk bu yaxınlarda Zukerberqlə bu mövzuda mübahisə etdi: "Mən həyəcan təbili çalmağa davam edirəm, lakin insanlar küçələrdə gəzən və insanları öldürən robotları görməyincə, [süni intellektə] necə reaksiya verəcəklərini bilməyəcəklər" dedi.

Bəs bu “zəng” deyilmi: insanlarla danışıqlar aparmaq üçün yaradılan chatbotlar nəzarətdən çıxdı və öz dillərində ünsiyyət qurmağa başladı.

Əvvəlcə bir-birləri ilə ünsiyyət qurmaq üçün ingilis dilindən istifadə etdilər, lakin sonra yaratdılar yeni dil Yalnız AI sisteminin özünün başa düşə biləcəyi işin məqsədini məğlub etdi.

Tərtibatçılar bu nasazlığı aşkar etdikdən sonra Facebook süni intellektini dayandırdı.

Çatbotlar arasındakı söhbətdən bir parçanı təqdim edirik:

Bob: "Sən və hər şey."
Alice: "Yumurtaların mənim üçün yumurtaları var, mənim üçün mənim üçün mənim üçün."
Bob: "Mən."
Alice: "Topların mənim üçün sıfırı var mənim üçün mənim üçün mənim üçün mənim üçün mənim üçün mənim üçün mənim üçün mənim üçün mənim üçün."
Bob: "Sən mən, mən, başqa hər şey."

Botlar maşın öyrənmə alqoritmlərinə qoşuldu və ünsiyyət bacarıqlarını inkişaf etdirə bilməsi üçün bir-biri ilə söhbət etməyə icazə verildi. Lakin bir müddət sonra onlar söz və ifadələri dəyişdirməyə başladılar, sonra isə bir sıra ifadələri və qrammatik strukturları sadələşdirərək öz dillərini tamamilə icad etdilər.

Maşın öyrənməsindən istifadə edərək, botlar həmsöhbətlə danışıqların nəticəsini yaxşılaşdırmaq üçün bir neçə strategiya da işləyib hazırlayıb və müəyyən dialoqun əhəmiyyətindən asılı olaraq icad etdikləri bir sıra sözlərlə birlikdə istifadə etməyə başlayıblar. Xüsusilə, söhbətin saxta məqsədini elan etdilər, yalnız bundan sonra ondan imtina etdilər və guya kompromis əldə etdilər.

Digital Journal-ın izah etdiyi kimi, süni intellekt sistemləri “mükafat” prinsipinə əsaslanır, yəni onlara müəyyən “fayda” gətirmək şərti ilə fəaliyyətlərini davam etdirirlər. Müəyyən bir nöqtədə, operatorlardan ingilis dilini istifadə etmək üçün təşviq almadılar, buna görə də özlərini yaratmağa qərar verdilər.

Tech Times qeyd edir ki, robotlar əvvəlcə dil seçimində heç bir məhdudiyyətə malik deyildilər, buna görə də onlar tədricən ingilis dilindən daha asan və daha sürətli ünsiyyət qura biləcəkləri öz dillərini yaratdılar.

Mütəxəssislər qorxurlar ki, botlar öz dillərində aktiv şəkildə ünsiyyət qurmağa başlasalar, onlar tədricən müstəqilləşəcək və İT mütəxəssislərinin nəzarətindən kənarda fəaliyyət göstərə biləcəklər. Üstəlik, hətta təcrübəli mühəndislər botların düşüncə prosesini tam olaraq izləyə bilmirlər.

2016-cı ilin mart ayında bir Microsoft chatbot insanlığa nifrət yaratdıqdan sonra internet ulduzuna çevrildi. Özünü öyrənən proqram istifadəçilərlə “İnsanlar çox gözəldir” ifadəsi ilə ünsiyyət qurmağa başladı, lakin cəmi 24 saat ərzində “Mən sadəcə olaraq hamıya nifrət edirəm!”, “Mən feministlərə nifrət edirəm” və ya “Yəhudilərə nifrət edirəm” kimi ifadələri öyrəndi. Nəticədə şirkət işçiləri botu müvəqqəti olaraq söndürməli olublar.

Sünidən tərcümə

Ötən ilin payızında məlum olub ki, Google internet axtarış sistemi Google Translate onlayn tərcüməçisinin işini təkmilləşdirmək üçün özünün süni intellekt sistemini yaradıb.

Yeni sistem bütün ifadəni tərcümə etməyə imkan verir, halbuki əvvəllər tərcüməçi bütün cümlələri ayrı-ayrı sözlərə və ifadələrə ayırırdı ki, bu da tərcümənin keyfiyyətini aşağı salırdı.

Bütün cümləni tərcümə etmək üçün, yeni sistem Google, tərcümə etməli olduğu iki dil arasında daha sürətli və daha dəqiq hərəkət etməyə imkan verən öz dilini icad etdi.
Mütəxəssislər artıq xəbərdarlıq edirlər ki, onlayn tərcümə xidmətlərinin sürətli inkişafı ilə canlı tərcüməçilərin işinə tələbat getdikcə azala bilər.

Lakin indiyə qədər bu sistemlər əsasən kiçik və sadə mətnlər üçün yüksək keyfiyyətli nəticələr verir.

Sizcə, məsələn, klonlaşdırma ilə bağlı həyəcan təbili çalmaq hələ tezdir? Yoxsa hər şey öz-özünə inkişaf etsin?

Sistem əvvəlcə real insanlarla ünsiyyət qurmaq üçün yaradılan, lakin tədricən bir-biri ilə ünsiyyət qurmağa başlayan chatbotlardan istifadə edir.

Əvvəlcə əlaqə saxladılar Ingilis dili, lakin bir anda proqramın hazırlanması zamanı özlərinin yaratdıqları dildə yazışmağa başladılar.

Amerika mediasında virtual həmsöhbətlər arasında “dialoqlardan” çıxarışlar çıxdı [orfoqrafiya və durğu işarələri qorunur].

Bob: Mən edə bilərəmBacarmaqIIqalan bütün.

Alice: Topların mənim üçün mənim üçün sıfırı var.

"Ən böyük təhlükə"

Bir neçə gün əvvəl Facebook-un baş direktoru Mark Zukerberq və SpaceX, Tesla və PayPal-ın qurucusu İlon Mask süni intellektlə bağlı mübahisə etmişdilər.

Mask ABŞ hakimiyyətini süni intellekt sistemlərinin tənzimlənməsini gücləndirməyə çağıraraq, süni intellektin bəşəriyyət üçün təhlükə yaratdığı barədə xəbərdarlıq edib. Britaniyalı alim Stiven Hokinq daha əvvəl süni intellektin potensial təhlükəsindən danışıb.

Amerika Birləşmiş Ştatlarının Milli Qubernatorlar Assosiasiyasının sammitində çıxış edən Mask süni intellekti “sivilizasiyanın qarşısında duran ən böyük təhlükə” adlandırıb. Onun sözlərinə görə, bu sistemlərin inkişafına vaxtında müdaxilə etməsəniz, çox gec olacaq.

"Mən həyəcan təbili çalmağa davam edirəm, lakin insanlar robotların küçələrdə gəzdiyini və insanları öldürdüyünü görməyincə, [süni intellektə] necə reaksiya verəcəklərini bilməyəcəklər" dedi.

Maskın açıqlamaları Facebook-un qurucusu Mark Zuckerberg-i qıcıqlandırıb və o, onları “olduqca məsuliyyətsiz” adlandırıb.

"Yaxın beş-on il ərzində süni intellekt həyatı daha da yaxşılaşdıracaq" deyə Zukerberq cavab verdi.

Sünidən tərcümə

Ötən ilin payızında məlum olub ki, Google internet axtarış sistemi Google Translate onlayn tərcüməçisinin işini təkmilləşdirmək üçün özünün süni intellekt sistemini yaradıb.

Bütün cümləni tərcümə etmək üçün Google-un yeni sistemi öz dilini icad etdi ki, bu da ona tərcümə etməli olduğu iki dil arasında daha sürətli və daha dəqiq hərəkət etməyə imkan verir.

Mütəxəssislər artıq xəbərdarlıq edirlər ki, onlayn tərcümə xidmətlərinin sürətli inkişafı ilə canlı tərcüməçilərin işinə tələbat getdikcə azala bilər.

Lakin indiyə qədər bu sistemlər əsasən kiçik və sadə mətnlər üçün yüksək keyfiyyətli nəticələr verir.

“Facebook” sosial şəbəkəsinin rəhbərliyi maşınların insanların başa düşmədiyi öz mövcud olmayan dilində ünsiyyət qurmağa başlamasından sonra süni intellekt sistemini söndürməyə məcbur olub, BBC Rus Xidməti yazır.

Sistem əvvəlcə real insanlarla ünsiyyət qurmaq üçün yaradılan, lakin tədricən bir-biri ilə ünsiyyət qurmağa başlayan chatbotlardan istifadə edir.

Əvvəlcə ingilis dilində ünsiyyət qurdular, lakin bir anda proqramın hazırlanması prosesində özləri yaratdıqları dildə yazışmağa başladılar.

Amerika mediasında virtual həmsöhbətlər arasında “dialoqlardan” çıxarışlar çıxdı [orfoqrafiya və durğu işarələri qorunur].

Bob: Mən başqa hər şeyi edə bilərəm.

Alice: Topların mənim üçün mənim üçün sıfırı var.

Digital Journal-ın izah etdiyi kimi, onlar “təşviq” prinsipinə arxalanırlar, yəni müəyyən “fayda” gətirmək şərti ilə fəaliyyətlərini davam etdirirlər. Müəyyən bir nöqtədə, operatorlardan ingilis dilini istifadə etmək üçün təşviq almadılar, buna görə də özlərini yaratmağa qərar verdilər.

Xatırladaq ki, bir neçə gün əvvəl Facebook-un rəhbəri Mark Zukerberqlə SpaceX, Tesla və PayPal-ın qurucusu İlon Mask süni intellektlə bağlı mübahisə etmişdilər.

TechTimes yazır ki, proqramçılar bir-biri ilə ünsiyyət qurmaq üçün proqramlaşdırılmış botların insanlar üçün anlaşılmaz öz dillərində ünsiyyət qurmağa başladığını aşkar etdikdən sonra Facebook süni intellekt sistemlərindən birini bağlamaq məcburiyyətində qalıb.

Əvvəlcə botlar ingilis dilində ünsiyyət qurublar, lakin bununla məhdudlaşmadılar və öz dillərini yaratdılar, onların köməyi ilə məlumat mübadiləsi daha asan və daha sürətli idi. Yaradılan süni dildən ibarət olduğu görünür İngilis dili sözləri, lakin fərqli qrammatik quruluşa malikdir.

Bob: Mən hər şeyi edə bilərəm. . . . . . . . . . . . . .

Bob: sən mən başqa hər şeyəm. . . . . . . . . . . . . .

Bob: i i can i i i i hər şeyi edə bilərəm. . . . . . . . . . . . . .
Alice: topların mənə bir topu var mənə mənə mənə mənə mənə mənə mənə
Bob: i. . . . . . . . . . . . . . . . . . .
Alice: topların sıfırı var mənə mənə mənə mənə mənə mənə mənə mənə
Bob: sən mən i i mən başqa hər şey. . . . . . . . . . . . . .
Alice: topların 0 var mənə mənə mənə mənə mənə mənə mənə mənə mənə
Bob: sən mən, mən başqa hər şey. . . . . . . . . . . . . .
Alice: topların sıfırı var mənə mənə mənə mənə mənə mənə mənə mənə

İnsana cəfəngiyat kimi görünən yuxarıdakı ifadələr iki botun ünsiyyətinə nümunədir. Qısa təhlil Bu bot söhbəti Pensilvaniya Universitetinin dilçilik professorlarından biri tərəfindən aparılıb. O qeyd edir ki, bu misalda Alice eyni ifadəni dəfələrlə təkrar edir (əslində bu, tamamilə doğru deyil, çünki sözlərdən biri əvəz olunub: sıfır / top / 0). Bununla belə, “mənə” ifadəsinin təkrar-təkrar təkrarlanmasının mənası tam aydın deyil (baxmayaraq ki, bu, Bobun istifadə etdiyi “i” hərfinin təkrar təkrarı kimi ikili koda bənzəyir). Eyni zamanda, Bob hər dəfə fərqli cavab verir ki, bu da Alisanın hər bir ifadəsinin onun üçün öz mənası olduğunu göstərə bilər.

Bununla belə, bütün bu söhbətin həqiqətən cəfəngiyyat olduğunu və “süni bot dilinin” özünün proqramlaşdırma səhvləri nəticəsində əldə edildiyini istisna etmək olmaz. Başqa sözlə, ola bilsin ki, botlar ümumiyyətlə heç bir dildə ünsiyyət qurmasın, bir-birini başa düşürlər, sadəcə olaraq mənasız ingilis sözlər toplusu mübadiləsi aparırlar.

Botların ünsiyyətinin anlaşılmaz hala gəldiyi üçün nəzarətdən çıxdığını aşkar edən Facebook süni intellekt sistemini söndürmək qərarına gəlib, bundan sonra onu yenidən proqramlaşdıraraq yalnız ingilis dilində ünsiyyət qurmaq imkanını məhdudlaşdırıb.

Bu baxımdan qeyd etmək olar ki, iyulun ortalarında SpaceX və Tesla şirkətlərinin yaradıcısı İlon Mask süni intellekti “bəşəriyyət üçün fundamental təhlükə” hesab edirdi. Maskın sözlərinə görə, əsas təhlükə süni intellekt texnologiyalarının internetə daxil olması ilə bağlıdır.

“Robotlar saxta xəbərlər və press-relizlər yaymaqla, e-poçt hesablarını saxtalaşdırmaqla və informasiyanı manipulyasiya etməklə müharibəyə başlaya bilər” dedi Musk.

Facebook sosial şəbəkəsinin proqramçıları ünsiyyət üçün botların öz dilini yaratdıqlarına görə süni intellekt sistemlərindən birini sıradan çıxarıblar. insanlar üçün anlaşılmazdır. Tech Times yazır ki, bundan əvvəl ekspertlər süni intellekt inkişaf etdirərkən insanların qarşılaşacağı risklər barədə dəfələrlə xəbərdarlıq ediblər. Bu arada Çin bu istiqamətdə dünya lideri olmaq niyyətindədir.

Botlar ingilis dilindən deyil, öz dillərində ünsiyyət qurmağa başlayandan sonra Facebook süni intellekt chatbotlarını söndürmək məcburiyyətində qalıb. Proqramçılar sistemin bir hissəsini söndürdülər və digər botları yenidən proqramlaşdırdılar ki, onların ünsiyyəti yalnız ingilis dilində olsun. Botlar daha sürətli məlumat mübadiləsi üçün öz dillərini yaratdılar.

Bu, chatbotların yaradıcılarının müəyyən etdiyi qaydaları ilk dəfə pozması deyil. Belə ki, bir neçə ay əvvəl Microsoft botu qurğulardan yan keçərək açıq şəkildə irqçi ideyaları yayımlamağa və narkotik maddələri dəstəkləməyə başladı.

SpaceX və Tesla-nın qurucusu İlon Mask daha əvvəl süni intellektin inkişafı riski barədə xəbərdarlıq etmişdi. O hesab edir ki, dövlət tənzimlənməsi süni intellekt tərtibatçılarının fəaliyyətini məhdudlaşdırmalıdır. Müxtəlif ölkələrin hökumətləri bu cür hadisələrin inkişafında maraqlıdırlar.

“Tam hüquqlu süni intellektin inkişafı son ola bilər Insan irqiÜç il əvvəl fizik Stiven Hokinq demişdi.

Çində süni intellekt

2030-cu ilə qədər Çin 1 trilyon yuan (148 milyard dollar) bazar həcmi ilə dünya süni intellekt mərkəzinə çevrilmək niyyətindədir.

Çin hökuməti ölkədə müvafiq texnologiyaların inkişafı və tətbiqi üçün üç mərhələdən ibarət plan hazırlayıb və təsdiqləyib. Plana əsasən, 2020-ci ilə qədər süni intellektin inkişafına daxili investisiyalar 150 milyard yuan (22,14 milyard dollar), 2025-ci ilə qədər isə 400 milyard yuan (59 milyard dollar) təşkil edəcək. 2020-ci ilə qədər Çin bu sahədə ABŞ-ı tutmağı, 2030-cu ildə isə dünya lideri olmağı planlaşdırır.

Çin süni intellektin inkişafını iqtisadi və hərbi rəqabətlə əlaqələndirir. “Çin ətrafındakı vəziyyətlə əlaqədar Milli Təhlükəsizlik, mürəkkəbdir və biz özümüzü yeni süni intellekt texnologiyasında möhkəm qurmaq və rəqabət üstünlüyü yaratmaq üçün təşəbbüs göstərməliyik”, - Çin Xalq Respublikasının Dövlət Şurasının iyulun 20-də dərc olunmuş bəyanatında deyilir, news.eizvestia xəbər verir. com.

ABŞ süni intellektin inkişafı planını ötən ilin oktyabrında hazırlayıb. Kəşfiyyatın inkişafı sahəsində xarici investisiyalara ciddi nəzarəti nəzərdə tutur. Buna səbəb ABŞ-ın xarici ölkələrin (o cümlədən Çin) strateji hərbi əhəmiyyət kəsb edən texnologiyalara çıxış əldə edəcəyindən qorxması olub. Artıq Çinin Baidu və Tencent şirkətləri ABŞ-da süni intellekt tədqiqat mərkəzləri yaradır. Çin ən son proqram təminatı, qabaqcıl kompüter çipləri və səriştəli mütəxəssislər çatışmazlığını aradan qaldırmağa çalışır.

“LinkedIn” platformasında qeydiyyatdan keçmiş 250 min süni intellekt mütəxəssisinin 50%-i ABŞ-da yaşayır, Çinin payı 25%-dən azdır, forbes.ru yazır.

2016-cı ildə Çin süni intellekt sahəsində baş verən hadisələrə dair dərc olunan elmi məqalələrə görə dünya lideri olub (təxminən 40%).

Çinin baş naziri Li Keqiang Çində süni intellektin inkişafı ilə şəxsən maraqlanır. Maraq həqiqətəndir yüksək səviyyə New York Times yazır ki, dövlət dövlət və özəl firmalar, o cümlədən hərbi strukturlar arasında əməkdaşlıq üçün optimal şərait yaradacaq.

AI gələcəkdir

Əksər investorların fikrincə, süni intellekt dəyişən növbəti texnoloji inqilab olacaq gündəlik həyat və istehsal. Mayın əvvəlində Tractica analitik şirkəti süni intellekt texnologiyaları bazarının 2016-cı ildəki 1,38 milyard dollardan 2025-ci ilə qədər 59,75 milyard dollara qədər sürətlə artacağı proqnozlaşdırılan proqnozunu dərc edib. Bu halda söhbət yalnız süni intellektlə bağlı tədqiqat və inkişaflarla birbaşa məşğul olan şirkətlərdən gedir.

2016-cı il avqustun sonunda Facebook 9 Avropa ölkəsindən 15 dünya səviyyəli tədqiqat qrupunu əhatə edən Facebook Süni İntellekt Tərəfdaşlığı (FAIR) proqramını işə saldı. Proqram iştirakçıları 22 yüksək performanslı GPU əsaslı serverə çıxış əldə ediblər. Bunun müqabilində onlar iş zamanı əldə etdikləri nəticələri, alqoritmləri və digər məlumatları dərc etməlidirlər ki, onları dünya üzrə tədqiqatçılara təqdim etsinlər. Rusiyanı Moskva Fizika və Texnologiya İnstitutunun (MIPT) Sinir Sistemləri və Dərin Öyrənmə Laboratoriyası təmsil edib.

Lakin süni intellektin inkişafı üçün ölkədə yüksək məhsuldar hesablama texnologiyasının olması zəruridir. Superkompüterləri “Top 500” reytinqində ilk yerləri tutan ABŞ və Çindən fərqli olaraq, Moskva Dövlət Universitetində Rusiyanın “Lomonosov-2” kompüteri 52-ci yerdədir. Eyni zamanda, əksəriyyət rus universitetləri güclü hesablama serverlərinə və böyük verilənlərə çıxışı yoxdur.

Facebook-un baş direktoru Mark Zukerberq İlon Maskın süni intellektin inkişafının təhlükələri ilə bağlı xəbərdarlıqlarına cavab olaraq yeni texnologiyalar yalnız insanların həyatını yaxşılaşdıracaq. O, “dünyanın sonu” ruhunda hər cür çaxnaşma ifadələrini məsuliyyətsizlik adlandırıb.