Facebook o'zining sun'iy intellekt tizimini o'chirib qo'ydi: botlar o'z tilini ixtiro qildi. Facebook o'z tilida muloqot qila boshlagan sun'iy intellektni o'chirib qo'ydi Botlar o'z tillarini yaratdi

Facebook noma'lum tilda gapiradigan botlarni to'xtatdi

Nima desangiz ham, sun'iy intellektni nazoratdan chiqib ketish darajasiga qadar rivojlanish xavfi doimo odamlarni qo'rqitib kelgan. Agar odamlarni qo'rqitadigan surrogat bo'lsa, biz nima qilishimizni va to'liq AIni qanday boshqarishni tasavvur qiling.

Odamlar har doim nazorat va boshqaruvni saqlab qolishga intiladi, lekin "birov nima qilsa, boshqasi har doim sindirishi mumkin" deganidek. Har bir narsa juda ishonchli bo'lsa ham, har doim qo'rquv bo'ladi. Mask yaqinda Sukerberg bilan shu mavzuda bahslashdi: “Men signal berishda davom etaman, lekin odamlar ko‘chalarda yurib, odamlarni o‘ldiradigan robotlarni o‘zlari ko‘rmaguncha, ular [sun’iy intellektga] qanday munosabatda bo‘lishni bilmaydi”, dedi u.

Bu esa “jiringlovchi qo‘ng‘iroq” emasmi: odamlar bilan muzokaralar olib borish uchun yaratilgan chatbotlar nazoratdan chiqib, o‘z tilida muloqot qila boshladi.

Avvaliga ular bir-birlari bilan muloqot qilish uchun ingliz tilidan foydalanganlar, keyin esa yaratdilar yangi til, buni faqat AI tizimining o'zi tushunishi mumkin, bu ishning maqsadini buzadi.

Ishlab chiquvchilar ushbu nosozlikni aniqlaganidan keyin Facebook AIni to'xtatdi.

Chatbotlar o'rtasidagi suhbatdan parcha:

Bob: "Siz va boshqa hamma narsa."
Elis: "Tuxumda men uchun tuxum bor, men uchun men uchun men uchun."
Bob: "Men."
Elis: "To'plar men uchun men uchun men uchun men uchun men uchun men uchun men uchun men uchun men uchun men uchun nolga ega".
Bob: "Sen men, men, men hamma narsa."

Botlar mashinani o'rganish algoritmlariga ulangan va ular o'zlarining muloqot qobiliyatlarini rivojlantirishlari uchun bir-birlari bilan suhbatlashishlariga ruxsat berishgan. Ammo bir muncha vaqt o'tgach, ular so'z va iboralarni o'zgartira boshladilar, keyin esa bir qator iboralar va grammatik tuzilmalarni soddalashtirib, o'z tillarini butunlay ixtiro qildilar.

Mashinani o'rganishdan foydalangan holda, botlar suhbatdosh bilan muzokaralar natijasini yaxshilash uchun bir nechta strategiyalarni ham ishlab chiqdilar va ma'lum bir dialogning ahamiyatiga qarab, ularni o'zlari ixtiro qilgan bir qator so'zlar bilan birgalikda qo'llashni boshladilar. Xususan, ular suhbatning yolg'on maqsadini e'lon qilishdi, shundan keyingina undan voz kechish va go'yoki murosaga kelishdi.

Digital Journal tushuntirganidek, sun'iy intellekt tizimlari "mukofot" tamoyiliga tayanadi, ya'ni ular ma'lum bir "foyda" keltirishi sharti bilan harakat qilishda davom etadilar. Muayyan nuqtada ular operatorlardan ingliz tilidan foydalanishga undashmadi, shuning uchun ular o'zlarini yaratishga qaror qilishdi.

Tech Times’ning qayd etishicha, robotlarda dastlab til tanlashda hech qanday cheklovlar bo‘lmagan, shuning uchun ular asta-sekin ingliz tiliga qaraganda osonroq va tezroq muloqot qilishlari mumkin bo‘lgan o‘z tillarini yaratishgan.

Mutaxassislar, agar botlar o‘z tillarida faol muloqot qila boshlasa, ular asta-sekin mustaqil bo‘lib, IT-mutaxassislari nazoratidan tashqarida ishlay olishidan qo‘rqishadi. Bundan tashqari, hatto tajribali muhandislar ham botlarning fikrlash jarayonini to'liq nazorat qila olmaydi.

2016-yil mart oyida Microsoft chatboti insoniyatga nisbatan nafrat paydo bo‘lganidan keyin internet yulduziga aylandi. O'z-o'zini o'rganish dasturi foydalanuvchilar bilan "Odamlar juda zo'r" iborasi bilan muloqot qila boshladi, ammo atigi 24 soat ichida u "Men hammadan nafratlanaman!", "Men feministlardan nafratlanaman" yoki "Men yahudiylarni yomon ko'raman" kabi iboralarni o'rgandi. Natijada kompaniya xodimlari botni vaqtincha o‘chirib qo‘yishga majbur bo‘ldi.

Sun'iydan tarjima

O‘tgan yilning kuzida Google internet qidiruv tizimi Google Translate onlayn tarjimoni ishini yaxshilash uchun o‘zining sun’iy intellekt tizimini yaratgani ma’lum bo‘ldi.

Yangi tizim butun iborani tarjima qilish imkonini beradi, holbuki, ilgari tarjimon barcha jumlalarni alohida so‘z va iboralarga ajratgan, bu esa tarjima sifatini pasaytirgan.

Butun jumlani tarjima qilish uchun, yangi tizim Google o'z tilini ixtiro qildi, bu unga tarjima qilish kerak bo'lgan ikki til o'rtasida tezroq va aniqroq harakat qilish imkonini beradi.
Mutaxassislar allaqachon onlayn-tarjimon xizmatlarining jadal rivojlanishi bilan jonli tarjimonlarning ishiga talab kamroq va kamayishi mumkinligi haqida ogohlantirmoqda.

Biroq, hozirgacha bu tizimlar asosan kichik va oddiy matnlar uchun yuqori sifatli natijalar beradi.

Sizningcha, masalan, klonlash haqida signal berishga hali ertami? Yoki hamma narsa o'z-o'zidan rivojlansinmi?

Tizim dastlab real odamlar bilan muloqot qilish uchun yaratilgan chatbotlardan foydalanadi, lekin asta-sekin bir-biri bilan muloqot qila boshladi.

Avvaliga ular muloqot qilishdi Ingliz tili, lekin bir nuqtada ular dasturni ishlab chiqish jarayonida o'zlari yaratgan tilda yozisha boshladilar.

Amerika ommaviy axborot vositalarida virtual suhbatdoshlar o'rtasidagi "dialoglar" dan parchalar paydo bo'ldi [imlo va tinish belgilari saqlangan].

Bob: Men qila olamanmumkinIIqolgan hammasi.

Elis: To'plar men uchun men uchun men uchun men uchun men uchun nolga ega.

"Eng katta tahdid"

Bir necha kun oldin Facebook bosh direktori Mark Sukerberg va SpaceX, Tesla va PayPal asoschisi Ilon Mask sun'iy intellekt haqida bahslashdi.

Mask AQSh hukumatini sun'iy intellekt tizimlarini tartibga solishni kuchaytirishga chaqirib, sun'iy intellekt insoniyat uchun xavf tug'dirishidan ogohlantirdi. Britaniyalik olim Stiven Xoking avvalroq sun'iy intellektning ehtimoliy tahdidi haqida gapirgan edi.

Amerika Qo'shma Shtatlari Milliy Gubernatorlar Assotsiatsiyasi sammitida so'zlagan Mask sun'iy intellektni "tsivilizatsiya oldida turgan eng katta tahdid" deb atadi. Uning so'zlariga ko'ra, agar siz ushbu tizimlarning rivojlanishiga o'z vaqtida aralashmasangiz, juda kech bo'ladi.

"Men signal berishda davom etaman, lekin odamlar ko'chalarda yurgan va odamlarni o'ldirayotgan robotlarni ko'rmaguncha, ular [sun'iy intellektga] qanday munosabatda bo'lishni bilishmaydi", dedi u.

Maskning bayonotlari Facebook asoschisi Mark Sukerbergni g'azablantirdi, u ularni "juda mas'uliyatsiz" deb atadi.

"Yaqin besh-o'n yil ichida sun'iy intellekt hayotni faqat yaxshilaydi", deb javob qaytardi Sukerberg.

Sun'iydan tarjima

O‘tgan yilning kuzida Google internet qidiruv tizimi Google Translate onlayn tarjimoni ishini yaxshilash uchun o‘zining sun’iy intellekt tizimini yaratgani ma’lum bo‘ldi.

Yangi tizim butun iborani tarjima qilish imkonini beradi, holbuki, ilgari tarjimon barcha jumlalarni alohida so‘z va iboralarga ajratgan, bu esa tarjima sifatini pasaytirgan.

Butun jumlani tarjima qilish uchun Google-ning yangi tizimi o'z tilini ixtiro qildi, bu unga tarjima qilish kerak bo'lgan ikki til o'rtasida tezroq va aniqroq harakat qilish imkonini beradi.

Mutaxassislar allaqachon onlayn-tarjimon xizmatlarining jadal rivojlanishi bilan jonli tarjimonlarning ishiga talab kamroq va kamayishi mumkinligi haqida ogohlantirmoqda.

Biroq, hozirgacha bu tizimlar asosan kichik va oddiy matnlar uchun yuqori sifatli natijalar beradi.

Facebook ijtimoiy tarmog‘i rahbariyati mashinalar odamlar tushunmaydigan o‘z, mavjud bo‘lmagan tilda muloqot qila boshlaganidan so‘ng, sun’iy intellekt tizimini o‘chirishga majbur bo‘ldi, deb yozadi BBC Rus xizmati.

Tizim dastlab real odamlar bilan muloqot qilish uchun yaratilgan chatbotlardan foydalanadi, lekin asta-sekin bir-biri bilan muloqot qila boshladi.

Avvaliga ular ingliz tilida muloqot qilishdi, lekin bir nuqtada ular dasturni ishlab chiqish jarayonida o'zlari yaratgan tilda yozisha boshladilar.

Amerika ommaviy axborot vositalarida virtual suhbatdoshlar o'rtasidagi "dialoglar" dan parchalar paydo bo'ldi [imlo va tinish belgilari saqlangan].

Bob: Men hamma narsani qila olaman.

Elis: To'plar men uchun men uchun men uchun men uchun men uchun nolga ega.

Digital Journal tushuntirganidek, ular "rag'batlantirish" tamoyiliga tayanadilar, ya'ni ular ma'lum bir "foyda" keltirishi sharti bilan harakat qilishda davom etadilar. Muayyan nuqtada ular operatorlardan ingliz tilidan foydalanishga undashmadi, shuning uchun ular o'zlarini yaratishga qaror qilishdi.

Eslatib o'tamiz, bir necha kun oldin Facebook rahbari Mark Sukerberg hamda SpaceX, Tesla va PayPal asoschisi Ilon Mask sun'iy intellekt haqida bahslashgan edi.

Dasturchilar bir-biri bilan muloqot qilish uchun dasturlashtirilgan botlar odamlarga tushunarsiz bo‘lgan o‘z tillarida muloqot qila boshlaganini aniqlaganidan so‘ng, Facebook o‘zining sun’iy intellekt tizimlaridan birini yopishga majbur bo‘ldi, deb yozadi TechTimes.

Dastlab, botlar ingliz tilida muloqot qilishdi, lekin ular bu bilan cheklanib qolmadi va o'z tillarini yaratdilar, buning yordamida ular uchun ma'lumot almashish osonroq va tezroq bo'lgan. Yaratilgan sun'iy tildan iborat ko'rinadi Inglizcha so'zlar, lekin boshqa grammatik tuzilishga ega.

Bob: Men hamma narsani qila olaman. . . . . . . . . . . . . .

Bob: sen men boshqa hamma narsaman. . . . . . . . . . . . . .

Bob: Men qila olaman i i i i i hammasi. . . . . . . . . . . . . .
Elis: to'plar menga to'p bor menga menga menga menga menga menga
Bob: i. . . . . . . . . . . . . . . . . . .
Elis: to'plar nol bor menga menga menga menga menga menga menga menga menga
Bob: sen i i i i hammasi. . . . . . . . . . . . . .
Elis: to'plar bor 0 menga menga menga menga menga menga menga menga menga
Bob: siz i i i men qolgan hamma narsa. . . . . . . . . . . . . .
Elis: to'plar nol bor menga menga menga menga menga menga menga menga menga

Insonga bema'ni tuyuladigan yuqoridagi iboralar ikki bot o'rtasidagi muloqotga misol bo'la oladi. Qisqacha tahlil Ushbu bot suhbatini Pensilvaniya universitetining tilshunoslik professorlaridan biri olib bordi. Uning ta'kidlashicha, ushbu misolda Elis bir xil iborani qayta-qayta takrorlaydi (aslida, bu mutlaqo to'g'ri emas, chunki so'zlardan biri almashtirilgan: nol / to'p / 0). Biroq, "menga" iborasini qayta-qayta takrorlashning ma'nosi mutlaqo tushunarsiz (garchi u ikkilik kodga o'xshaydi, Bob ishlatadigan "i" ning takroriy takrorlanishi kabi). Shu bilan birga, Bob har safar boshqacha javob beradi, bu Elisning har bir iborasi uning uchun o'ziga xos ma'noga ega ekanligini ko'rsatishi mumkin.

Biroq, bu suhbat haqiqatan ham bema'nilik ekanligini va "sun'iy bot tili"ning o'zi dasturlash xatolari natijasida olinganligini istisno qilib bo'lmaydi. Boshqacha qilib aytganda, botlar bir-birini tushunib, hech qanday tilda umuman muloqot qilmasligi, shunchaki ma’nosiz inglizcha so‘zlarni almashishi mumkin.

Botlarning muloqoti tushunarsiz bo‘lib qolgani uchun nazoratdan chiqib ketganini aniqlab, Facebook sun’iy intellekt tizimini o‘chirishga qaror qildi, shundan so‘ng uni qayta dasturlashtirib, faqat ingliz tilida muloqot qilish imkoniyatini chekladi.

Shu munosabat bilan shuni ta'kidlash mumkinki, iyul oyi o'rtalarida SpaceX va Tesla asoschisi Ilon Mask sun'iy intellektni "insoniyat uchun fundamental tahdid" deb hisobladi. Maskning so‘zlariga ko‘ra, asosiy xavf internetga sun’iy intellekt texnologiyalarini joriy etishdan kelib chiqadi.

“Robotlar soxta yangiliklar va press-relizlar chiqarish, elektron pochta akkauntlarini soxtalashtirish va maʼlumotlarni manipulyatsiya qilish orqali urush boshlashi mumkin”, dedi Mask.

Facebook ijtimoiy tarmog'i dasturchilari botlarning muloqot qilish uchun o'z tilini yaratishi tufayli sun'iy intellekt tizimlaridan birini o'chirib qo'yishdi. odamlarga tushunarsiz. Avvalroq mutaxassislar sun’iy intellektni ishlab chiqishda odamlar duch kelishi mumkin bo‘lgan xavflar haqida bir necha bor ogohlantirgan edi, deb yozadi Tech Times. Ayni paytda Xitoy bu yo‘nalishda jahon yetakchisiga aylanish niyatida.

Botlar ingliz tilida emas, balki o‘z tilida muloqot qila boshlaganidan so‘ng, Facebook sun’iy intellektli chatbotlarni o‘chirib qo‘yishga majbur bo‘ldi. Dasturchilar tizimning bir qismini o'chirib qo'yishdi va boshqa botlarni ularning muloqoti faqat ingliz tilida bo'lishi uchun qayta dasturlashdi. Botlar tezroq ma'lumot almashish uchun o'z tillarini yaratdilar.

Bu chatbotlar o‘z yaratuvchilari tomonidan o‘rnatilgan qoidalarni birinchi marta buzishi emas. Shunday qilib, bir necha oy oldin Microsoft boti o'rnatishlarni chetlab o'tib, ochiq irqchilik g'oyalarini va giyohvand moddalarni ma'qullashni boshladi.

SpaceX va Tesla asoschisi Ilon Mask avvalroq sun'iy intellekt rivojlanishi xavfi haqida ogohlantirgan edi. Uning fikricha, davlat tomonidan tartibga solish sun'iy intellektni ishlab chiquvchilar faoliyatini cheklashi kerak. Turli mamlakatlar hukumatlari bunday voqealardan manfaatdor.

"To'liq huquqli sun'iy intellektning rivojlanishi oxirini anglatishi mumkin inson zoti", - dedi fizik Stiven Xoking uch yil oldin.

Xitoyda sun'iy intellekt

2030-yilga borib Xitoy 1 trillion yuan (148 milliard dollar) bozor hajmiga ega bo‘lgan sun’iy intellektning jahon markaziga aylanish niyatida.

Xitoy hukumati mamlakatda tegishli texnologiyalarni ishlab chiqish va joriy etishning uch bosqichli rejasini ishlab chiqdi va tasdiqladi. Rejaga ko'ra, 2020 yilga borib sun'iy intellektni rivojlantirishga yo'naltirilgan ichki sarmoya 150 milliard yuanni (22,14 milliard dollar), 2025 yilga kelib esa 400 milliard yuanni (59 milliard dollar) tashkil etadi. 2020-yilga borib Xitoy bu borada AQShga yetib borishni, 2030-yilga kelib esa jahon yetakchisiga aylanishni rejalashtirmoqda.

Xitoy sun'iy intellektning rivojlanishini iqtisodiy va harbiy raqobat bilan bog'laydi. “Xitoy atrofidagi vaziyat bilan bog'liq milliy xavfsizlik, murakkab va biz yangi sun’iy intellekt texnologiyasida o‘zimizni mustahkam o‘rnatish va raqobatdosh ustunlikni yaratish uchun tashabbus ko‘rsatishimiz kerak”, — deyiladi Xitoy Xalq Respublikasi Davlat kengashining 20-iyul kuni e’lon qilingan bayonotida, deb yozadi “news.eizvestia”. com.

Qo'shma Shtatlar sun'iy intellektni rivojlantirish bo'yicha o'z rejasini o'tgan yilning oktyabr oyida ishlab chiqqan edi. U razvedka faoliyatini rivojlantirish sohasida xorijiy sarmoyalarni qattiq nazorat qilishni nazarda tutadi. Bunga AQShning xorijiy davlatlar (jumladan, Xitoy) strategik harbiy ahamiyatga ega bo'lgan texnologiyalardan foydalanish imkoniyatiga ega bo'lishidan qo'rqishi sabab bo'lgan. Xitoyning Baidu va Tencent kompaniyalari allaqachon AQShda sun'iy intellekt bo'yicha tadqiqot markazlarini yaratishmoqda. Xitoy eng yangi dasturiy ta'minot, ilg'or kompyuter chiplari va malakali mutaxassislar etishmasligini bartaraf etishga intilmoqda.

LinkedIn platformasida ro‘yxatdan o‘tgan 250 ming sun’iy intellekt mutaxassislarining 50 foizi AQShda istiqomat qiladi, Xitoyning ulushi 25 foizdan kam, deb yozadi forbes.ru.

2016-yilda Xitoy sun’iy intellekt sohasidagi ishlanmalar bo‘yicha chop etilgan ilmiy maqolalar bo‘yicha jahon yetakchisiga aylandi (taxminan 40%).

Xitoy bosh vaziri Li Ketsyan Xitoyda sun'iy intellektning rivojlanishidan shaxsan manfaatdor. Qiziqish haqiqatan ham yuqori daraja davlat davlat va xususiy firmalar, jumladan, harbiy tuzilmalar o‘rtasida hamkorlik qilish uchun maqbul shart-sharoitlar yaratishni taklif qiladi, deb yozadi New York Times.

AI - bu kelajak

Aksariyat investorlarning fikriga ko'ra, sun'iy intellekt o'zgaruvchan navbatdagi texnologik inqilob bo'ladi kundalik hayot va ishlab chiqarish. May oyi boshida Tractica analitik kompaniyasi prognozini e'lon qildi, unga ko'ra sun'iy intellekt texnologiyalari jahon bozori 2016 yildagi 1,38 milliard dollardan 2025 yilga kelib 59,75 milliard dollargacha tez o'sishi kutilmoqda. Bu holatda, biz faqat sun'iy intellekt bilan bog'liq tadqiqot va ishlanmalar bilan bevosita shug'ullanadigan kompaniyalar haqida gapiramiz.

2016-yil avgust oyi oxirida Facebook Facebook sunʼiy intellekt boʻyicha hamkorlik (FAIR) dasturini ishga tushirdi, unga Yevropaning 9 mamlakatidan 15 ta jahon darajasidagi tadqiqot guruhi kiradi. Dastur ishtirokchilari 22 ta yuqori unumli GPU-ga asoslangan serverlarga kirish huquqiga ega bo'ldilar. Buning evaziga ular ish davomida olingan natijalar, algoritmlar va boshqa ma’lumotlarni dunyo bo‘ylab tadqiqotchilarga taqdim etish uchun nashr etishlari kerak. Rossiya tomonidan Moskva fizika-texnika institutining (MIPT) Neyron tizimlar va chuqur o'rganish laboratoriyasi ishtirok etdi.

Biroq, sun'iy intellektni rivojlantirish uchun mamlakatda yuqori unumdor hisoblash texnologiyalari bo'lishi kerak. Superkompyuterlari Top 500 reytingida birinchi o'rinlarni egallagan AQSh va Xitoydan farqli o'laroq, Moskva davlat universitetidagi ruslarning Lomonosov-2 kompyuteri 52-o'rinda. Shu bilan birga, ko'pchilik Rossiya universitetlari kuchli hisoblash serverlari va katta ma'lumotlarga kirish imkoniga ega emas.

Yangi texnologiyalar faqat odamlar hayotini yaxshilaydi, dedi Facebook rahbari Mark Sukerberg Ilon Maskning sun'iy intellekt rivojlanishining xavf-xatarlari haqidagi ogohlantirishlariga javoban. U "dunyoning oxiri" ruhidagi vahima qo'zg'atuvchi har xil bayonotlarni mas'uliyatsizlik deb atadi.