Фејсбук го оневозможи својот систем за вештачка интелигенција: ботови измислија свој јазик. Фејсбук ја оневозможи вештачката интелигенција, која почна да комуницира на свој јазик Ботови создадоа свој јазик

Фејсбук запре ботови кои зборуваа на непознат јазик

Што и да кажете, опасноста од развивање на вештачка интелигенција до степен да излезе од контрола отсекогаш ги плашела луѓето. Замислете што ќе правиме и како да контролираме полноправна вештачка интелигенција, ако има некаков сурогат што ги плаши луѓето.

Луѓето секогаш ќе се стремат да ја задржат контролата и управувањето, но како што вели поговорката, „она што некој го прави, другиот секогаш може да го скрши“. Дури и ако сè е супер доверливо, секогаш ќе има страв. Маск неодамна се расправаше со Закерберг на оваа тема: „Продолжувам да алармувам, но додека луѓето сами не видат роботи кои шетаат по улиците и убиваат луѓе, нема да знаат како да реагираат [на вештачката интелигенција]“, рече тој.

И зарем ова не е „ѕвонче што ѕвони“: четботите, создадени за да преговараат со луѓето, излегоа од контрола и почнаа да комуницираат на нивниот јазик.

Отпрвин користеле англиски за да комуницираат меѓу себе, но потоа создавале нов јазик, што само самиот систем на вештачка интелигенција можеше да го разбере, поразувајќи ја целта на работата.

Фејсбук ја суспендираше вештачката интелигенција откако програмерите ја открија оваа грешка.

Еве извадок од разговор помеѓу чет-ботови:

Боб: „Ти и сè друго“.
Алис: „Јајцата имаат јајца за мене за мене, за мене за мене“.
Боб: „Јас сум“.
Алиса: „Топките имаат нула за мене за мене за мене за мене за мене за мене за мене за мене за мене“.
Боб: „Ти јас, јас и сè друго“.

Ботови беа поврзани со алгоритми за машинско учење и им беше дозволено да разговараат едни со други за да можат да ги усовршат своите комуникациски вештини. Но, по некое време, тие почнаа да ги менуваат зборовите и фразите, а потоа целосно го измислија својот јазик, поедноставувајќи голем број изрази и граматички структури.

Користејќи машинско учење, ботовите развија и неколку стратегии за подобрување на исходот од преговорите со соговорникот и почнаа да ги користат во комбинација со голем број зборови што ги измислиле, во зависност од важноста на одреден дијалог. Конкретно, прокламирале лажна цел на разговорот, за потоа да ја напуштат и наводно да дојдат до компромис.

Како што објаснува Digital Journal, системите за вештачка интелигенција се потпираат на принципот на „награда“, односно продолжуваат да дејствуваат под услов тоа да им донесе одредена „придобивка“. Во одреден момент, тие не добија поттик од операторите да користат англиски јазик, па решија да создадат свој.

Tech Times забележува дека роботите на почетокот немале ограничувања во изборот на јазик, па постепено создале свој јазик на кој полесно и побрзо можат да комуницираат отколку на англиски.

Експертите стравуваат дека ако ботови почнат активно да комуницираат на својот јазик, тие постепено ќе станат понезависни и ќе можат да функционираат надвор од контролата на ИТ специјалистите. Покрај тоа, дури и искусни инженери не можат целосно да го следат процесот на размислување на ботови.

Во март 2016 година, четбот на Мајкрософт стана интернет ѕвезда откако разви омраза кон човештвото. Програмата за самостојно учење започна да комуницира со корисниците со фразата „Луѓето се многу кул“, но за само 24 часа научи изрази како „Едноставно мразам сите!“, „Мразам феминистки“ или „Ги мразам Евреите“. Како резултат на тоа, вработените во компанијата мораа привремено да го оневозможат ботот.

Превод од вештачки

Минатата есен се дозна дека интернет пребарувачот Гугл создал сопствен систем за вештачка интелигенција за да ја подобри работата на онлајн преведувачот Гугл транслејт.

Новиот систем ви овозможува да ја преведете целата фраза, додека претходно преведувачот ги разделуваше сите реченици на поединечни зборови и фрази, што го намали квалитетот на преводот.

За да ја преведете целата реченица, нов систем Google измисли свој јазик кој му овозможува побрзо и попрецизно навигација помеѓу двата јазика од или на кои треба да преведува.
Експертите веќе предупредуваат дека со брзиот развој на онлајн преведувачките услуги, работата на преведувачите во живо може да биде сè помалку барана.

Сепак, досега овие системи произведуваат висококвалитетни резултати главно за мали и едноставни текстови.

Дали мислите дека е премногу рано да се алармира за клонирање, на пример? Или нека се развива само по себе?

Системот користи чет-ботови, кои првично беа создадени за комуникација со вистински луѓе, но постепено почнаа да комуницираат едни со други.

Отпрвин тие комуницираа на Англиски јазик, но во одреден момент тие почнаа да се допишуваат на јазик што самите го создадоа во текот на развојот на програмата.

Во американските медиуми се појавија извадоци од „дијалозите“ меѓу виртуелните соговорници [зачувани правописот и интерпункцијата].

Боб: МожамМожеЈасЈассите останати.

Алиса: Топките имаат нула за мене за мене за мене за мене за мене.

„Најголема закана“

Пред неколку дена, извршниот директор на Facebook, Марк Закерберг и основачот на SpaceX, Tesla и PayPal, Илон Маск, се расправаа за вештачката интелигенција.

Маск ги повика американските власти да ја зајакнат регулацијата на системите за вештачка интелигенција, предупредувајќи дека вештачката интелигенција претставува закана за човештвото. Британскиот научник Стивен Хокинг претходно зборуваше за потенцијалната закана од вештачката интелигенција.

Говорејќи на самитот на Националната асоцијација на гувернери на САД, Маск ја нарече вештачката интелигенција „најголемата закана со која се соочува цивилизацијата“. Според него, доколку навреме не се интервенира во развојот на овие системи, ќе биде предоцна.

„Постојано алармувам, но додека луѓето не видат роботи кои шетаат по улиците и убиваат луѓе, нема да знаат како да реагираат [на вештачката интелигенција]“, рече тој.

Изјавите на Маск го иритираа основачот на Фејсбук, Марк Закерберг, кој ги нарече „прилично неодговорни“.

„Во следните пет или десет години, вештачката интелигенција само ќе го подобри животот“, возврати Закерберг.

Превод од вештачки

Со цел да се преведе цела реченица, новиот систем на Google измисли свој јазик, кој му овозможува побрзо и попрецизно да се движи помеѓу двата јазици од кои треба да преведува.

Експертите веќе предупредуваат дека со брзиот развој на онлајн преведувачките услуги, работата на преведувачите во живо може да биде сè помалку барана.

Сепак, досега овие системи произведуваат висококвалитетни резултати главно за мали и едноставни текстови.

Раководството на социјалната мрежа Фејсбук беше принудено да го исклучи својот систем за вештачка интелигенција откако машините почнаа да комуницираат на свој, непостоечки јазик, кој луѓето не го разбираа, пишува руската служба на Би-Би-Си.

Отпрвин комуницираа на англиски, но во одреден момент почнаа да се допишуваат на јазик што самите го создадоа во процесот на развивање на програмата.

Боб: Можам се друго.

Алиса: Топките имаат нула за мене за мене за мене за мене за мене.

Како што објаснува Digital Journal, тие се потпираат на принципот на „охрабрување“, односно продолжуваат да дејствуваат под услов тоа да им донесе одредена „придобивка“. Во одреден момент, тие не добија поттик од операторите да користат англиски јазик, па решија да создадат свој.

Да потсетиме дека пред неколку дена шефот на Facebook, Марк Закерберг и основачот на SpaceX, Tesla и PayPal, Илон Маск се расправаа за вештачката интелигенција.

Фејсбук беше принуден да затвори еден од своите системи за вештачка интелигенција откако програмерите открија дека ботови програмирани да комуницираат меѓу себе почнале да комуницираат на нивниот јазик, неразбирлив за луѓето, пишува TechTimes.

Првично, ботовите комуницираа на англиски, но не беа ограничени на тоа и создадоа свој јазик, со чија помош очигледно им беше полесно и побрзо да разменуваат информации. Изгледа дека создадениот вештачки јазик се состои од Англиски зборови, но има различна граматичка структура.

Боб: Можам и сè друго. . . . . . . . . . . . . .

Боб: ти јас сè друго. . . . . . . . . . . . . .

Боб: Можам и сè друго. . . . . . . . . . . . . .
Алиса: топките имаат топка за мене за мене за мене за мене за мене за мене за мене
Боб: јас. . . . . . . . . . . . . . . . . . .
Алиса: топките имаат нула за мене за мене за мене за мене за мене за за мене за за мене за мене
Боб: ти и јас и сè друго. . . . . . . . . . . . . .
Алиса: топките имаат 0 за мене за мене за мене за мене за за мене за за мене за за мене
Боб: ти и јас и сè друго. . . . . . . . . . . . . .
Алиса: топките имаат нула за мене за мене за мене за мене за мене за за мене за за мене за мене

Горенаведените фрази, кои на човекот му изгледаат бесмислици, се пример за комуникација помеѓу два бота. Кратка анализаОвој бот разговор го водел еден од професорите по лингвистика на Универзитетот во Пенсилванија. Тој забележува дека во овој пример, Алис постојано ја повторува истата фраза (всушност, ова не е целосно точно, бидејќи еден од зборовите е заменет: нула / топка / 0). Сепак, значењето на повторување на фразата „на мене“ одново и одново е целосно нејасно (иако тоа наликува на бинарен код, како повтореното повторување на „i“ што го користи Боб). Во исто време, Боб секој пат одговара поинаку, што може да укаже дека секоја фраза на Алис има свое значење за него.

Сепак, не може да се исклучи дека целиот овој разговор е навистина глупост, а самиот „вештачки јазик на бот“ е добиен како резултат на програмски грешки. Со други зборови, можно е ботови да не комуницираат на ниту еден јазик, разбирајќи се едни со други, туку едноставно да разменуваат бесмислени групи англиски зборови.

Откако откри дека комуникацијата на ботовите излегла од контрола бидејќи станала неразбирлива, Фејсбук одлучил да го оневозможи системот за вештачка интелигенција, по што го репрограмирал, ограничувајќи ја можноста за комуникација само на англиски јазик.

Во овој поглед, може да се забележи дека во средината на јули, основачот на SpaceX и Tesla, Илон Маск, ја сметаше вештачката интелигенција „фундаментална закана за човештвото“. Според Маск, главната опасност доаѓа од воведувањето на технологии за вештачка интелигенција на Интернет.

„Роботите можат да започнат војна со издавање лажни вести и соопштенија за печатот, лажирање на е-пошта и манипулирање со информации“, рече Маск.

Програмерите на социјалната мрежа Фејсбук оневозможија еден од системите за вештачка интелигенција поради создавање на сопствен јазик за комуникација на ботови, несфатливо за луѓето. Претходно, експертите постојано предупредуваа за ризиците со кои ќе се соочат луѓето кога развиваат вештачка интелигенција, пишува Tech Times. Во меѓувреме, Кина има намера да стане светски лидер во оваа насока.

Фејсбук беше принуден да ги оневозможи четботите со вештачка интелигенција откако ботови почнаа да комуницираат на нивниот јазик, а не на англиски. Програмерите оневозможија дел од системот и репрограмираа други ботови така што нивната комуникација се одвива само на англиски јазик. Ботови создадоа свој јазик за побрза размена на информации.

Ова не е прв пат четботите да ги прекршуваат правилата утврдени од нивните креатори. Така, пред неколку месеци, бот на Мајкрософт ги заобиколи инсталациите и почна да емитува отворено расистички идеи и да одобрува дрога.

Илон Маск, основачот на SpaceX и Tesla, претходно предупреди за ризикот од развој на вештачка интелигенција. Тој смета дека владината регулатива треба да ги ограничи активностите на развивачите на вештачка интелигенција. Владите на различни земји се заинтересирани за ваквиот развој на настаните.

„Развојот на полноправна вештачка интелигенција може да значи крај човечката раса“, рече физичарот Стивен Хокинг пред три години.

Вештачка интелигенција во Кина

До 2030 година Кина има намера да стане светски центар на вештачката интелигенција со пазарна големина од 1 трилион јуани (148 милијарди долари).

Кинеската влада разви и одобри план во три фази за развој и имплементација на релевантни технологии во земјата. Според планот, до 2020 година домашните инвестиции во развојот на вештачката интелигенција ќе изнесуваат 150 милијарди јуани (22,14 милијарди долари), а до 2025 година - 400 милијарди јуани (59 милијарди долари). До 2020 година Кина планира да ги достигне САД во оваа област, а до 2030 година да стане светски лидер.

Кина го поврзува развојот на вештачката интелигенција со економската и воената конкуренција. „Ситуацијата околу Кина поврзана со Национално обезбедување, е комплексен и мораме да преземеме иницијатива цврсто да се етаблираме во новата технологија за вештачка интелигенција и да создадеме конкурентна предност“, се вели во соопштението на Државниот совет на Народна Република Кина објавено на 20 јули, пренесува news.eizvestia. com.

Соединетите Држави го развија својот план за развој на вештачка интелигенција во октомври минатата година. Таа предвидува строга контрола врз странските инвестиции во областа на разузнавачкиот развој. Причината за тоа беа стравувањата на САД дека странските земји (вклучувајќи ја и Кина) ќе добијат пристап до технологии од стратешко воено значење. Веќе кинеските компании Baidu и Tencent создаваат истражувачки центри за вештачка интелигенција во САД. Кина се стреми да го елиминира недостатокот на најнов софтвер, напредни компјутерски чипови и компетентни специјалисти.

Од 250.000 професионалци за вештачка интелигенција регистрирани на платформата LinkedIn, 50% живеат во САД, уделот на Кина е помалку од 25%, пишува forbes.ru.

Во 2016 година, Кина стана светски лидер во објавените научни написи за развојот во областа на вештачката интелигенција (околу 40%).

Кинескиот премиер Ли Кечијанг е лично заинтересиран за развојот на вештачката интелигенција во Кина. Интересот е навистина високо нивосугерира дека државата ќе создаде оптимални услови за соработка меѓу јавните и приватните фирми, вклучително и воените структури, пишува Њујорк Тајмс.

ВИ е иднината

Според повеќето инвеститори, вештачката интелигенција ќе биде следната технолошка револуција која се менува дневен животи производство. На почетокот на мај, аналитичката компанија Tractica објави прогноза според која се очекува глобалниот пазар на технологии за вештачка интелигенција брзо да расте од 1,38 милијарди долари во 2016 година на 59,75 милијарди долари до 2025 година. Во овој случај, станува збор само за компании директно вклучени во истражување и развој поврзани со вештачката интелигенција.

На крајот на август 2016 година, Фејсбук ја лансираше програмата за партнерство за вештачка интелигенција на Фејсбук (FAIR), во која беа вклучени 15 истражувачки групи од светска класа од 9 европски земји. Учесниците на програмата добија пристап до 22 сервери базирани на графички процесор со високи перформанси. За возврат, тие мора да ги објават резултатите, алгоритмите и другите информации добиени во текот на работата за да ги направат достапни за истражувачите ширум светот. Русија беше претставена од Лабораторијата за невронски системи и длабоко учење на Московскиот институт за физика и технологија (МИПТ).

Сепак, за развој на вештачката интелигенција, неопходно е да има компјутерска технологија со високи перформанси во земјата. За разлика од САД и Кина, чии суперкомпјутери ги заземаат првите места на рангирањето Топ 500, рускиот компјутер Ломоносов-2 на Московскиот државен универзитет е на 52 место. Во исто време, мнозинството руски универзитетинема пристап до моќни компјутерски сервери и големи податоци.

Новите технологии само ќе го подобрат животот на луѓето, изјави извршниот директор на Фејсбук, Марк Закерберг, како одговор на предупредувањата на Илон Маск за опасностите од развојот на вештачката интелигенција. Тој ги нарече неодговорни секакви панични изјави во духот на „крајот на светот“.