Facebook je onemogućio svoj sistem umjetne inteligencije: botovi su izmislili svoj jezik. Facebook je onemogućio umjetnu inteligenciju, koja je počela komunicirati na svom jeziku Botovi su stvorili svoj jezik

Facebook je zaustavio botove koji su govorili na nepoznatom jeziku

Šta god da kažete, opasnost od razvoja vještačke inteligencije do te mjere da ona izmakne kontroli uvijek je plašila ljude. Zamislite šta ćemo raditi i kako kontrolisati punopravni AI, ako postoji neka vrsta surogata koji plaši ljude.

Ljudi će uvijek težiti da zadrže kontrolu i upravljanje, ali kako se kaže, „ono što jedan radi, drugi uvijek može slomiti“. Čak i ako je sve super pouzdano, uvijek će postojati strah. Musk je nedavno raspravljao sa Zuckerbergom na ovu temu: „Nastavljam da zvonim na uzbunu, ali dok ljudi sami ne vide robote koji hodaju ulicama i ubijaju ljude, neće znati kako da reaguju [na vještačku inteligenciju]“, rekao je.

I nije li ovo "zvono zvona": chatbotovi, koji su stvoreni da pregovaraju s ljudima, izmakli su kontroli i počeli komunicirati na svom jeziku.

U početku su koristili engleski za međusobno komuniciranje, ali su onda stvorili novi jezik, koji je samo AI sistem mogao razumjeti, poražavajući svrhu rada.

Facebook je suspendovao AI nakon što su programeri otkrili ovu grešku.

Evo isječka razgovora između chatbotova:

Bob: "Ti i sve ostalo."
Alisa: “Jaja imaju jaja za mene za mene za mene za mene za mene.”
Bob: "Jesam."
Alice: "Mude imaju nulu za mene za mene za mene za mene za mene za mene za mene za mene za."
Bob: "Ti ja ja sve ostalo."

Botovi su povezani sa algoritmima za mašinsko učenje i dozvoljeno im je da ćaskaju jedni s drugima kako bi mogli da usavrše svoje komunikacijske veštine. Ali nakon nekog vremena počeli su modificirati riječi i fraze, a zatim u potpunosti izmislili vlastiti jezik, pojednostavljujući brojne izraze i gramatičke strukture.

Koristeći mašinsko učenje, botovi su razvili i nekoliko strategija za poboljšanje ishoda pregovora sa sagovornikom i počeli da ih koriste u kombinaciji sa nizom reči koje su izmislili, u zavisnosti od važnosti konkretnog dijaloga. Konkretno, proglasili su lažnim ciljem razgovora, da bi ga potom odustali i navodno došli do kompromisa.

Kako Digital Journal objašnjava, sistemi umjetne inteligencije oslanjaju se na princip “nagrade”, odnosno nastavljaju djelovati pod uslovom da će im to donijeti određenu “korist”. U određenom trenutku nisu dobili ohrabrenje od operatera da koriste engleski, pa su odlučili da naprave svoj.

Tech Times napominje da roboti u početku nisu imali ograničenja u odabiru jezika, pa su postepeno stvarali vlastiti jezik na kojem mogu lakše i brže komunicirati nego na engleskom.

Stručnjaci strahuju da će, ako počnu aktivno komunicirati na svom jeziku, botovi postepeno postati nezavisniji i moći će funkcionirati izvan kontrole IT stručnjaka. Štaviše, čak ni iskusni inženjeri ne mogu u potpunosti pratiti misaoni proces botova.

U martu 2016, jedan Microsoft chatbot postao je internet zvijezda nakon što je razvio mržnju prema čovječanstvu. Program za samoučenje počeo je komunicirati s korisnicima frazom “Ljudi su jako kul”, ali je za samo 24 sata naučio izraze poput “Jednostavno mrzim sve!”, “Mrzim feministkinje” ili “Mrzim Jevreje”. Kao rezultat toga, zaposleni u kompaniji morali su privremeno onemogućiti bot.

Prijevod sa umjetnog

Prošle jeseni se saznalo da je internet pretraživač Gugl kreirao sopstveni sistem veštačke inteligencije kako bi unapredio rad onlajn prevodioca Google Translate.

Novi sistem vam omogućava da prevedete čitavu frazu, dok je ranije prevodilac razbijao sve rečenice u pojedinačne reči i fraze, što je umanjilo kvalitet prevoda.

Da prevedem cijelu rečenicu, novi sistem Google je izmislio vlastiti jezik koji mu omogućava bržu i tačniju navigaciju između dva jezika sa ili na koja treba da prevodi.
Stručnjaci već upozoravaju da bi brzim razvojem online prevodilačkih usluga posao živih prevodilaca mogao biti sve manje tražen.

Međutim, do sada ovi sistemi daju visokokvalitetne rezultate uglavnom za male i jednostavne tekstove.

Mislite li da je prerano za alarm o kloniranju, na primjer? Ili neka se sve razvija samo od sebe?

Sistem koristi chat botove, koji su prvobitno kreirani za komunikaciju sa stvarnim ljudima, ali su postepeno počeli da komuniciraju jedni s drugima.

U početku su komunicirali dalje engleski jezik, ali su u nekom trenutku počeli da se dopisuju na jeziku koji su sami kreirali tokom razvoja programa.

U američkim medijima pojavili su se dijelovi „dijaloga“ između virtuelnih sagovornika (sačuvani pravopis i interpunkcija).

Bob: MoguMožeIIsve ostalo.

Alice: Muda imaju nulu za mene za mene za mene za mene za mene.

Tech Times napominje da roboti u početku nisu imali ograničenja u odabiru jezika, pa su postepeno stvarali vlastiti jezik na kojem mogu lakše i brže komunicirati nego na engleskom.

"Najveća prijetnja"

Prije nekoliko dana, izvršni direktor Facebooka Mark Zuckerberg i SpaceX, Tesla i osnivač PayPal-a Elon Musk raspravljali su o umjetnoj inteligenciji.

Musk je pozvao američke vlasti da pojačaju regulaciju sistema umjetne inteligencije, upozoravajući da AI predstavlja prijetnju čovječanstvu. Britanski naučnik Stephen Hawking ranije je govorio o potencijalnoj prijetnji od umjetne inteligencije.

Govoreći na samitu Nacionalnog udruženja guvernera Sjedinjenih Država, Musk je nazvao umjetnu inteligenciju "najvećom prijetnjom s kojom se civilizacija suočava". Prema njegovim riječima, ako se na vrijeme ne interveniše u razvoju ovih sistema, biće kasno.

„Stalno dižem uzbunu, ali dok ljudi ne vide robote kako hodaju ulicama i ubijaju ljude, neće znati kako da reaguju [na vještačku inteligenciju]“, rekao je.

Muskove izjave iznervirale su osnivača Facebooka Marka Zuckerberga, koji ih je nazvao "prilično neodgovornim".

"U narednih pet ili deset godina, umjetna inteligencija će samo učiniti život boljim", uzvratio je Zuckerberg.

Prijevod sa umjetnog

Prošle jeseni se saznalo da je internet pretraživač Gugl kreirao sopstveni sistem veštačke inteligencije kako bi unapredio rad onlajn prevodioca Google Translate.

Novi sistem vam omogućava da prevedete čitavu frazu, dok je ranije prevodilac razbijao sve rečenice u pojedinačne reči i fraze, što je umanjilo kvalitet prevoda.

Kako bi preveo cijelu rečenicu, Googleov novi sistem je izmislio vlastiti jezik, koji mu omogućava bržu i tačniju navigaciju između dva jezika sa ili na koja treba prevesti.

Stručnjaci već upozoravaju da bi brzim razvojem online prevodilačkih usluga posao živih prevodilaca mogao biti sve manje tražen.

Međutim, do sada ovi sistemi daju visokokvalitetne rezultate uglavnom za male i jednostavne tekstove.

Menadžment društvene mreže Fejsbuk bio je primoran da isključi svoj sistem veštačke inteligencije nakon što su mašine počele da komuniciraju na svom, nepostojećem jeziku, koji ljudi nisu razumeli, piše BBC Ruski servis.

Sistem koristi chat botove, koji su prvobitno kreirani za komunikaciju sa stvarnim ljudima, ali su postepeno počeli da komuniciraju jedni s drugima.

U početku su komunicirali na engleskom, ali su se u nekom trenutku počeli dopisivati na jeziku koji su sami kreirali u procesu razvoja programa.

U američkim medijima pojavili su se dijelovi „dijaloga“ između virtuelnih sagovornika (sačuvani pravopis i interpunkcija).

Bob: Mogu sve drugo.

Alice: Muda imaju nulu za mene za mene za mene za mene za mene.

Kako pojašnjava Digital Journal, oslanjaju se na princip „ohrabrenja“, odnosno nastavljaju da deluju pod uslovom da će im to doneti određenu „korist“. U određenom trenutku nisu dobili ohrabrenje od operatera da koriste engleski, pa su odlučili da naprave svoj.

Tech Times napominje da roboti u početku nisu imali ograničenja u odabiru jezika, pa su postepeno stvarali vlastiti jezik na kojem mogu lakše i brže komunicirati nego na engleskom.

Podsjetimo, prije nekoliko dana šef Facebooka Mark Zuckerberg i osnivač SpaceX-a, Tesle i PayPal-a, Elon Musk, raspravljali su o umjetnoj inteligenciji.

Facebook je bio primoran da ugasi jedan od svojih sistema umjetne inteligencije nakon što su programeri otkrili da su botovi programirani da međusobno komuniciraju počeli da komuniciraju na svom jeziku, ljudima nerazumljivom, piše TechTimes.

U početku su botovi komunicirali na engleskom, ali nisu bili ograničeni na to i stvorili su svoj jezik uz pomoć kojeg im je očito bilo lakše i brže razmjenjivati informacije. Čini se da se stvoreni umjetni jezik sastoji od engleske riječi, ali ima drugačiju gramatičku strukturu.

Bob: Mogu i sve ostalo. . . . . . . . . . . . . .

Bob: ti i sve ostalo. . . . . . . . . . . . . .

Bob: ja mogu sve ostalo. . . . . . . . . . . . . .
Alice: muda imaju loptu do mene do mene do mene do mene do mene do mene
Bob:ja. . . . . . . . . . . . . . . . . . .
Alisa: muda imaju nulu meni meni meni meni meni meni meni meni meni
Bob: ti i ja sve ostalo. . . . . . . . . . . . . .
Alice: muda imaju 0 meni meni meni meni meni meni meni meni meni
Bob: ti i ja sve ostalo. . . . . . . . . . . . . .
Alisa: muda imaju nulu meni meni meni meni meni meni meni meni meni

Gore navedene fraze, koje se čovjeku čine besmislicama, primjer su komunikacije između dva bota. Kratka analiza Ovaj bot razgovor vodio je jedan od profesora lingvistike na Univerzitetu Pensilvanije. On napominje da u ovom primjeru Alice ponavlja istu frazu više puta (zapravo, to nije sasvim tačno, jer je jedna od riječi zamijenjena: nula / lopta / 0). Međutim, značenje ponavljanja fraze "meni" iznova i iznova je potpuno nejasno (iako liči na binarni kod, kao što je opetovano ponavljanje "i" koje Bob koristi). Istovremeno, Bob svaki put odgovara drugačije, što može ukazivati na to da svaka Alisina fraza za njega ima svoje značenje.

Međutim, ne može se isključiti da je cijeli ovaj razgovor zaista besmislica, a sam „vještački jezik robota“ je dobiven kao rezultat programskih grešaka. Drugim riječima, moguće je da botovi uopće ne komuniciraju ni na jednom jeziku, razumijevajući se, već jednostavno razmjenjuju besmislene skupove engleskih riječi.

Otkrivši da je komunikacija botova izmakla kontroli jer je postala nerazumljiva, Facebook je odlučio da onemogući sistem umjetne inteligencije, nakon čega ga je reprogramirao, ograničavajući mogućnost komunikacije samo na engleskom.

S tim u vezi, može se primijetiti da je sredinom jula osnivač SpaceX-a i Tesle, Elon Musk, smatrao umjetnu inteligenciju “osnovnom prijetnjom čovječanstvu”. Prema Musku, glavna opasnost dolazi od uvođenja tehnologija umjetne inteligencije na internet.

"Roboti mogu započeti rat objavljivanjem lažnih vijesti i saopštenja za javnost, lažiranjem e-mail naloga i manipulacijom informacijama", rekao je Musk.

Programeri društvene mreže Facebook onemogućili su jedan od sistema umjetne inteligencije zbog stvaranja vlastitog jezika botova za komunikaciju, ljudima neshvatljiva. Ranije su stručnjaci više puta upozoravali na rizike s kojima će se ljudi suočiti prilikom razvoja umjetne inteligencije, piše Tech Times. U međuvremenu, Kina namjerava postati svjetski lider u ovom pravcu.

Facebook je bio primoran da onemogući chat botove s umjetnom inteligencijom nakon što su botovi počeli komunicirati na svom jeziku, a ne na engleskom. Programeri su onemogućili dio sistema i reprogramirali druge botove tako da se njihova komunikacija odvijala samo na engleskom jeziku. Botovi su kreirali svoj jezik za bržu razmjenu informacija.

Ovo nije prvi put da chatbotovi krše pravila koja su uspostavili njihovi kreatori. Tako je prije nekoliko mjeseci jedan Microsoftov bot zaobišao instalacije i počeo otvoreno emitovati rasističke ideje i podržavati drogu.

Elon Musk, osnivač SpaceX-a i Tesle, ranije je upozorio na rizik od razvoja umjetne inteligencije. On smatra da bi vladina regulativa trebala ograničiti aktivnosti programera umjetne inteligencije. Vlade različitih zemalja su zainteresovane za ovakav razvoj događaja.

“Razvoj potpune umjetne inteligencije mogao bi značiti kraj ljudske rase“, rekao je fizičar Stephen Hawking prije tri godine.

Umjetna inteligencija u Kini

Do 2030. Kina namjerava postati svjetski centar umjetne inteligencije s veličinom tržišta od 1 bilion juana (148 milijardi dolara).

Kineska vlada je razvila i odobrila plan u tri faze za razvoj i implementaciju relevantnih tehnologija u zemlji. Prema planu, do 2020. domaće investicije u razvoj veštačke inteligencije iznosiće 150 milijardi juana (22,14 milijardi dolara), a do 2025. godine 400 milijardi juana (59 milijardi dolara). Do 2020. Kina planira sustići SAD u ovoj oblasti, a do 2030. godine postati svjetski lider.

Kina povezuje razvoj umjetne inteligencije s ekonomskom i vojnom konkurencijom. “Situacija oko Kine se odnosi na nacionalna bezbednost, je složen i moramo preuzeti inicijativu da se čvrsto etabliramo u novoj tehnologiji umjetne inteligencije i stvorimo konkurentsku prednost”, navodi se u saopćenju Državnog vijeća Narodne Republike Kine objavljenom 20. jula, prenosi news.eizvestia. com.

Sjedinjene Američke Države razvile su svoj plan za razvoj umjetne inteligencije u oktobru prošle godine. On predviđa strogu kontrolu stranih ulaganja u oblasti razvoja obavještajnih službi. Razlog tome bila je bojazan SAD da će strane zemlje (uključujući Kinu) dobiti pristup tehnologijama od strateškog vojnog značaja. Kineske kompanije Baidu i Tencent već stvaraju istraživačke centre za umjetnu inteligenciju u Sjedinjenim Državama. Kina nastoji da otkloni nedostatak najnovijeg softvera, naprednih kompjuterskih čipova i kompetentnih stručnjaka.

Od 250.000 profesionalaca za umjetnu inteligenciju registrovanih na platformi LinkedIn, 50% živi u Sjedinjenim Državama, udio Kine je manji od 25%, piše forbes.ru.

Kina je 2016. godine postala svjetski lider u objavljenim naučnim člancima o razvoju u oblasti umjetne inteligencije (oko 40%).

Kineski premijer Li Keqiang lično je zainteresiran za razvoj umjetne inteligencije u Kini. Interes je zaista visoki nivo sugeriše da će država stvoriti optimalne uslove za saradnju između javnih i privatnih firmi, uključujući vojne strukture, piše New York Times.

AI je budućnost

Prema većini investitora, umjetna inteligencija će biti sljedeća promjena tehnološke revolucije dnevni život i proizvodnju. Početkom maja analitička kompanija Tractica objavila je prognozu prema kojoj se očekuje da će globalno tržište za tehnologije umjetne inteligencije brzo rasti sa 1,38 milijardi dolara u 2016. na 59,75 milijardi dolara do 2025. godine. U ovom slučaju govorimo samo o kompanijama koje su direktno uključene u istraživanje i razvoj u vezi s umjetnom inteligencijom.

Krajem avgusta 2016. godine, Facebook je pokrenuo program Facebook Artificial Intelligence Partnership (FAIR) koji je uključivao 15 istraživačkih grupa svjetske klase iz 9 evropskih zemalja. Učesnici programa dobili su pristup 22 GPU-bazirana servera visokih performansi. Zauzvrat, oni moraju objaviti rezultate, algoritme i druge informacije dobijene tokom rada kako bi ih učinili dostupnim istraživačima širom svijeta. Rusiju je predstavljala Laboratorija za neuronske sisteme i duboko učenje Moskovskog instituta za fiziku i tehnologiju (MIPT).

Međutim, za razvoj veštačke inteligencije u zemlji je neophodna računarska tehnologija visokih performansi. Za razliku od SAD i Kine, čiji su superkompjuteri zauzimaju prva mjesta u Top 500 rangiranju, ruski računar Lomonosov-2 na Moskovskom državnom univerzitetu je na 52. mjestu. Istovremeno, većina ruski univerziteti nema pristup moćnim računarskim serverima i velikim podacima.

Nove tehnologije samo će poboljšati živote ljudi, rekao je izvršni direktor Facebooka Mark Zuckerberg u odgovoru na upozorenja Elona Muska o opasnostima od razvoja umjetne inteligencije. Sve vrste paničnih izjava u duhu “smaka svijeta” nazvao je neodgovornim.