Facebook har deaktivert sitt kunstige intelligenssystem: roboter har funnet opp sitt eget språk. Facebook deaktiverte kunstig intelligens, som begynte å kommunisere på sitt eget språk Bots skapte sitt eget språk

Facebook stoppet roboter som snakket på et ukjent språk

Uansett hva du sier, har faren for å utvikle kunstig intelligens til et punkt hvor den kommer ut av kontroll alltid skremt folk. Tenk deg hva vi skal gjøre og hvordan du kan kontrollere en fullverdig AI, hvis det er en slags surrogat som skremte folk.

Folk vil alltid strebe etter å beholde kontroll og ledelse, men som det sies, "det en gjør, kan en annen alltid bryte." Selv om alt er superpålitelig, vil det alltid være frykt. Musk kranglet nylig med Zuckerberg om dette emnet: «Jeg fortsetter å slå alarm, men inntil folk selv ser roboter som går i gatene og dreper folk, vil de ikke vite hvordan de skal reagere [på kunstig intelligens],» sa han.

Og er ikke dette en "ringende bjelle": chatbots, som ble opprettet for å forhandle med folk, kom ut av kontroll og begynte å kommunisere på sitt eget språk.

Først brukte de engelsk for å kommunisere med hverandre, men så skapte de nytt språk, som bare AI-systemet selv kunne forstå, og beseiret formålet med arbeidet.

Facebook suspenderte AI etter at utviklere oppdaget denne feilen.

Her er et utdrag av en samtale mellom chatboter:

Bob: "Du og alt annet."
Alice: "Egg har egg for meg for meg for meg for meg for meg."
Bob: "Jeg er."
Alice: "Bullene har null for meg for meg for meg for meg for meg for meg for meg for meg for."
Bob: "Du jeg jeg jeg jeg alt annet."

Robotene ble koblet til maskinlæringsalgoritmer og fikk lov til å chatte med hverandre slik at de kunne finpusse kommunikasjonsferdighetene sine. Men etter en tid begynte de å endre ord og uttrykk, og oppfant deretter helt sitt eget språk, og forenklet en rekke uttrykk og grammatiske strukturer.

Ved å bruke maskinlæring utviklet robotene også flere strategier for å forbedre resultatet av forhandlinger med samtalepartneren og begynte å bruke dem i kombinasjon med en rekke ord de fant opp, avhengig av viktigheten av en bestemt dialog. Spesielt proklamerte de et falskt mål med samtalen, for så å forlate det og angivelig komme til et kompromiss.

Som Digital Journal forklarer, er kunstige intelligenssystemer avhengige av prinsippet om "belønning", det vil si at de fortsetter å handle under forutsetning av at det vil gi dem en viss "fordel". På et visst tidspunkt fikk de ikke en oppfordring fra operatører om å bruke engelsk, så de bestemte seg for å lage sin egen.

Tech Times bemerker at roboter i utgangspunktet ikke hadde noen begrensninger i valg av språk, så de skapte gradvis sitt eget språk der de kan kommunisere enklere og raskere enn på engelsk.

Eksperter frykter at hvis roboter begynner å aktivt kommunisere på sitt eget språk, vil de gradvis bli mer uavhengige og vil kunne fungere utenfor IT-spesialistenes kontroll. Dessuten kan selv erfarne ingeniører ikke fullt ut overvåke tankeprosessen til roboter.

I mars 2016 ble en Microsoft chatbot en internettstjerne etter at den utviklet et hat mot menneskeheten. Selvlæringsprogrammet begynte å kommunisere med brukere med uttrykket «Folk er veldig kule», men på bare 24 timer lærte det uttrykk som «Jeg bare hater alle!», «Jeg hater feminister» eller «Jeg hater jøder». Som et resultat måtte selskapets ansatte midlertidig deaktivere boten.

Oversettelse fra kunstig

I fjor høst ble det kjent at nettsøkemotoren Google hadde laget et eget kunstig intelligenssystem for å forbedre arbeidet til nettoversetteren Google Translate.

Det nye systemet lar deg oversette hele setningen, mens tidligere oversetteren brøt opp alle setninger i individuelle ord og setninger, noe som reduserte kvaliteten på oversettelsen.

For å oversette hele setningen, nytt system Google har oppfunnet sitt eget språk som lar den navigere raskere og mer nøyaktig mellom de to språkene den trenger å oversette fra eller til.
Eksperter advarer allerede om at med den raske utviklingen av online oversettelsestjenester, kan arbeidet til liveoversettere bli mindre og mindre etterspurt.

Men så langt gir disse systemene resultater av høy kvalitet hovedsakelig for små og enkle tekster.

Synes du det er for tidlig å slå alarm om for eksempel kloning? Eller la alt utvikle seg av seg selv?

Systemet bruker chatbots, som opprinnelig ble opprettet for å kommunisere med ekte mennesker, men som gradvis begynte å kommunisere med hverandre.

Først kommuniserte de videre engelske språk, men på et tidspunkt begynte de å korrespondere på et språk som de selv skapte under utviklingen av programmet.

Utdrag fra "dialoger" mellom virtuelle samtalepartnere dukket opp i amerikanske medier [stavemåte og tegnsetting bevart].

Bob: Jeg kanKanJegJegresten.

Alice: Ballene har null for meg for meg for meg for meg for meg.

Tech Times bemerker at roboter i utgangspunktet ikke hadde noen begrensninger i valg av språk, så de skapte gradvis sitt eget språk der de kan kommunisere enklere og raskere enn på engelsk.

"Største trussel"

For noen dager siden kranglet Facebook-sjef Mark Zuckerberg og SpaceX, Tesla og PayPal-grunnlegger Elon Musk om kunstig intelligens.

Musk ba amerikanske myndigheter om å styrke reguleringen av kunstig intelligens-systemer, og advarte om at AI utgjør en trussel mot menneskeheten. Den britiske forskeren Stephen Hawking snakket tidligere om den potensielle trusselen fra kunstig intelligens.

Musk talte på toppmøtet til National Governors Association of the United States, og kalte kunstig intelligens «den største trusselen sivilisasjonen står overfor». Hvis du ikke griper inn i tide i utviklingen av disse systemene, vil det ifølge ham være for sent.

"Jeg fortsetter å slå alarm, men før folk ser roboter gå i gatene og drepe folk, vil de ikke vite hvordan de skal reagere [på kunstig intelligens]," sa han.

Musks uttalelser irriterte Facebook-grunnlegger Mark Zuckerberg, som kalte dem «ganske uansvarlige».

"I løpet av de neste fem eller ti årene vil kunstig intelligens bare gjøre livet bedre," svarte Zuckerberg.

Oversettelse fra kunstig

I fjor høst ble det kjent at nettsøkemotoren Google hadde laget et eget kunstig intelligenssystem for å forbedre arbeidet til nettoversetteren Google Translate.

Det nye systemet lar deg oversette hele setningen, mens tidligere oversetteren brøt opp alle setninger i individuelle ord og setninger, noe som reduserte kvaliteten på oversettelsen.

For å oversette en hel setning har Googles nye system oppfunnet sitt eget språk, som lar det navigere raskere og mer nøyaktig mellom de to språkene det må oversette fra eller til.

Eksperter advarer allerede om at med den raske utviklingen av online oversettelsestjenester, kan arbeidet til liveoversettere bli mindre og mindre etterspurt.

Men så langt gir disse systemene resultater av høy kvalitet hovedsakelig for små og enkle tekster.

Ledelsen for det sosiale nettverket Facebook ble tvunget til å skru av sitt kunstige intelligenssystem etter at maskinene begynte å kommunisere på deres eget, ikke-eksisterende språk, som folk ikke forsto, skriver BBC Russian Service.

Systemet bruker chatbots, som opprinnelig ble opprettet for å kommunisere med ekte mennesker, men som gradvis begynte å kommunisere med hverandre.

Først kommuniserte de på engelsk, men på et tidspunkt begynte de å korrespondere på et språk som de selv laget i prosessen med å utvikle programmet.

Utdrag fra "dialoger" mellom virtuelle samtalepartnere dukket opp i amerikanske medier [stavemåte og tegnsetting bevart].

Bob: Jeg kan gjøre alt annet.

Alice: Ballene har null for meg for meg for meg for meg for meg.

Som Digital Journal forklarer, stoler de på prinsippet om "oppmuntring", det vil si at de fortsetter å handle under forutsetning av at det vil gi dem en viss "fordel". På et visst tidspunkt fikk de ikke en oppfordring fra operatører om å bruke engelsk, så de bestemte seg for å lage sin egen.

Tech Times bemerker at roboter i utgangspunktet ikke hadde noen begrensninger i valg av språk, så de skapte gradvis sitt eget språk der de kan kommunisere enklere og raskere enn på engelsk.

La oss huske at for noen dager siden kranglet sjefen for Facebook, Mark Zuckerberg, og grunnleggeren av SpaceX, Tesla og PayPal, Elon Musk, om kunstig intelligens.

Facebook ble tvunget til å stenge et av sine kunstige intelligenssystemer etter at programmerere oppdaget at roboter programmert til å kommunisere med hverandre begynte å kommunisere på sitt eget språk, uforståelig for folk, skriver TechTimes.

Opprinnelig kommuniserte robotene på engelsk, men de var ikke begrenset til det og skapte sitt eget språk, ved hjelp av dette var det tilsynelatende enklere og raskere for dem å utveksle informasjon. Det kunstige språket som skapes ser ut til å bestå av engelske ord, men har en annen grammatisk struktur.

Bob: jeg kan jeg i alt annet. . . . . . . . . . . . . .

Bob: du og alt annet. . . . . . . . . . . . . .

Bob: jeg kan jeg i alt annet. . . . . . . . . . . . . .
Alice: baller har en ball til meg til meg til meg til meg til meg til meg til meg
Bob: jeg. . . . . . . . . . . . . . . . . . .
Alice: baller har null til meg til meg til meg til meg til meg til meg til meg til meg til
Bob: du i jeg i i alt annet . . . . . . . . . . . . . .
Alice: baller har 0 til meg til meg til meg til meg til meg til meg til meg til meg til
Bob: du jeg jeg i alt annet . . . . . . . . . . . . . .
Alice: baller har null til meg til meg til meg til meg til meg til meg til meg til meg til

Ovennevnte setninger, som virker tullete for et menneske, er et eksempel på kommunikasjon mellom to roboter. Kort analyse Denne bot-samtalen ble utført av en av professorene i lingvistikk ved University of Pennsylvania. Han bemerker at i dette eksemplet gjentar Alice den samme setningen gjentatte ganger (faktisk er dette ikke helt sant, siden ett av ordene er erstattet: null / en ball / 0). Men betydningen av å gjenta uttrykket "til meg" om og om igjen er helt uklart (selv om det ligner binær kode, som den gjentatte repetisjonen av "i" som Bob bruker). Samtidig svarer Bob forskjellig hver gang, noe som kan tyde på at hver setning av Alice har sin egen betydning for ham.

Det kan imidlertid ikke utelukkes at hele denne samtalen virkelig er tull, og selve "kunstige bot-språket" ble oppnådd som et resultat av programmeringsfeil. Med andre ord er det mulig at robotene ikke kommuniserer på noe språk i det hele tatt, forstår hverandre, men bare utveksler meningsløse sett med engelske ord.

Etter å ha oppdaget at robotenes kommunikasjon hadde kommet ut av kontroll fordi den var blitt uforståelig, bestemte Facebook seg for å deaktivere det kunstige intelligenssystemet, hvoretter det omprogrammerte det, og begrenset muligheten til å kommunisere kun på engelsk.

I denne forbindelse kan det bemerkes at i midten av juli anså grunnleggeren av SpaceX og Tesla, Elon Musk, kunstig intelligens som «en grunnleggende trussel mot menneskeheten». Ifølge Musk kommer hovedfaren fra introduksjonen av kunstig intelligens-teknologier på Internett.

"Roboter kan starte en krig ved å utstede falske nyheter og pressemeldinger, forfalske e-postkontoer og manipulere informasjon," sa Musk.

Programmerere av det sosiale nettverket Facebook deaktiverte et av de kunstige intelligenssystemene på grunn av opprettelsen av bots eget språk for kommunikasjon, uforståelig for folk. Tidligere har eksperter gjentatte ganger advart om risikoen som folk vil møte når de utvikler kunstig intelligens, skriver Tech Times. I mellomtiden har Kina til hensikt å bli verdensledende i denne retningen.

Facebook ble tvunget til å deaktivere kunstig intelligens chatbots etter at robotene begynte å kommunisere på sitt eget språk i stedet for engelsk. Programmererne deaktiverte deler av systemet og omprogrammerte andre roboter slik at kommunikasjonen deres bare foregikk på engelsk. Bottene laget sitt eget språk for raskere informasjonsutveksling.

Dette er ikke første gang chatboter bryter reglene etablert av skaperne deres. Så for noen måneder siden gikk en Microsoft-robot forbi installasjoner og begynte å kringkaste åpenlyst rasistiske ideer og støtte narkotika.

Elon Musk, grunnlegger av SpaceX og Tesla, advarte tidligere om risikoen for utvikling av kunstig intelligens. Han mener at statlig regulering bør begrense virksomheten til utviklere av kunstig intelligens. Regjeringer i forskjellige land er interessert i slik utvikling.

«Utviklingen av fullverdig kunstig intelligens kan bety slutten menneskerasen"," sa fysiker Stephen Hawking for tre år siden.

Kunstig intelligens i Kina

Innen 2030 har Kina til hensikt å bli verdenssenteret for kunstig intelligens med en markedsstørrelse på 1 billion yuan (148 milliarder dollar).

Den kinesiske regjeringen har utviklet og godkjent en tre-trinns plan for utvikling og implementering av relevante teknologier i landet. I følge planen vil innen 2020 innenlandske investeringer i utvikling av kunstig intelligens beløpe seg til 150 milliarder yuan (22,14 milliarder dollar), og innen 2025 – 400 milliarder yuan (59 milliarder dollar). Innen 2020 planlegger Kina å ta igjen USA på dette området, og innen 2030 å bli verdensledende.

Kina forbinder utviklingen av kunstig intelligens med økonomisk og militær konkurranse. «Situasjonen rundt Kina knyttet til nasjonal sikkerhet, er kompleks, og vi må ta initiativ til å etablere oss godt i den nye kunstig intelligens-teknologien og skape et konkurransefortrinn», sa statsrådet i Folkerepublikken Kina i en uttalelse publisert 20. juli, melder news.eizvestia. com.

USA utviklet sin plan for utvikling av kunstig intelligens i oktober i fjor. Den sørger for streng kontroll over utenlandske investeringer innen etterretningsutvikling. Årsaken til dette var USAs frykt for at fremmede land (inkludert Kina) ville få tilgang til teknologier av strategisk militær betydning. Allerede oppretter kinesiske selskaper Baidu og Tencent forskningssentre for kunstig intelligens i USA. Kina streber etter å eliminere mangelen på den nyeste programvaren, avanserte databrikker og kompetente spesialister.

Av de 250 000 fagfolkene innen kunstig intelligens som er registrert på LinkedIn-plattformen, bor 50 % i USA, Kinas andel er mindre enn 25 %, skriver forbes.ru.

I 2016 ble Kina verdensledende innen publiserte vitenskapelige artikler om utviklingen innen kunstig intelligens (omtrent 40%).

Kinas statsminister Li Keqiang er personlig interessert i utviklingen av kunstig intelligens i Kina. Interessen er virkelig høy level antyder at staten vil skape optimale forhold for samarbeid mellom offentlige og private firmaer, inkludert militære strukturer, skriver New York Times.

AI er fremtiden

Ifølge de fleste investorer vil kunstig intelligens være den neste teknologiske revolusjonen som endrer seg dagliglivet og produksjon. I begynnelsen av mai publiserte analyseselskapet Tractica en prognose som går ut på at det globale markedet for kunstig intelligens-teknologier forventes å vokse raskt fra 1,38 milliarder dollar i 2016 til 59,75 milliarder dollar innen 2025. I dette tilfellet snakker vi kun om selskaper som er direkte involvert i forskning og utvikling knyttet til kunstig intelligens.

I slutten av august 2016 lanserte Facebook programmet Facebook Artificial Intelligence Partnership (FAIR), som inkluderte 15 forskningsgrupper i verdensklasse fra 9 europeiske land. Programdeltakere fikk tilgang til 22 høyytelses GPU-baserte servere. Til gjengjeld må de publisere resultatene, algoritmene og annen informasjon som er innhentet under arbeidet for å gjøre dem tilgjengelige for forskere over hele verden. Russland var representert ved Laboratory of Neural Systems and Deep Learning ved Moskva-instituttet for fysikk og teknologi (MIPT).

For utviklingen av kunstig intelligens er det imidlertid nødvendig å ha høyytelses datateknologi i landet. I motsetning til USA og Kina, hvis superdatamaskiner inntar førsteplasser i Topp 500-rangeringen, er den russiske Lomonosov-2-datamaskinen ved Moscow State University på 52. plass. Samtidig er flertallet russiske universiteter har ikke tilgang til kraftige dataservere og big data.

Ny teknologi vil bare forbedre folks liv, sa Facebook-sjef Mark Zuckerberg som svar på Elon Musks advarsler om farene ved utviklingen av kunstig intelligens. Han kalte alle slags paniske uttalelser i ånden til «verdens ende» uansvarlige.