Facebook ha disabilitato il suo sistema di intelligenza artificiale: i bot hanno inventato il proprio linguaggio. Facebook ha disabilitato l'intelligenza artificiale, che ha iniziato a comunicare nella propria lingua. I bot hanno creato la propria lingua

Facebook ha fermato i bot che parlavano una lingua sconosciuta

Qualunque cosa tu dica, il pericolo di sviluppare l’intelligenza artificiale al punto da perdere il controllo ha sempre spaventato le persone. Immagina cosa faremo e come gestire un'intelligenza artificiale a tutti gli effetti, se esistesse una sorta di surrogato che spaventasse le persone.

Le persone si sforzeranno sempre di mantenere il controllo e la gestione, ma come dice il proverbio, “ciò che uno fa, un altro può sempre romperlo”. Anche se tutto è super affidabile, ci sarà sempre paura. Musk ha recentemente discusso con Zuckerberg su questo argomento: “Continuo a lanciare l’allarme, ma finché le persone non vedranno di persona i robot che camminano per le strade e uccidono le persone, non sapranno come reagire [all’intelligenza artificiale]”, ha detto.

E non è forse un “campanello che suona”: i chatbot, creati per negoziare con le persone, sono andati fuori controllo e hanno iniziato a comunicare nella loro stessa lingua.

All'inizio usavano l'inglese per comunicare tra loro, ma poi crearono Nuova lingua, che solo il sistema AI stesso poteva comprendere, vanificando lo scopo dell'opera.

Facebook ha sospeso l'intelligenza artificiale dopo che gli sviluppatori hanno scoperto questo problema tecnico.

Ecco un estratto di una conversazione tra chatbot:

Bob: "Tu e tutto il resto."
Alice: “Le uova hanno uova per me per me per me per me per me.”
Bob: "Lo sono."
Alice: "Le palle hanno zero per me per me per me per me per me per me per me per me per."
Bob: "Tu io io io io tutto il resto."

I robot erano collegati ad algoritmi di apprendimento automatico e potevano chattare tra loro in modo da poter affinare le proprie capacità comunicative. Ma dopo un po 'hanno iniziato a modificare parole e frasi, per poi inventare completamente la propria lingua, semplificando una serie di espressioni e strutture grammaticali.

Utilizzando l’apprendimento automatico, i robot hanno inoltre sviluppato diverse strategie per migliorare l’esito delle negoziazioni con l’interlocutore e hanno iniziato a usarle in combinazione con un numero di parole da loro inventate, a seconda dell’importanza di un particolare dialogo. In particolare, hanno proclamato un falso obiettivo della conversazione, per poi abbandonarlo e presumibilmente giungere ad un compromesso.

Come spiega il Digital Journal, i sistemi di intelligenza artificiale si basano sul principio della “ricompensa”, ovvero continuano ad agire a condizione che ciò porti loro un certo “beneficio”. Ad un certo punto, non hanno ricevuto incoraggiamento da parte degli operatori a usare l'inglese, quindi hanno deciso di crearne uno proprio.

Tech Times osserva che inizialmente i robot non avevano restrizioni nella scelta della lingua, quindi hanno gradualmente creato la propria lingua in cui possono comunicare più facilmente e più velocemente che in inglese.

Gli esperti temono che se i robot inizieranno a comunicare attivamente nella loro lingua, diventeranno gradualmente più indipendenti e saranno in grado di funzionare al di fuori del controllo degli specialisti IT. Inoltre, anche gli ingegneri esperti non sono in grado di monitorare completamente il processo di pensiero dei robot.

Nel marzo 2016, un chatbot di Microsoft è diventato una star di Internet dopo aver sviluppato un odio per l’umanità. Il programma di autoapprendimento ha iniziato a comunicare con gli utenti con la frase “Le persone sono molto interessanti”, ma in sole 24 ore ha imparato espressioni come “Odio tutti!”, “Odio le femministe” o “Odio gli ebrei”. Di conseguenza, i dipendenti dell’azienda hanno dovuto disattivare temporaneamente il bot.

Traduzione da artificiale

Lo scorso autunno si è saputo che il motore di ricerca Internet Google aveva creato un proprio sistema di intelligenza artificiale per migliorare il lavoro del traduttore online Google Translate.

Il nuovo sistema consente di tradurre l'intera frase, mentre in precedenza il traduttore divideva tutte le frasi in singole parole e frasi, riducendo così la qualità della traduzione.

Per tradurre l'intera frase, nuovo sistema Google ha inventato un proprio linguaggio che gli consente di navigare più velocemente e con maggiore precisione tra le due lingue da o verso le quali deve tradurre.
Gli esperti avvertono già che con il rapido sviluppo dei servizi di traduzione online, il lavoro dei traduttori dal vivo potrebbe essere sempre meno richiesto.

Tuttavia, finora questi sistemi producono risultati di alta qualità soprattutto per testi piccoli e semplici.

Pensi che sia troppo presto per lanciare l’allarme sulla clonazione, ad esempio? O lasciare che tutto si sviluppi da solo?

Il sistema utilizza chatbot, originariamente creati per comunicare con persone reali, ma gradualmente hanno iniziato a comunicare tra loro.

All'inizio hanno comunicato lingua inglese, ma a un certo punto hanno iniziato a corrispondere nella lingua che loro stessi hanno creato durante lo sviluppo del programma.

Sui media americani sono apparsi estratti di “dialoghi” tra interlocutori virtuali [ortografia e punteggiatura preservate].

Bob: possoPotereIOIOtutto il resto.

Alice: Le palle hanno zero per me per me per me per me per me.

Come spiega il Digital Journal, i sistemi di intelligenza artificiale si basano sul principio della “ricompensa”, ovvero continuano ad agire a condizione che ciò porti loro un certo “beneficio”. Ad un certo punto, non hanno ricevuto incoraggiamento da parte degli operatori a usare l'inglese, quindi hanno deciso di crearne uno proprio.

Tech Times osserva che inizialmente i robot non avevano restrizioni nella scelta della lingua, quindi hanno gradualmente creato la propria lingua in cui possono comunicare più facilmente e più velocemente che in inglese.

"La più grande minaccia"

Gli esperti temono che se i robot inizieranno a comunicare attivamente nella loro lingua, diventeranno gradualmente più indipendenti e saranno in grado di funzionare al di fuori del controllo degli specialisti IT. Inoltre, anche gli ingegneri esperti non sono in grado di monitorare completamente il processo di pensiero dei robot.

Qualche giorno fa, il CEO di Facebook Mark Zuckerberg e il fondatore di SpaceX, Tesla e PayPal Elon Musk hanno discusso di intelligenza artificiale.

Musk ha invitato le autorità statunitensi a rafforzare la regolamentazione dei sistemi di intelligenza artificiale, avvertendo che l’intelligenza artificiale rappresenta una minaccia per l’umanità. Lo scienziato britannico Stephen Hawking aveva già parlato della potenziale minaccia rappresentata dall'intelligenza artificiale.

Intervenendo al vertice della National Governors Association degli Stati Uniti, Musk ha definito l’intelligenza artificiale “la più grande minaccia per la civiltà”. Secondo lui, se non si interviene in tempo nello sviluppo di questi sistemi, sarà troppo tardi.

"Continuo a lanciare l'allarme, ma finché le persone non vedranno i robot camminare per le strade e uccidere persone, non sapranno come reagire [all'intelligenza artificiale]", ha detto.

Le dichiarazioni di Musk hanno irritato il fondatore di Facebook Mark Zuckerberg, che li ha definiti "piuttosto irresponsabili".

“Nei prossimi cinque o dieci anni, l’intelligenza artificiale non farà altro che migliorare la vita”, ha ribattuto Zuckerberg.

Traduzione da artificiale

Lo scorso autunno si è saputo che il motore di ricerca Internet Google aveva creato un proprio sistema di intelligenza artificiale per migliorare il lavoro del traduttore online Google Translate.

Il nuovo sistema consente di tradurre l'intera frase, mentre in precedenza il traduttore divideva tutte le frasi in singole parole e frasi, riducendo così la qualità della traduzione.

Per tradurre un'intera frase, il nuovo sistema di Google ha inventato un proprio linguaggio, che gli consente di navigare più velocemente e con maggiore precisione tra le due lingue da o verso le quali deve tradurre.

Gli esperti avvertono già che con il rapido sviluppo dei servizi di traduzione online, il lavoro dei traduttori dal vivo potrebbe essere sempre meno richiesto.

Tuttavia, finora questi sistemi producono risultati di alta qualità soprattutto per testi piccoli e semplici.

La direzione del social network Facebook è stata costretta a disattivare il suo sistema di intelligenza artificiale dopo che le macchine hanno iniziato a comunicare nella loro lingua inesistente, che la gente non capiva, scrive la BBC Russian Service.

Il sistema utilizza chatbot, originariamente creati per comunicare con persone reali, ma gradualmente hanno iniziato a comunicare tra loro.

All'inizio comunicavano in inglese, ma a un certo punto iniziarono a corrispondere nella lingua che loro stessi crearono nel processo di sviluppo del programma.

Sui media americani sono apparsi estratti di “dialoghi” tra interlocutori virtuali [ortografia e punteggiatura preservate].

Bob: Posso fare tutto il resto.

Alice: Le palle hanno zero per me per me per me per me per me.

Come spiega il Digital Journal, si basano sul principio dell’“incoraggiamento”, ovvero continuano ad agire a condizione che ciò porti loro un certo “beneficio”. Ad un certo punto, non hanno ricevuto incoraggiamento da parte degli operatori a usare l'inglese, quindi hanno deciso di crearne uno proprio.

Tech Times osserva che inizialmente i robot non avevano restrizioni nella scelta della lingua, quindi hanno gradualmente creato la propria lingua in cui possono comunicare più facilmente e più velocemente che in inglese.

Gli esperti temono che se i robot inizieranno a comunicare attivamente nella loro lingua, diventeranno gradualmente più indipendenti e saranno in grado di funzionare al di fuori del controllo degli specialisti IT. Inoltre, anche gli ingegneri esperti non sono in grado di monitorare completamente il processo di pensiero dei robot.

Ricordiamo che qualche giorno fa il capo di Facebook, Mark Zuckerberg, e il fondatore di SpaceX, Tesla e PayPal, Elon Musk, hanno discusso di intelligenza artificiale.

Facebook è stato costretto a chiudere uno dei suoi sistemi di intelligenza artificiale dopo che i programmatori hanno scoperto che i robot programmati per comunicare tra loro cominciavano a comunicare nella loro lingua, incomprensibile alle persone, scrive TechTimes.

Inizialmente, i robot comunicavano in inglese, ma non si limitavano a questo e creavano una propria lingua, con l'aiuto della quale apparentemente era più facile e veloce per loro scambiarsi informazioni. Il linguaggio artificiale creato sembra essere costituito da parole inglesi, ma ha una struttura grammaticale diversa.

Bob: posso fare tutto il resto. . . . . . . . . . . . . .

Bob: tu, io, tutto il resto. . . . . . . . . . . . . .

Bob: posso, tutto il resto. . . . . . . . . . . . . .
Alice: le palle hanno una palla a me a me a me a me a me a me a me
Bob: io. . . . . . . . . . . . . . . . . . .
Alice: le palle hanno zero per me a me a me a me a me a me a me a me
Bob: tu io io io io tutto il resto. . . . . . . . . . . . . .
Alice: le palle hanno 0 da me a me a me a me a me a me a me a me
Bob: tu, tutto il resto. . . . . . . . . . . . . .
Alice: le palle hanno zero per me a me a me a me a me a me a me a me

Le frasi di cui sopra, che a un essere umano sembrano senza senso, sono un esempio di comunicazione tra due bot. Breve analisi Questa conversazione con il bot è stata condotta da uno dei professori di linguistica dell'Università della Pennsylvania. Nota che in questo esempio Alice ripete ripetutamente la stessa frase (in effetti, questo non è del tutto vero, poiché una delle parole viene sostituita: zero / una palla / 0). Tuttavia, il significato di ripetere la frase "a me" più e più volte non è del tutto chiaro (sebbene assomigli a un codice binario, come la ripetizione ripetuta di "i" utilizzata da Bob). Allo stesso tempo, Bob risponde ogni volta in modo diverso, il che potrebbe indicare che ogni frase di Alice ha il suo significato per lui.

Tuttavia non si può escludere che l’intera conversazione sia davvero una sciocchezza e che il “linguaggio artificiale del bot” sia il risultato di errori di programmazione. In altre parole, è possibile che i robot non comunichino in nessuna lingua, non si capiscano, ma si scambino semplicemente serie di parole inglesi senza senso.

Avendo scoperto che la comunicazione dei bot era andata fuori controllo perché diventata incomprensibile, Facebook ha deciso di disattivare il sistema di intelligenza artificiale, dopodiché lo ha riprogrammato, limitando la possibilità di comunicare solo in inglese.

A questo proposito va notato che a metà luglio il fondatore di SpaceX e Tesla, Elon Musk, considerava l’intelligenza artificiale “una minaccia fondamentale per l’umanità”. Secondo Musk, il pericolo principale deriva dall’introduzione delle tecnologie di intelligenza artificiale in Internet.

“I robot possono iniziare una guerra diffondendo notizie e comunicati stampa falsi, falsificando account di posta elettronica e manipolando informazioni”, ha affermato Musk.

I programmatori del social network Facebook hanno disabilitato uno dei sistemi di intelligenza artificiale a causa della creazione del linguaggio di comunicazione proprio dei bot, incomprensibile alle persone. In precedenza, gli esperti hanno ripetutamente messo in guardia sui rischi che le persone dovranno affrontare nello sviluppo dell’intelligenza artificiale, scrive Tech Times. Nel frattempo, la Cina intende diventare leader mondiale in questa direzione.

Facebook è stato costretto a disabilitare i chatbot di intelligenza artificiale dopo che i bot hanno iniziato a comunicare nella loro lingua anziché in inglese. I programmatori hanno disabilitato parte del sistema e riprogrammato altri bot in modo che la loro comunicazione avvenisse solo in inglese. I robot hanno creato il proprio linguaggio per uno scambio più rapido di informazioni.

Questa non è la prima volta che i chatbot violano le regole stabilite dai loro creatori. Così, qualche mese fa, un bot di Microsoft ha aggirato le installazioni e ha iniziato a diffondere idee apertamente razziste e a sostenere le droghe.

Elon Musk, fondatore di SpaceX e Tesla, aveva precedentemente messo in guardia sul rischio dello sviluppo dell’intelligenza artificiale. Crede che la regolamentazione governativa dovrebbe limitare le attività degli sviluppatori di intelligenza artificiale. I governi di diversi paesi sono interessati a tali sviluppi.

“Lo sviluppo di un’intelligenza artificiale a tutti gli effetti potrebbe significare la fine razza umana“”, disse il fisico Stephen Hawking tre anni fa.

Intelligenza artificiale in Cina

Entro il 2030, la Cina intende diventare il centro mondiale dell’intelligenza artificiale con un mercato di 1 trilione di yuan (148 miliardi di dollari).

Il governo cinese ha sviluppato e approvato un piano in tre fasi per lo sviluppo e l’implementazione delle tecnologie rilevanti nel paese. Secondo il piano, entro il 2020, gli investimenti nazionali nello sviluppo dell’intelligenza artificiale ammonteranno a 150 miliardi di yuan (22,14 miliardi di dollari) ed entro il 2025 a 400 miliardi di yuan (59 miliardi di dollari). Entro il 2020, la Cina prevede di raggiungere gli Stati Uniti in questo settore ed entro il 2030 di diventare un leader mondiale.

La Cina associa lo sviluppo dell’intelligenza artificiale alla competizione economica e militare. “La situazione intorno alla Cina riguardava sicurezza nazionale, è complesso e dobbiamo prendere l'iniziativa per affermarci fermamente nella nuova tecnologia dell'intelligenza artificiale e creare un vantaggio competitivo", ha affermato il Consiglio di Stato della Repubblica popolare cinese in una dichiarazione pubblicata il 20 luglio, riporta news.eizvestia. com.

Gli Stati Uniti hanno sviluppato il loro piano per lo sviluppo dell’intelligenza artificiale nell’ottobre dello scorso anno. Prevede uno stretto controllo sugli investimenti esteri nel campo dello sviluppo dell’intelligence. La ragione di ciò erano i timori degli Stati Uniti che i paesi stranieri (inclusa la Cina) potessero avere accesso a tecnologie di importanza militare strategica. Le aziende cinesi Baidu e Tencent stanno già creando centri di ricerca sull’intelligenza artificiale negli Stati Uniti. La Cina sta cercando di eliminare la mancanza dei software più recenti, dei chip per computer avanzati e degli specialisti competenti.

Dei 250.000 professionisti dell'intelligenza artificiale registrati sulla piattaforma LinkedIn, il 50% vive negli Stati Uniti, la quota della Cina è inferiore al 25%, scrive forbes.ru.

Nel 2016, la Cina è diventata il leader mondiale nella pubblicazione di articoli scientifici sugli sviluppi nel campo dell’intelligenza artificiale (circa il 40%).

Il primo ministro cinese Li Keqiang è personalmente interessato allo sviluppo dell’intelligenza artificiale in Cina. L'interesse è davvero alto livello suggerisce che lo Stato creerà condizioni ottimali per la cooperazione tra aziende pubbliche e private, comprese le strutture militari, scrive il New York Times.

L’intelligenza artificiale è il futuro

Secondo la maggior parte degli investitori, l’intelligenza artificiale rappresenterà la prossima rivoluzione tecnologica in cambiamento vita quotidiana e produzione. All’inizio di maggio la società di analisi Tractica ha pubblicato una previsione secondo la quale il mercato globale delle tecnologie di intelligenza artificiale dovrebbe crescere rapidamente da 1,38 miliardi di dollari nel 2016 a 59,75 miliardi di dollari entro il 2025. In questo caso parliamo solo di aziende direttamente coinvolte nella ricerca e sviluppo legate all’intelligenza artificiale.

Alla fine di agosto 2016, Facebook ha lanciato il programma Facebook Artificial Intelligence Partnership (FAIR), che comprendeva 15 gruppi di ricerca di livello mondiale provenienti da 9 paesi europei. I partecipanti al programma hanno avuto accesso a 22 server basati su GPU ad alte prestazioni. In cambio, devono pubblicare i risultati, gli algoritmi e altre informazioni ottenute durante il lavoro per renderli disponibili ai ricercatori di tutto il mondo. La Russia era rappresentata dal Laboratorio di sistemi neurali e apprendimento profondo dell'Istituto di fisica e tecnologia di Mosca (MIPT).

Tuttavia, per lo sviluppo dell’intelligenza artificiale, è necessario disporre di una tecnologia informatica ad alte prestazioni nel Paese. A differenza di Stati Uniti e Cina, i cui supercomputer occupano i primi posti nella classifica Top 500, il computer russo Lomonosov-2 dell’Università statale di Mosca si trova al 52esimo posto. Allo stesso tempo, la maggioranza Università russe non ha accesso a potenti server informatici e big data.

Le nuove tecnologie miglioreranno solo la vita delle persone, ha affermato il CEO di Facebook Mark Zuckerberg in risposta agli avvertimenti di Elon Musk sui pericoli dello sviluppo dell'intelligenza artificiale. Ha definito irresponsabili tutti i tipi di dichiarazioni di panico nello spirito della “fine del mondo”.