Kontakti      O sajtu

Claude Shannon kratka biografija i zanimljive činjenice. Teorija informacija Claude Shannon-a 4 Claude Shannon osnivač teorije statističkih informacija

Claude Elwood Shannon - vodeći američki naučnik u oblasti matematike, inženjerstva, kriptoanalitike.

Svjetsku slavu stekao je zahvaljujući svojim otkrićima u oblasti informacionih tehnologija i izum "bita" (1948.), kao najmanju informacijsku jedinicu. Smatra se osnivačem teorije informacija, čije su glavne odredbe još uvijek relevantne u dijelu visokotehnoloških komunikacija i modernih komunikacija.

Shannon je također bila koncept "entropije" je prvi put uveden, što označava neograničenu količinu prenesenih informacija.

Ovaj naučnik je prvi primenio naučni pristup informacionim idejama i zakonima kriptografije, potkrepljujući svoja razmišljanja u radovima o matematičkoj teoriji komunikacije, kao i o teoriji komunikacije u tajnim sistemima.

Takođe je dao veliki doprinos razvoju kibernetike, potkrepljujući ključne tačke kao što su verovatnoća šema, naučni koncept igre, kao i razmišljanja o stvaranju automata i sistema upravljanja.

Djetinjstvo i adolescencija

Claude Shannon je rođen u Petoskeyu, Michigan, SAD. Desio se ovaj radosni događaj 30.04.1916.

Otac budućeg naučnika bavio se poslovima u oblasti advokature, a zatim je imenovan za sudiju. Majka je predavala strani jezik i na kraju je dobila mjesto direktora škole u Gaylordu.

Shannon stariji je imao matematičke sklonosti. Ključnu ulogu u oblikovanju sklonosti njegovog unuka ka naučnoj aktivnosti imao je njegov djed, poljoprivrednik i pronalazač.

U njegovom arsenalu izrada mašine za pranje veša i neke vrste primenjenih poljoprivrednih mašina. Važno je napomenuti da Edison ima porodične veze sa ovom porodicom.

Sa 16 godina, Claude je završio srednju školu, gdje je njegova majka predavala. Uspio sam raditi kurir za Western Union, bavi se projektovanjem raznih uređaja.

Zanimao se za modeliranje aviona i radio opreme i popravku malih radio stanica. Svojim rukama napravio je radio-kontrolisani čamac i telegraf za komunikaciju sa prijateljem.

Kako sam Claude uvjerava, njega apsolutno nisu zanimale samo politika i vjera u Boga.

Studentske godine

Univerzitet u Mičigenu otvorio je svoja vrata Šenonu 1932. Studiranje ovdje ga je upoznalo sa djelima J. Boolea. Claude je diplomirao matematiku i elektrotehniku ​​1936. godine.

Njegov prvi posao bio je kao asistent istraživač na Massachusetts Institute of Technology. Klod je svoje naučne aktivnosti vodio kao operater mehaničkog kompjuterskog uređaja koji je kreirao njegov učitelj V. Buš.

Udubivši se u Booleova konceptualna naučna dostignuća, Shannon je shvatila mogućnost njihove praktične primjene. Zaštita magistarski rad 1937. koju je nadgledao Frank L. Hitchcock, preselio se u čuvene Bell Telephone Laboratories, gdje je proizvodio materijal o simboličkoj analizi u prekidačkim krugovima i korištenju releja.

Objavio ga je na stranicama posebnog časopisa Institut elektroinženjera u SAD (1938).

Otkrivene su glavne odredbe članka poboljšanje usmjeravanja telefonskih poziva, zahvaljujući zamjeni releja elektromehaničkog tipa sa sklopnim krugom. Mladi naučnik je potkrijepio koncept mogućnosti rješavanja svih problema Booleove algebre pomoću šema.

Ovaj Shannon rad je primljen Nobelova nagrada za elektrotehniku ​​(1940.) i postao osnova za stvaranje logičkih digitalnih kola u električnim kolima. Ovaj magistarski rad postao je pravi naučni iskorak dvadesetog veka, postavljajući temelje za stvaranje elektronske računarske tehnologije savremene generacije.

Bush je preporučio Shannon da nastavi disertaciju za doktorat iz matematike. Ozbiljnu pažnju posvetili su matematičkim istraživanjima u bliskoj vezi sa genetskim zakonima nasljeđivanja slavnog Mendela. Ali ovo djelo nikada nije dobilo dužno priznanje i prvi put je objavljeno tek 1993. godine.

Naučnici su uložili mnogo truda u izgradnju matematičke osnove za različite discipline, posebno za informacione tehnologije. Tome je olakšala njegova komunikacija sa istaknutim matematičarem G. Weyl, kao i J. von Neumann, Einstein, Gödel.

Ratni period

Od proljeća 1941. do 1956. Claude Shannon radi za odbranu SAD, razvijanje kontrole vatre i otkrivanja neprijatelja tokom protivvazdušne odbrane. Stvorio je stabilnu međuvladinu vezu između američkog predsjednika i britanskog premijera.

Dobio je Nacionalnu nagradu za istraživanje za svoj rad o dizajnu dvopolnih sklopnih kola (1942).

Naučnik se zainteresovao za ideje Engleza Turinga o šifrovanju govora (1943), a već 1945. objavio je rad o usrednjavanju podataka i predviđanju sistema za upravljanje vatrom. Njegovi koautori su bili Ralph B. Blackman i H. Bode. Nakon što su modelirali poseban sistem koji obrađuje informacije i posebne signale, oni započelo informatičko doba.

Tajni memorandum K. Shanona na terenu matematička teorija kriptografije(1945) su dokazali da su kriptografija i teorija komunikacije neodvojive.

Poslijeratni period

Ovo vrijeme obilježio je njegov memorandum o teoriji komunikacije sa matematičke tačke gledišta (1948) u vezi sa kodiranjem prenesenih tekstova.

Shannon je kasniji rad bio usko povezan s teorijom informacija u području razvoja igara, posebno s ruletom, mašinom za čitanje misli i o rješavanju Rubikove kocke.

Naučnik je implementirao ideju koja omogućava kompresiju informacija, čime se izbjegava njihov gubitak prilikom raspakivanja.

Naučnik je stvorio školu u kojoj je povremeno vodio seminare, gdje je podučavao studente da pronađu nove pristupe rješavanju određenih problema.

Njegova naučna istraživanja su poznata u finansijskoj matematici. Među njima, električno kolo toka novca u američkim penzionim fondovima i obrazloženje za izbor investicionog portfelja prilikom alokacije novčanih sredstava.

Mnogi uspoređuju popularnost Claudea Shanona sa Isakom Njutnom.

Nakon 1978. godine, u penziji, preuzeo je teoriju žongliranja i dizajnirao specijalnu mašinu.

Claude Shannon objavio je zbirku svojih članaka 1993. godine, gdje obuhvatio 127 njegovih naučnih radova.

Završna faza života

Proveo je svoje posljednje godine u pansionu Massachusetts zbog Alchajmerove bolesti. Ovdje je, prema riječima njegove supruge Mary Elizabeth, Claude učestvovao u istraživanju kako bi proučavao metode njenog liječenja.

Cijela porodica je stalno bila uz njega. Smrt se dogodila 24. februara 2001. godine.

Iza Shannon je ostala jedina supruga, s kojom je njegov brak trajao od marta 1949. godine. Imali su djecu troje djece Robert, Andrew, Margarita.

U 40-im godinama američki naučnik prošlog veka K. Shannon, koji se specijalizirao za pitanja kapaciteta komunikacijskih kanala i kodiranja poruka, dao je mjeri količine informacija univerzalniji oblik : količina informacija je postala shvaćena kao količina entropije za koju se ukupna entropija sistema smanjuje kao rezultat toga što ovaj sistem prima informacije. Ova formula izražava entropiju kroz zbir broja vjerovatnoća pomnoženih njihovim logaritmima, a odnosi se samo na entropiju (neizvjesnost) poruke.

Entropija – kvantitativna mjera nesigurnosti koja se uklanja prilikom dobijanja informacija.

Drugim riječima, Informativni sadržaj poruke obrnuto je proporcionalan njenoj očiglednosti, predvidljivost, vjerovatnoća: što je poruka manje predvidljiva, neočigledna i malo vjerovatna, to više informacija nosi za primaoca. Potpuno očigledna (sa vjerovatnoćom jednakom 1) poruka je prazna koliko i potpuno odsustvo takve (tj. poruka čija je vjerovatnoća očito jednaka 0). Oba su, prema Šenonovoj pretpostavci, neinformativna i ne prenose nikakvu informaciju primaocu. Iz brojnih razloga koji se odnose na matematiku i koji se odnose na pogodnost formalizacije, entropiju poruke Shannon opisuje kao funkciju distribucije slučajnih varijabli.

Članak "Matematička teorija komunikacije" objavljen je 1948. godine i učinio je Claudea Shanona svjetski poznatim. U njemu je Shannon iznio svoje ideje, koje su kasnije postale osnova modernih teorija i tehnika za obradu prijenosa i skladištenja informacija. Rezultati njegovog rada u oblasti prenosa informacija putem komunikacionih kanala pokrenuli su veliki broj studija širom sveta. Shannon je generalizirala Hartleyeve ideje i uvela koncept informacija sadržanih u prenesenim porukama. Kao mjeru informacija prenesene poruke M, Hartley je predložio korištenje logaritamske funkcije. Shannon je prva razmatrala prenesene poruke i šum u komunikacijskim kanalima sa statističke tačke gledišta, uzimajući u obzir i konačne skupove poruka i kontinuirane skupove poruka.

Teorija informacija koju je razvio Shannon pomogla je u rješavanju glavnih problema povezanih s prijenosom poruka, a to su: eliminirati suvišnost poslanih poruka, proizvesti kodiranje i prijenos poruka preko komunikacionih kanala sa šumom.

Rješavanje problema redundantnosti poruka koja se prenosi omogućava najefikasnije korištenje komunikacijskog kanala. Na primjer, moderne, široko korištene metode za smanjenje redundancije u televizijskim sistemima emitiranja danas omogućavaju prijenos do šest digitalnih komercijalnih televizijskih programa u frekvencijskom opsegu koji zauzima konvencionalni analogni televizijski signal.

Rješavanje problema prijenosa poruka preko bučnih komunikacijskih kanala pri datom omjeru snage korisnog signala prema snazi ​​signala smetnje na prijemnoj lokaciji, omogućava prijenos poruka preko komunikacijskog kanala sa proizvoljno malom vjerovatnoćom pogrešnog prijenosa poruke. Takođe, ovaj odnos određuje kapacitet kanala. To se osigurava upotrebom kodova koji su otporni na smetnje, a brzina prijenosa poruke preko datog kanala mora biti niža od njegovog kapaciteta.

Kratka biografija Claudea Shanona i zanimljive činjenice iz života američkog inženjera, kriptoanalitičara i matematičara, oca informatičkog doba, predstavljeni su u ovom članku.

Kratka biografija Claudea Shannona

Claude Elwood Shannon rođen je 30. aprila 1916. godine u gradu Petocki, Michigan. Otac mu je bio advokat, a majka predavala strane jezike. Godine 1932. mladić je završio srednju školu i istovremeno se školovao kod kuće. Klodov otac je sinu stalno kupovao radio-amaterske komplete i konstrukcione setove, promovišući njegovu tehničku kreativnost. A njegova starija sestra mu je predavala detaljne časove matematike. Stoga je ljubav prema tehnologiji i matematici bila očigledna.

Godine 1932. budući naučnik je ušao na Univerzitet u Mičigenu. U obrazovnoj ustanovi diplomirao je matematiku i elektrotehniku ​​1936. godine. Na univerzitetu je čitao djela “Logički račun” i “Matematička analiza logike” autora Georgea Boolea, što je u velikoj mjeri odredilo njegova buduća naučna interesovanja.

Ubrzo je pozvan da radi na Tehnološkom institutu u Masačusetsu kao asistent istraživač u laboratoriju za elektrotehniku. Shannon je radio na nadogradnji analognog računara, Vannevar Bushovog diferencijalnog analizatora.

Godine 1936. Claude je odlučio da upiše master program, a godinu dana kasnije napisao je svoju disertaciju. Na osnovu toga, on proizvodi članak pod naslovom “Simbolička analiza releja i sklopnih kola”, objavljen 1938. u časopisu Američkog instituta za elektrotehniku. Njegov članak privukao je interesovanje naučne elektrotehničke zajednice i 1939. godine dobio je nagradu. Alfred Nobel. Ne završivši magistarski rad, Shannon je započeo rad na svom doktoratu iz matematike, dotičući se problema u genetici. Zvala se “Algebra za teorijsku genetiku”.

Godine 1941., u dobi od 25 godina, počeo je raditi na matematičkom odjelu istraživačkog centra Bell Laboratories. U to vrijeme počela su neprijateljstva u Evropi. Amerika je finansirala Šenonovo istraživanje u oblasti kriptografije. Autor je analize šifriranih tekstova teorijskim metodama informacija. Godine 1945. naučnik je završio veliki tajni izvještaj, “Matematička teorija kriptografije”.

Koji je doprinos Klod Šenon dao kompjuterskoj nauci?

U svom istraživanju naučnik je pripremio koncepte o teoriji informacija. Godine 1948. Shannon je objavio djelo “Matematička teorija komunikacije” u kojem se matematička teorija pojavljuje kao prijemnik informacija i komunikacijski kanal za njihov prijenos. Ostaje samo da sve prevedemo na jednostavniji jezik i prenesemo naša dostignuća čovječanstvu. Claude Shannon uveo je koncept informacijske entropije, koji označava količinu, jedinicu informacije. Naučnik je rekao da mu je jedan matematičar savjetovao da koristi ovaj izraz. Claude Shannon stvorio je 6 konceptualnih teorema koje su temelj njegove teorije informacija:

  • Teorema za kvantitativnu procjenu informacija.
  • Teorema za racionalno pakovanje simbola tokom primarnog kodiranja.
  • Teorema za usklađivanje protoka informacija sa kapacitetom komunikacionog kanala bez smetnji.
  • Teorema za usklađivanje toka informacija sa kapacitetom binarnog komunikacionog kanala sa šumom.
  • Teorema za procjenu kapaciteta kontinuiranog komunikacionog kanala.
  • Teorema za rekonstrukciju kontinuiranog signala bez greške.

Godine 1956. naučnik je prestao raditi u Bell Laboratories i preuzeo poziciju profesora na dva fakulteta Massachusetts Institute of Technology: elektrotehnici i matematici.

Kada je napunio 50 godina, prestao je da predaje i potpuno se posvetio omiljenim hobijima. Napravio je monocikl sa 2 sedla, robote koji rješavaju Rubikovu kocku i žongliraju loptice, te sklopivi nož s mnogo oštrica. 1965. posjetio je SSSR. Nedavno je Claude Shannon bio veoma bolestan i umro je u februaru 2001. od Alchajmerove bolesti u staračkom domu u Massachusettsu.

Claude Shannon zanimljive činjenice

Šenonu je ljubav prema nauci usadio njegov deda. Šenonov deda je bio pronalazač i farmer. Izumio je mašinu za pranje veša zajedno sa mnogim drugim korisnim poljoprivrednim uređajima

Kao tinejdžer on radio kao glasnik u Western Unionu.

On volio je svirati klarinet, slušao muziku i čitao poeziju.

Shannon se oženio Mary Elizabeth Moore Shannon, koju je upoznao u Bell Labsu, 27. marta 1949. godine. Tamo je radila kao analitičar. Par je imao troje djece: Andrewa Moorea, Roberta Jamesa i Margaritu Katerina.

Claude Shannon je volio da ide vikendom u Las Vegas sa suprugom Betty i kolegom da igra blekdžek. Shannon i njegov prijatelj čak su dizajnirali prvi nosivi kompjuter za brojanje kartica na svijetu.

Učestvovao je u razvoju uređaja za otkrivanje neprijateljskih aviona i usmjerenih protivavionskih topova prema njima. Također je stvorio kriptografski sistem za američku vladu, osiguravajući tajnost pregovora između Roosevelta i Churchilla.

Voleo je da igra šah i žonglira. Svjedoci njegove mladosti u Bell Laboratories prisjetili su se kako se vozio po hodnicima kompanije na monociklu, žonglirajući lopticama.

Napravio je monocikl sa dva sedla, sklopivi nož sa stotinu oštrica, robote koji rešavaju Rubikovu kocku i robota koji žonglira lopticama.

Shannon je, po vlastitim riječima, bio apolitična osoba i ateista.

U starim enciklopedijama nije bilo “Informacija”. Za "poljskim inflantima" odmah su usledili "infralapsari". A kada se takav članak pojavio u javnoj publikaciji, Maloj sovjetskoj enciklopediji iz 1929., značenje pojma informacija bilo je vrlo daleko od modernog.

Informacija (lat.), svijest. Informativno - informativno. U periodici, informativni odjel je onaj dio novina, časopisa i sl., koji sadrži telegrame, prepiske, intervjue, kao i informacije koje daju novinari."

Brojni informatori tih godina, koji su radoznale organizacije dostavljali podacima o životima kolega i komšija, iz očiglednih razloga nisu objavljivani u javnim publikacijama. Ali zanimljivo je da iako je u komunikacijskoj tehnologiji, posebno u stacionarnim kanalima, Morzeov ključ do tada zamijenjen start-stop uređajima, aktivnosti gore opisanih doušnika su popularno opisane lakonski - "kucanje". Tek u sledećem veku Computerra je morala da kaže svojim čitaocima da detlić u šumi radi kao živi modem, a mudro kolektivno nesvesno već je tim brojnim i skromnim informaticima dodelilo lapidarno ime „djetlić“!

Stari Rimljani su koristili riječ informatio u smislu tumačenja, prezentacije, ali moderni, izuzetno prostran koncept informacije plod je razvoja nauke i tehnologije. Latinski in-formo (dati oblik, sastaviti, zamisliti) koristio je Ciceron i povezan je s Platonovim originalnim idejama kroz grčki, vrlo polisemantični, eidos. Ali punopravni termin „informacija“ pojavio se relativno kasno, čak i kasnije od prvih elektronskih kompjutera, atomskih kotlova i bombi.

Uveo ju je Claude Shannon u svom radu iz 1948. godine "Matematička teorija komunikacije". A oživjela ga je oštra praktična potreba da se poruke prenose kanalima punim buke. Kao i generacije ranije, potreba da se uzmu u obzir dinamičke karakteristike telegrafskih linija dovela je do genijalnih Heavisideovih radova.

Koncept informacije uveden je čisto matematički. Prilično popularan, ali i tačan koncept dat je u starom, vrlo poznatom u SSSR-u, djelu braće Yaglomov. Informacija se predstavlja kao opozicija, opozicija entropiji. Buka, haos, neizvjesnost, “neznanje”.

A entropija je uvedena u teoriju komunikacija još ranije, 1928. godine, pionirskim radom američkog inženjera elektronike Ralpha Vintona Lyona Hartleya. Napomenimo, uzgred, da je, govoreći o čisto praktičnim problemima komunikacije, Hartley spomenuo „psihološke faktore” koji utiču na mjeru neizvjesnosti. Općenito, matematički aparat koji je on (a kasnije i Shannon) koristio bila je teorija vjerovatnoće. Disciplina koja je nastala iz ljubavi francuskih aristokrata prema kockanju.

A koncept entropije u to vrijeme, čak i u fizici, imao je emocionalnu konotaciju - naravno! - uostalom, prva posljedica ove rane formulacije bilo je razumijevanje nemogućnosti stvaranja Perpetual Motion Machine druge vrste. Uređaj koji može proizvesti rad koristeći samo toplinu koja se raspršuje oko njega.

Prodor ovih koncepata u naučnu zajednicu bio je izuzetno dramatičan. Prije svega, „toplotna smrt“ Univerzuma. Da bismo zamislili kako je ovaj koncept percipiran tokom godina njegovog formulisanja, moramo se okrenuti intelektualnoj atmosferi devetnaestog veka. Iako je počelo mašinom za mlevenje mesa koju je izvršila Napoleonova vojno-birokratska mašina, ovaj vek se pokazao kao vreme trijumfa napretka.

I ovdje je sjaj napretka, blistavi put prema složenosti i sreći, provađen idejom o nesmanjenju haosa, o „toplotnoj smrti“ Univerzuma koju predviđa NAUKA. Ne, ne o Kraju religija, nakon čega slijedi novi život među novim nebesima i na novoj zemlji. O naučnom, opipljivom i beznadežnom univerzalnom uništenju, iako vrlo dalekom, ali apsolutno neizbježnom.

I nisu samo naučnici to shvatili. Okrenimo se Čehovljevom "Galebu".

Evo monologa Nine Zarečne u epizodi sa umetkom namjerno lošeg pisca: „Ljudi, lavovi, orlovi i jarebice, rogati jeleni, guske, pauci, tihe ribe koje su živjele u vodi, morske zvijezde i one koje se nisu mogle vidjeti okom - jednom rečju, svi životi, svi životi, završivši svoj tužni krug, izbledeli su...<...>Hladno, hladno, hladno. Prazan, prazan, prazan. Strašno, strašno, strašno..."

Prisjetimo se samoubistva sina K. E. Tsiolkovskog, uzrokovanog, prema biografima, užasom predstojeće "toplotne smrti". Zaista, za pristalice materijalizma, koji je bio vrlo raširen u intelektualnim krugovima tog vremena, prestanak molekularnog kretanja zbog postizanja maksimalne entropije značio je UNIVERZALNO uništenje. Život je postao besmislen za osobu sklonu generalizacijama i ekstrapolacijama.

Uvođenje koncepta entropije u prenošenju poruka od strane Ralpha Hartleya, i - Claude Shannon - njegova antiteza - same informacije, sa svom njihovom prividnom tehničkom tehnologijom, bili su događaji od kolosalnog ideološkog značaja. Po prvi put su pozitivne nauke, ruku pod ruku s inženjerstvom, tadašnjom granicom visoke tehnologije, došle tamo gdje su prije vladale filozofija, metafizika i teologija.

Najsmješnija reakcija na teoriju informacija i kibernetiku bila je u staljinističkom SSSR-u. Čini se - trijumf materijalizma. Ali to nije bio slučaj... U boljševičkoj zemlji nije bilo mjesta za teoriju informacija (kao ni za teoriju relativnosti, kvantnu mehaniku i nestacionarni univerzum) u nizu ideoloških osnova. Pa, klasici marksizma nisu imali vremena da govore o tome. A još nisu mogli... A vrlo mlada kibernetičarka proglašena je korumpiranom djevojkom imperijalizma. Pokušaji njene rehabilitacije početkom šezdesetih nisu ništa riješili. Međutim, ovo je tema za drugu raspravu.

A koncept informacija koji je uveo Shannon, nakon što je transformirao svijet oko nas, postajući osnova Druge prirode, sve se više vraća u teorijsku fiziku. Izraelski fizičar, tvorac termodinamičke teorije crnih rupa Jacob David Bekenstein (Bekenstein, rođen 1947.) sugerirao je5 da je ovo opći trend u modernoj prirodnoj nauci.

U fenomenu „kvantnog zapleta“ čestica, informacija se pojavljuje u jednom od svojih novih odjevnih predmeta, a možda i s novim obilježjima njenog karaktera. Ali najvažnije je da što više saznajemo o svom okruženju, to jasnije vidimo duboke veze informacija s objektivnim svijetom.

Iz časopisa "Computerra"
Informacije zauvijek

Ralph Hartley

Ralph. Hartley je rođen u Spruceu, Nevada, 30. novembra 1888. Diplomirao je sa diplomom A.B. sa Univerziteta Utah 1909. godine. Kao stipendista Rhodesa, stekao je titulu B.A. 1912. godine i dipl. 1913. sa Univerziteta u Oksfordu. Nakon povratka iz Engleske, Hartley se pridružio istraživačkoj laboratoriji Western Electric Company i učestvovao u stvaranju radio prijemnika za transatlantske testove. Tokom Prvog svjetskog rata, Hartley je riješio probleme koji su ometali razvoj zvučnih tražila smjera.

Nakon rata, naučnik se uhvatio u koštac s problemom prenošenja informacija (posebno zvuka). U tom periodu je formulisao zakon "da je ukupna količina informacija koja se može prenijeti proporcionalna frekventnom opsegu koji se prenosi i vremenu prenosa". Hartley je bio pionir na polju teorije informacija. Uveo je koncept "informacije" kao slučajne varijable i bio je prvi koji je pokušao da definiše "mjeru informacije" (1928: "Transmission of Information", u Bell System Technology. Journal, vol. 7, str. 535- 563). Objavljujući u istom časopisu kao i Nyquist, a opet bez citiranja Nyquista (ili bilo koga drugog, u tom slučaju), Hartley je razvio koncept informacija zasnovan na "fizičkim u suprotnosti sa psihološkim razmatranjima" za upotrebu u proučavanju elektronskih komunikacija. U stvari, Hartley definira ovaj osnovni koncept u skladu s tim. Umjesto toga, on se poziva na "tačnost... informacija" i "kvantitet informacija".

Informacije postoje u prenošenju simbola, sa simbolima koji imaju "specifična značenja za poruku stranke". Kada neko primi informaciju, svaki primljeni simbol omogućava primaocu da "eliminiše mogućnosti" eliminacijom drugih mogućih simbola i njihovih pridruženih značenja. "

Tačnost informacija ovisi o tome koji su drugi nizovi simbola možda odabrani"; mjera ovih drugih nizova daje indikaciju količine informacija koje se prenose. Nyquist zatim predlaže da uzmemo "kao našu praktičnu mjeru informacije logaritam broj mogućih nizova simbola." Dakle, da imamo 4 različita simbola koja se pojavljuju sa jednakom frekvencijom, to bi predstavljalo 2 bita Hartley je nagrađen nagradama za izvrsnost u nauci, ovaj naučnik je bio član Američkog udruženja za unapređenje nauke. Hartley posjeduje više od 70 patenata (pronalazaka).Ralph W. L. Hartley je umro 1. maja 1970. godine u 81. godini.

Claude Elwood Shannon


Claude Ellwood Shannon (1916 - 2001) - američki inženjer i matematičar. Čovjek kojeg nazivaju ocem modernih teorija informacija i komunikacija.

Jesenjeg dana 1989. dopisnik časopisa Scientific American ušao je u staru kuću s pogledom na jezero sjeverno od Bostona. Ali vlasnik koji ga je upoznao, 73-godišnji vitki starac bujne sijede grive i nestašnog osmijeha, uopće se nije želio prisjećati "afera prošlih dana" i raspravljati o svojim naučnim otkrićima od 30-50 godina. prije. Možda bi gost radije pogledao svoje igračke?

Ne čekajući odgovor i ne slušajući opomene supruge Beti, vlasnik je zadivljenog novinara odveo u susednu prostoriju, gde je sa ponosom desetogodišnjeg dečaka pokazao svoje blago: sedam šahovskih mašina, cirkuski motka sa oprugom i benzinskim motorom, sklopivi nož sa stotinu oštrica, dvosed, maneken za žongliranje, kao i kompjuter za računanje u rimskom brojevnom sistemu. I nema veze što su mnoge kreacije ovih vlasnika odavno pokvarene i prilično prašnjave - sretan je.

Ko je ovaj starac? Da li je on zaista bio taj koji je, još kao mladi inženjer u Bell Laboratories, napisao “Magna Carta” informatičkog doba – “Matematičku teoriju komunikacija” 1948. godine? Je li njegov rad nazvan „najvećim djelom u analima tehničke misli“? Da li je njegova pionirska intuicija bila u poređenju sa genijalnošću Ajnštajna? Da, sve je o njemu. Istih 40-ih dizajnirao je leteći disk na raketnom motoru i vozio se, žonglirajući, na monociklu po hodnicima Bell Labsa. Ovo je Claude Ellwood Shannon, otac kibernetike i teorije informacija, koji je ponosno izjavio: "Uvijek sam slijedio svoje interese ne razmišljajući o tome koliko će me koštati ili njihovu vrijednost za svijet. Izgubio sam puno vremena na potpuno beskorisne stvari.”

Claude Shannon je rođen 1916. godine i odrastao je u Gaylordu, Michigen. Još u djetinjstvu, Klod se upoznao i sa detaljima tehničkih struktura i sa opštošću matematičkih principa. Neprestano je petljao po detektorskim prijemnicima i radio aparatima koje mu je doneo njegov otac, sudijski pomoćnik, i rešavao matematičke probleme i zagonetke kojima ga je snabdevala starija sestra Ketrin, koja je kasnije postala profesor matematike. Claude se zaljubio u ova dva svijeta, toliko različita jedan od drugog - tehnologiju i matematiku.

Kao student na Univerzitetu u Mičigenu, gde je diplomirao 1936. godine, Klod je diplomirao i matematiku i elektrotehniku. Ova dvojnost interesa i obrazovanja odredila je prvi veliki uspjeh koji je Claude Shannon postigao tokom diplomiranja na Massachusetts Institute of Technology. U svojoj disertaciji, odbranjenoj 1940. godine, dokazao je da se rad prekidača i releja u električnim kolima može predstaviti pomoću algebre, koju je sredinom 19. stoljeća izumio engleski matematičar George Boole. „Desilo se da niko drugi nije bio upoznat sa obe oblasti u isto vreme!“ - skromno je Šenon objasnio razlog svog otkrića.

Danas je potpuno nepotrebno čitaocima kompjuterske publikacije objašnjavati šta Booleova algebra znači za moderna kola. Godine 1941. 25-godišnji Claude Shannon otišao je da radi u Bell Laboratories. Tokom rata bio je uključen u razvoj kriptografskih sistema, a to mu je kasnije pomoglo da otkrije metode kodiranja za ispravljanje grešaka. A u slobodno vrijeme počeo je razvijati ideje koje su kasnije rezultirale teorijom informacija. Šenonov prvobitni cilj bio je da poboljša prenos informacija preko telegrafskog ili telefonskog kanala na koji utiče električni šum. Brzo je došao do zaključka da je najbolje rješenje problema efikasnije pakovanje informacija.

Ali šta je informacija? Kako izmjeriti njegovu količinu? Shannon je morao odgovoriti na ova pitanja čak i prije nego što je počeo istraživati ​​kapacitet komunikacijskih kanala. U svojim radovima iz 1948-49, on je definisao količinu informacija kroz entropiju - veličinu poznatu u termodinamici i statističkoj fizici kao mera neuređenosti sistema, i uzeo kao jedinicu informacije ono što je kasnije nazvano "bit" , odnosno izbor jedne od dvije jednako vjerovatne opcije. Šenon je kasnije voleo da kaže da ga je da koristi entropiju savetovao čuveni matematičar Džon fon Nojman, koji je svoje savete motivisao činjenicom da malo matematičara i inženjera zna za entropiju, a to bi Šenonu pružilo veliku prednost u neizbežnim sporovima. Bilo da se radi o šali ili ne, koliko nam je sada teško zamisliti da je prije samo pola stoljeća koncept „količine informacija“ još uvijek trebao strogu definiciju i da bi ta definicija mogla izazvati kontroverze.

Na čvrstoj osnovi svoje definicije količine informacija, Claude Shannon je dokazao nevjerovatnu teoremu o kapacitetu bučnih komunikacijskih kanala. Ova teorema je u cijelosti objavljena u njegovim radovima iz 1957-61. i sada nosi njegovo ime. Šta je suština Šenonove teoreme? Svaki bučni komunikacijski kanal karakterizira njegova maksimalna brzina prijenosa informacija, nazvana Šenonova granica. Pri brzinama prijenosa iznad ove granice, greške u prenesenim informacijama su neizbježne. Ali odozdo, ovoj granici se može prići koliko god se želi, dajući odgovarajućim kodiranjem informacija proizvoljno malu vjerovatnoću greške za bilo koji kanal sa šumom.

Ispostavilo se da su ove Shanonove ideje bile previše vizionarske i nisu mogle naći primjenu u godinama spore cijevne elektronike. Ali u naše vrijeme mikrokola velike brzine, oni rade svuda gdje se informacije pohranjuju, obrađuju i prenose: u kompjuteru i laserskom disku, u faks mašini i međuplanetarnoj stanici. Ne primećujemo Šenonov teorem, kao što ne primećujemo vazduh.

Pored teorije informacija, neodoljivi Shannon je radio na mnogim područjima. Bio je jedan od prvih koji je sugerisao da mašine mogu da igraju igrice i da same uče. Godine 1950. napravio je mehaničkog miša Tezeja, koji je daljinski upravljan složenim elektronskim kolom. Ovaj miš je naučio da pronađe izlaz iz lavirinta. U čast njegovog izuma, IEEE je uspostavio međunarodno takmičenje u mikromiševima, koje još uvijek pohađa hiljade studenata inženjerskih nauka. Istih 50-ih Shannon je stvorio mašinu koja "čita misli" kada igra "novčić": osoba je mislila na "glave" ili "repove", a mašina je pogađala sa vjerovatnoćom većom od 50%, jer osoba ne može izbjeći što - ili šablone koje mašina može da koristi.

Shannon je napustio Bell Labs 1956. i postao profesor na Massachusetts Institute of Technology sljedeće godine, gdje se penzionisao 1978. Među njegovim studentima bili su posebno Marvin Minsky i drugi poznati naučnici koji rade na polju veštačke inteligencije.

Šenonovi radovi, prema kojima se naučnici odnose sa poštovanjem, podjednako su zanimljivi i za specijaliste koji rešavaju isključivo primenjene probleme. Shannon je također postavio temelje za moderno kodiranje za ispravljanje grešaka, koje je od suštinskog značaja za svaki hard disk ili video sistem za striming danas, a možda i za mnoge proizvode koji tek trebaju ugledati svjetlo dana.

Na MIT-u iu penziji, bio je potpuno opčinjen svojom doživotnom strašću za žongliranjem. Šenon je napravio nekoliko mašina za žongliranje, pa čak i stvorio opštu teoriju žongliranja, što mu, međutim, nije pomoglo da obori lični rekord - žongliranje sa četiri loptice. Okušao se i u poeziji, a razvio je i razne berzanske modele i testirao ih (po njemu uspješno) na vlastitim dionicama.

Ali od ranih 60-ih, Shannon nije uradila gotovo ništa više u teoriji informacija. Izgledalo je kao da se umorio od teorije koju je stvorio nakon samo 20 godina. Ovaj fenomen nije neuobičajen u svijetu nauke, a u ovom slučaju kažu jednu riječ o naučniku: pregorio. Kao sijalica, ili šta? Čini mi se da bi bilo tačnije porediti naučnike sa zvijezdama. Najmoćnije zvijezde ne sijaju dugo, oko stotinu miliona godina, a svoj stvaralački život završavaju eksplozijom supernove, tokom koje dolazi do nukleosinteze: cijeli periodni sistem rađa se iz vodonika i helijuma. Ti i ja smo sastavljeni od pepela ovih zvijezda, a naša civilizacija se također sastoji od proizvoda brzog sagorijevanja najmoćnijih umova. Postoje zvijezde druge vrste: one gore ravnomjerno i dugo, i milijardama godina daju svjetlost i toplinu naseljenim planetama (barem jednoj). Istraživači ovog tipa su takođe veoma potrebni nauci i čovečanstvu: oni daju civilizaciji energiju razvoja. A trećerazredne zvijezde - crveni i smeđi patuljci - sijaju i griju malo, tik ispod glasa. Ima dosta takvih naučnika, ali je jednostavno nepristojno govoriti o njima u članku o Šenon.

Godine 1985. Claude Shannon i njegova supruga Betty neočekivano su prisustvovali Međunarodnom simpozijumu o teoriji informacija u engleskom gradu Brightonu. Shannon se nije pojavljivao na konferencijama skoro čitavu generaciju, a u početku ga niko nije prepoznao. Onda su učesnici simpozijuma počeli da šapuću: onaj skromni sedokosi gospodin tamo je Claude Elwood Shannon, isti! Na banketu, Šenon je rekla nekoliko reči, malo žonglirala sa tri (avaj, samo tri) lopte, a zatim potpisala stotine autograma zaprepašćenim inženjerima i naučnicima koji su se poređali u dugačkom redu. Oni koji su stajali u redu rekli su da su doživjeli ista osjećanja koja bi doživjeli i fizičari da se na njihovoj konferenciji pojavi i sam Sir Isaac Newton.

Claude Shannon umro je 2001. godine u staračkom domu u Massachusettsu od Alchajmerove bolesti u 84. godini.

Na osnovu materijala iz članka Sergeja Serija u novinama Computer News, br. 21, 1998.
Adresa web stranice:

naučna oblast: Mjesto rada: Alma mater: Poznat kao: Nagrade i nagrade


  • Nagrada nazvana po A. Nobel AIEE (1940);
  • Nagrada u spomen na M. Libmana (engleski) ruski IRE (1949);
  • IEEE Medalja časti (1966.);
  • Nacionalna medalja nauke (1966.);
  • Nagrada Harvey (1972.);
  • Kyoto nagrada (1985.).

Biografija

1985. Claude Shannon i njegova supruga Betty prisustvuju Međunarodnom simpozijumu o teoriji informacija u Brightonu. Shannon dugo nije prisustvovao međunarodnim konferencijama, a u početku ga nisu ni prepoznali. Na banketu je Claude Shannon održao kratak govor, žonglirao sa samo tri loptice, a zatim podijelio stotine i stotine autograma zadivljenim naučnicima i inženjerima koji su stajali u dugom redu, osjećajući strahopoštovanje prema velikom naučniku, upoređujući ga sa Sirom. Isaac Newton.

Bio je programer prve industrijske igračke sa radio-kontrolom, koja je proizvedena 50-ih godina u Japanu (fotografija). Razvio je i uređaj koji je mogao savijati Rubikovu kocku (fotografija), mini kompjuter za društvenu igru ​​Hex, koja je uvijek pobjeđivala protivnika (fotografija), mehanički miš koji je mogao pronaći izlaz iz lavirinta (fotografija). Realizovao je i ideju o strip mašini "Ultimate Machine" (fotografija).

Teorija komunikacije u tajnim sistemima

Šenonov rad "Teorija komunikacije u tajnim sistemima" (1945), klasifikovan kao "tajna", sa kojeg je skinuta poverljivost i objavljen tek 1949. godine, poslužio je kao početak opsežnog istraživanja u teoriji kodiranja i prenosa informacija, a u opšteg mišljenja, dao je kriptografiji status nauke. Claude Shannon je bio taj koji je prvi počeo proučavati kriptografiju koristeći naučni pristup. U ovom članku Shannon je definirao temeljne koncepte teorije kriptografije, bez kojih kriptografija više nije zamisliva. Šenonova značajna zasluga je istraživanje apsolutno sigurnih sistema i dokaz njihovog postojanja, kao i postojanja kriptografski jakih šifri i uslova potrebnih za to. Shannon je također formulirao osnovne zahtjeve za jake šifre. Uveo je sada poznate koncepte raspršivanja i miješanja, kao i metode za kreiranje kriptografski jakih sistema šifriranja zasnovanih na jednostavnim operacijama. Ovaj članak je početna tačka za proučavanje nauke o kriptografiji.

Članak "Matematička teorija komunikacije"

  • Nyquist-Shannonova teorema (u literaturi na ruskom jeziku - Kotelnikova teorema) govori o nedvosmislenoj rekonstrukciji signala iz njegovih diskretnih uzoraka.
  • (ili teorema tihog šifriranja) postavlja granicu za maksimalnu kompresiju podataka i numeričku vrijednost za Šenonovu entropiju.
  • Shannon-Hartleyeva teorema

vidi takođe

  • Whittaker-Shannon interpolacijska formula

Bilješke

Književnost

  • Shannon C. E. Matematička teorija komunikacije // Bell System Technical Journal. - 1948. - T. 27. - P. 379-423, 623-656.
  • Shannon C. E. Komunikacija u prisustvu buke // Proc. Institut za radio inžinjere. - Jan. 1949. - T. 37. - Br. 1. - Str. 10-21.
  • Shannon K. Radi na teoriji informacija i kibernetici. - M.: Izdavačka kuća za stranu književnost, 1963. - 830 str.

Linkovi

  • Bibliografija (engleski)

Kategorije:

  • Ličnosti po abecednom redu
  • Naučnici po abecedi
  • Rođen 30. aprila
  • Rođen 1916. godine
  • Rođen u Mičigenu
  • Umro 24. februara
  • Umro 2001
  • Smrtni slučajevi u Massachusettsu
  • američki matematičari
  • Teorija informacija
  • Kriptografi
  • kibernetika
  • Pioniri kompjuterske tehnologije
  • Istraživači umjetne inteligencije
  • Naučnici u oblasti sistemske nauke
  • MIT alumni
  • Alumni Univerziteta u Mičigenu
  • MIT fakultet
  • Članovi i dopisni članovi Nacionalne akademije nauka SAD
  • Strani stipendisti Kraljevskog društva u Londonu
  • Matematičari 20. veka
  • Dobitnici nagrade Harvey
  • Dobitnici američke nacionalne medalje nauke
  • Primaoci IEEE Medalja časti
  • Osobe: Kompjuterski šah
  • američki elektroinženjeri

Wikimedia fondacija. 2010.

Podijelite sa prijateljima ili sačuvajte za sebe:

Učitavanje...