Jedno od područja koja najviše obećavaju za razvoj fundamentalno novih arhitektura računalnih sustava usko je povezano sa stvaranjem nove generacije računala temeljenih na načelima obrade informacija ugrađenih u umjetne neuronske mreže(NS). Prvi praktični rad na umjetnim neuronskim mrežama i neuroračunalima započeo je još 40-ih i 50-ih godina prošlog stoljeća. Neuronska mreža obično se shvaća kao skup elementarnih pretvarača informacija, nazvanih "neuroni", koji su na određeni način međusobno povezani kanalima za razmjenu informacija "sinaptičkim vezama".

Neuron, u biti, je elementarni procesor karakteriziran ulaznim i izlaznim stanjima, prijenosnom funkcijom (aktivacijska funkcija) i lokalnom memorijom. Stanja neurona se mijenjaju tijekom rada i čine kratkoročnu memoriju neuronske mreže. Svaki neuron izračunava ponderirani zbroj signala koji do njega stižu putem sinapsi i na njemu izvodi nelinearnu transformaciju. Kada se šalju kroz sinapse, signali se množe s određenim težinskim faktorom. Distribucija težinskih koeficijenata sadrži informacije pohranjene u asocijativnoj memoriji neuronske mreže. Glavni element dizajna mreže je njeno osposobljavanje. Prilikom obuke i prekvalifikacije neuronske mreže mijenjaju se njezini težinski koeficijenti. Međutim, oni ostaju konstantni tijekom funkcioniranja neuronske mreže, tvoreći dugoročno pamćenje.

N C se može sastojati od jednog sloja, dva sloja, tri ili više, međutim, u pravilu, više od tri sloja u NN nije potrebno za rješavanje praktičnih problema.

Broj NN ulaza određuje dimenziju hiperprostora, u kojem se ulazni signali mogu prikazati točkama ili hiperregijama blisko razmaknutih točaka. Broj neurona u mrežnom sloju određuje broj hiperravni u hiperprostoru. Izračunavanje ponderiranih zbrojeva i izvođenje nelinearne transformacije omogućuju određivanje na kojoj se strani određene hiperravnine nalazi točka ulaznog signala u hiperprostoru.

Uzmimo klasični problem prepoznavanja uzoraka: određivanje pripada li točka jednoj od dvije klase. Ovaj problem se prirodno rješava pomoću jednog neurona. To će omogućiti da se hiperprostor podijeli u dvije hiperregije koje se ne sijeku i nisu ugniježđene. U stvarnosti, ulazni signali u problemima koji se rješavaju pomoću neuronskih mreža tvore visoko ugniježđena ili presijecajuća područja u hiperprostoru, koja se ne mogu odvojiti pomoću jednog neurona. To se može učiniti samo crtanjem nelinearne hiperpovršine između regija. Može se opisati pomoću polinoma n-tog reda. Međutim, funkcija snage izračunava se presporo i stoga je vrlo nezgodna za računanje. Alternativna opcija je aproksimacija hiperpovršine linearnim hiperravninama. Jasno je da točnost aproksimacije ovisi o broju korištenih hiperravnina, što pak ovisi o broju neurona u mreži. Stoga se javlja potreba za hardverskom implementacijom što većeg broja neurona u mreži. Broj neurona u jednom sloju mreže određuje njezinu rezoluciju. Jednoslojna neuronska mreža ne može razdvojiti linearno ovisne slike. Stoga je važno moći implementirati višeslojne neuronske mreže u hardver.

I umjetne neuronske mreže imaju nevjerojatna svojstva. Ne zahtijevaju detaljan razvoj softvera i otvaraju mogućnost rješavanja problema za koje ne postoje teorijski modeli ili heuristička pravila koja određuju algoritam rješenja. Takve mreže imaju sposobnost prilagodbe promjenama radnih uvjeta, uključujući pojavu prethodno nepredviđenih čimbenika. NN su po svojoj prirodi sustavi s vrlo visokom razinom paralelizma.

U neuroračunala koriste se principi obrade informacija koji se provode u realnim neuronskim mrežama. Ovi temeljno novi računalni alati s nekonvencionalnom arhitekturom omogućuju visokoučinkovitu obradu velikih informacijskih nizova. Za razliku od tradicionalnih računalnih sustava, računala s neuronskim mrežama, slično kao i neuronske mreže, omogućuju veću brzinu obrade informacijskih tokova diskretnih i kontinuiranih signala, sadrže jednostavne računalne elemente i s visokim stupnjem pouzdanosti omogućuju rješavanje informacijskih problema obrade podataka, dok osiguravajući način samorestrukturiranja računalne okoline u ovisnosti o dobivenim rješenjima.

Općenito govoreći, termin "neuroračunalo" trenutno označava prilično široku klasu računala. To se događa iz jednostavnog razloga što se formalno svaka hardverska implementacija algoritma neuronske mreže može smatrati neuroračunalom, od jednostavnog modela biološkog neurona do sustava za prepoznavanje znakova ili pokretnih meta. Neuroračunala nisu računala u konvencionalnom smislu riječi. Trenutno tehnologija još nije dosegla stupanj razvoja na kojem bi se moglo govoriti o neuroračunalu opće namjene (što bi ujedno bilo i umjetna inteligencija). Sustavi s fiksnim vrijednostima težinskih koeficijenata općenito su najviše specijalizirani u obitelji neuronskih mreža. Mreže za učenje fleksibilnije su za različite probleme koje rješavaju. Stoga je konstrukcija neuroračunala svaki put najšire područje istraživanja u području hardverske implementacije gotovo svih elemenata neuronske mreže.

Početkom 21. stoljeća, za razliku od 40-50-ih godina prošlog stoljeća, postoji objektivna praktična potreba za učenjem izrade neuroračunala, tj. potrebno je hardverski implementirati dosta paralelno djelujućih neurona, s milijunima fiksnih ili paralelnih adaptivno modificiranih veza-sinapsi, s nekoliko potpuno povezanih slojeva neurona. U isto vrijeme, tehnologija integrirane elektronike blizu je iscrpljivanja svojih fizičkih mogućnosti. Geometrijske dimenzije tranzistora više se ne mogu fizički reducirati: kod tehnološki ostvarivih veličina reda veličine 1 mikrona ili manje, pojavljuju se fizikalni fenomeni koji su kod velikih veličina aktivnih elemenata nevidljivi - počinju snažno djelovati kvantni učinci veličine. Tranzistori prestaju raditi kao tranzistori.

Za hardversku implementaciju NN-a potreban je novi medij za pohranu. Takav bi novi nositelj informacija mogao biti svjetlo, što će dramatično povećati računalne performanse za nekoliko redova veličine.

Jedina tehnologija za hardversku implementaciju neuronskih mreža koja u budućnosti može zamijeniti optiku i optoelektroniku je nanotehnologija, sposoban pružiti ne samo fizički maksimalni mogući stupanj integracije submolekularnih kvantnih elemenata s fizički maksimalnom mogućom brzinom, već i trodimenzionalnu arhitekturu tako potrebnu za hardversku implementaciju neuronske mreže.

Dugo se vremena vjerovalo da su neuroračunala učinkovita za rješavanje takozvanih neformalizibilnih i slabo formalizibilnih problema povezanih s potrebom uključivanja procesa učenja korištenjem stvarnog eksperimentalnog materijala u algoritam za rješavanje problema. Prije svega, takvi problemi uključuju zadatak aproksimacije određenog oblika funkcija koje uzimaju diskretan skup vrijednosti, tj. problem prepoznavanja uzoraka.

Trenutno se ovoj klasi problema dodaje klasa problema, koji ponekad ne zahtijevaju obuku na eksperimentalnom materijalu, ali su dobro predstavljeni u logičkoj osnovi neuronske mreže. To uključuje zadaci s izraženim prirodnim paralelizmom obrade signala, obrade slike itd.. Gledište da će u budućnosti neuroračunala biti učinkovitija od drugih arhitektura može se potvrditi, posebno, naglim širenjem klase općih matematičkih problema koji se rješavaju u logičkoj osnovi neuralne mreže posljednjih godina. Oni, uz gore navedene, uključuju probleme rješavanja linearnih i nelinearnih algebarskih jednadžbi i nejednakosti velikih razmjera; sustavi nelinearnih diferencijalnih jednadžbi; parcijalne diferencijalne jednadžbe; probleme optimizacije i druge probleme.

Neuronska mreža obično se shvaća kao skup elementarnih pretvarača informacija, zvanih "neuroni", koji su na određeni način međusobno povezani kanalima za razmjenu informacija - "sinaptičkim vezama".

Neuron je u biti elementarni procesor karakteriziran ulaznim i izlaznim stanjem, prijenosnom funkcijom (aktivacijska funkcija) i lokalnom memorijom.

Riža. 8.1.

Stanja neurona se mijenjaju tijekom rada i čine kratkoročnu memoriju neuronske mreže. Svaki neuron izračunava ponderirani zbroj signala koji do njega stižu putem sinapsi i na njemu izvodi nelinearnu transformaciju. Kada se šalju kroz sinapse, signali se množe s određenim težinskim faktorom. Distribucija težinskih koeficijenata sadrži informacije pohranjene u asocijativnoj memoriji neuronske mreže. Glavni element dizajna mreže je njeno osposobljavanje. Prilikom obuke i prekvalifikacije neuronske mreže mijenjaju se njezini težinski koeficijenti. Međutim, oni ostaju konstantni tijekom funkcioniranja neuronske mreže, tvoreći dugoročno pamćenje.

NN se može sastojati od jednog sloja, dva, tri ili više slojeva, međutim, u pravilu više od tri sloja u NN nije potrebno za rješavanje praktičnih problema.

Broj NS ulaza određuje dimenziju hiperprostor, u kojem se ulazni signali mogu prikazati točkama ili hiperregijama blisko razmaknutih točaka. Broj neurona u mrežnom sloju određuje broj hiperravnine V hiperprostor. Izračunavanje ponderiranih iznosa i izvođenje nelinearne transformacije omogućuju određivanje na kojoj se strani određene hiperravnine nalazi točka ulaznog signala hiperprostor.

Riža. 8.2.

Uzmimo klasični problem prepoznavanja uzoraka: određivanje pripada li točka jednoj od dvije klase. Ovaj problem se prirodno rješava pomoću jednog neurona. Omogućit će vam podjelu hiperprostor u dvije disjunktne i neugniježđene hiperdomene. Formiraju se ulazni signali u problemima koji se rješavaju neuronskim mrežama hiperprostor visoko ugniježđena ili preklapajuća područja koja se ne mogu odvojiti pomoću jednog neurona. To se može učiniti samo crtanjem nelinearne hiperpovršine između regija. Može se opisati pomoću polinoma n-tog reda. Međutim, funkcija snage izračunava se presporo i stoga je vrlo nezgodna za računanje. Alternativna opcija je aproksimacija hiperpovršine linearno hiperravnine. Jasno je da točnost aproksimacije ovisi o broju korištenih hiperravnine, što pak ovisi o broju neurona u mreži. Stoga se javlja potreba za hardverskom implementacijom što većeg broja neurona u mreži. Broj neurona u jednom sloju mreže određuje njezinu rezoluciju. Jednoslojna neuronska mreža ne može razdvojiti linearno ovisne slike. Stoga je važno moći implementirati višeslojne neuronske mreže u hardver.

Riža. 8.3.

Umjetne neuronske mreže imaju nevjerojatna svojstva. Ne zahtijevaju detaljan razvoj softvera i otvaraju mogućnost rješavanja problema za koje ne postoje teorijski modeli ili heuristička pravila koja određuju algoritam rješenja. Takve mreže imaju sposobnost prilagodbe promjenama radnih uvjeta, uključujući pojavu prethodno nepredviđenih čimbenika. NN su po svojoj prirodi sustavi s vrlo visokom razinom paralelizma.

Neuroračunala koriste principe obrade informacija koja se provodi u stvarnim neuronskim mrežama. Ovi temeljno novi računalni alati s nekonvencionalnom arhitekturom omogućuju visokoučinkovitu obradu velikih informacijskih nizova. Za razliku od tradicionalnih računalnih sustava, neuronska mreža računala, slično neuronskim mrežama, omogućuju veću brzinu obrade informacijskih tokova diskretnih i kontinuiranih signala, sadrže jednostavne računske elemente i s visokim stupnjem pouzdanosti omogućuju rješavanje informacijskih problema obrade podataka, pritom osiguravajući način samorekonstrukcije računalnog okruženja ovisno o dobivenim rješenjima.

Općenito govoreći, pojam "neuralno računalo" trenutno označava prilično široku klasu računala. To se događa iz jednostavnog razloga što se formalno svaka hardverska implementacija može smatrati neuroračunalom. algoritam neuronske mreže, od jednostavnog modela biološkog neurona do sustava za prepoznavanje lika ili pokretne mete. Neuroračunala nisu računala u konvencionalnom smislu riječi. Trenutno tehnologija još nije dosegla stupanj razvoja na kojem bi se moglo govoriti o neuroračunalu opće namjene (što bi ujedno bilo i umjetna inteligencija). Sustavi s fiksnim vrijednostima težinskih koeficijenata općenito su najviše specijalizirani u obitelji neuronskih mreža. Mreže za učenje više su prilagođene različitim problemima koji se rješavaju. Mreže za učenje fleksibilnije su i sposobne rješavati različite probleme. Stoga je konstrukcija neuroračunala svaki put najšire područje istraživanja u području hardverske implementacije gotovo svih elemenata neuronske mreže.

Početkom 21. stoljeća, za razliku od 40-50-ih godina prošlog stoljeća, postoji objektivna praktična potreba za učenjem stvaranja neuroračunala, tj. potrebno je hardverski implementirati dosta paralelno djelujućih neurona, s milijunima fiksnih ili paralelnih adaptivno modificiranih veza-sinapsi, s nekoliko potpuno povezanih slojeva neurona.

U isto vrijeme, fizičke mogućnosti tehnologije integrirane elektronike nisu neograničene. Geometrijske dimenzije tranzistora više se ne mogu fizički reducirati: kod tehnološki ostvarivih veličina reda veličine 1 mikrona ili manje, pojavljuju se fizikalni fenomeni koji su kod velikih veličina aktivnih elemenata nevidljivi - počinju snažno djelovati kvantni efekti veličine. Tranzistori prestaju raditi kao tranzistori.

Za hardversku implementaciju NN-a potreban je novi medij za pohranu. Takav novi nositelj informacija mogao bi biti lagan, što bi omogućilo naglo povećanje, za nekoliko redova veličine izvođenje kalkulacije.

Jedina tehnologija za hardversku implementaciju NS-a koja u budućnosti može zamijeniti optiku i optoelektroniku je nanotehnologija, koja može pružiti ne samo fizički najveći mogući stupanj integracije submolekularnih kvantnih elemenata s fizički maksimalnom mogućom brzinom, već i trodimenzionalnu arhitekturu toliko potrebni za hardversku implementaciju NS-a.

Dugo se vremena vjerovalo da su neuroračunala učinkovita u rješavanju tzv neformalizibilni i slabo formalizibilni zadaci vezano uz potrebu uključivanja procesa učenja korištenjem stvarnog eksperimentalnog materijala u algoritam za rješavanje problema. Prije svega, takvi problemi uključivali su zadatak aproksimacije određenog oblika funkcija koje uzimaju diskretan skup vrijednosti, tj. problem prepoznavanja uzoraka.

Trenutno se ovoj klasi problema dodaje klasa problema, koji ponekad ne zahtijevaju obuku na eksperimentalnom materijalu, ali su dobro predstavljeni u logičkoj osnovi neuronske mreže. To uključuje zadatke s naglašenim prirodnim paralelizmom u obradi signala, obradi slike, itd. Gledište da će u budućnosti neuroračunala biti učinkovitija od drugih arhitektura može se potvrditi, posebno, naglim širenjem u posljednjih nekoliko godina klase opći matematički problemi riješeni u logičkoj osnovi neuronske mreže. Oni, uz gore navedene, uključuju probleme rješavanja linearnih i nelinearnih algebarskih jednadžbi i visokodimenzionalnih nejednakosti; sustavi nelinearnih diferencijalnih jednadžbi; parcijalne diferencijalne jednadžbe; probleme optimizacije i druge probleme.

Postizanje globalne dominacije temelji se na dvije glavne strategije: informacijskoj superiornosti i tehnološkoj superiornosti. Što se potonjeg tiče, prijelaz u novu društveno-ekonomsku formaciju postindustrijskog društva u prvi plan stavlja tehnologije poput genetike i bioinženjeringa, nanotehnologije i neuroinformatike.

Neuroinformatika, temeljena na principima i mehanizmima funkcioniranja mozga, može osigurati i tehnološku i informacijsku superiornost. Nije slučajno da danas neuroračunala zauzimaju jedno od najvažnijih mjesta među obećavajućim razvojem oružja i vojne opreme.

Postoji nekoliko poznatih implementacija različitih modela neuronskih mreža u neuroprocesorskim kristalima. Neki rade bolje, drugi lošije, ali svima je zajednička jedna stvar - želja da proniknu u tajne ljudskog mozga.

U Intelovim katalozima proizvoda ističu se dva razvoja koja je naručila DARPA (Agencija za napredna obrambena istraživanja): analogni neuroprocesor i80170NX i digitalni - i80160NC ili Ni1000.

Neuroprocesori su srce nove generacije računalne tehnologije – neuroračunala. Osnova za funkcioniranje takvih strojeva je modeliranje načina na koje informacije obrađuju ljudski živčani sustav i mozak. Smatra se da je taj smjer započeo 1943. godine, kada su američki znanstvenici W. McCulloch i W. Pitts objavili članak u kojem su neurone - stanice živčanog sustava - smatrali najjednostavnijim logičkim uređajima.

McCullochov i Pittsov umjetni neuron oponaša, do prve aproksimacije, svojstva biološkog neurona. Ulaz takvog umjetnog neurona prima mnogo signala, od kojih je svaki izlaz drugog neurona. Svaki ulazni signal se množi s određenim koeficijentom koji odražava doprinos tog signala vrijednosti izlaznog signala neurona. Signali koje je primio neuron i pomnoženi s odgovarajućim koeficijentima zbrajaju se, a ako je ukupni signal veći od određenog praga, neuron se aktivira i šalje jedan impuls neuronima koji su s njim povezani. Promjenom vrijednosti težinskih koeficijenata na ulazima neurona u skladu s tim, možete dobiti traženu vrijednost na mrežnom izlazu. Proces podešavanja težinskih koeficijenata naziva se trening neuronske mreže. Po analogiji s ljudskim učenjem, neuronska se mreža može trenirati s učiteljem ili samostalno, kroz samoorganizaciju.

Jednostavnost predloženog modela neurona inspirirala je brojne istraživače koji su nastojali proniknuti u tajne ljudskog mozga.

U kasnim 1950-ima Amerikanac F. Rosenblatt, pokušavajući objasniti rad biološkog neurona, predložio je njegov model - perceptron. U ranim 60-ima, matematičar R. Blok formulirao je teorem o prepoznavanju, a radio inženjer B. Widrow razvio je i implementirao prvu umjetnu neuronsku mrežu, poznatu u literaturi kao "Adaline". Također je napravio algoritam koji je uči prepoznati slike.

Međutim, do sredine 80-ih neuronske mreže nisu dobile daljnji razvoj. Utjecalo je zaostajanje prakse i teorije te nesavršenost tehnologije. Korišteni softverski modeli nisu mogli otkriti sve prednosti neuronskih mreža, a izrada njihove hardverske implementacije zahtijevala je enormne troškove s obzirom na tadašnju razinu tehnologije. Tradicionalna velika računala (mainframe) smatrala su se perspektivnijima, ali nas je brzi rast broja vrlo složenih zadataka prisilio da se ponovno okrenemo umjetnim neuronskim mrežama.

Intel je bio jedan od prvih divova računalne industrije koji se ozbiljno zainteresirao za mogućnosti umjetnih neuronskih mreža. Rad na ovoj temi započeo je 1988. godine. Sljedeće godine predstavljen je prvi radni uzorak neuroprocesora i80170NX. Godinu dana kasnije, Intel je (zajedno s Nestorom i uz financijsku potporu DARPA-e) započeo razvoj digitalnog neuročipa Ni1000, koji je 1993. najavljen kao i80160NC.

Procesor neuronske mreže i80170NX ETANN (Electrically Trainable Analog Neural Network) jedinstveni je čip dizajniran za rješavanje problema prepoznavanja uzoraka. Procesor oponaša rad 64 biološka neurona. Svaki neuron procesora ima 128 sinapsi (ulaza). Zauzvrat, svaka sinapsa povezana je s ulazom procesora putem nekog uređaja koji vam omogućuje postavljanje koeficijenta koji karakterizira snagu ove veze, što je u potpunosti u skladu s modelom koji su predložili W. McCulloch i W. Pitts. Podaci na ulazu i izlazu procesora su analogni, ali su upravljačke funkcije, podešavanje i očitavanje težinskih koeficijenata digitalni.

Neuročip je u potpunosti kompatibilan u pogledu razina radnog signala s CMOS i TTL mikrosklopovima. Ulazni signal u neuron može varirati od 0 do 2,8 V. Težine sinapse također su predstavljene naponom u rasponu od -2,5 do 2,5 V. Procesor je proizveden pomoću licencirane Intel tehnologije - CHMOS III EEPROM.

Visoko paralelna arhitektura karakteristična za neuronske mreže i niz značajki dizajna procesora omogućili su postizanje brzine od 2 milijarde operacija u sekundi! I80170NX srce je ploče neuronskog akceleratora za osobna računala. Performanse takve ploče s osam procesora su 16 milijardi operacija u sekundi! Donedavno su takve performanse bile karakteristične samo za superračunala!

Kratki tehnički detalji procesora su sljedeći:

• produktivnost 2 milijarde op./s;
• sposoban prepoznati 300 tisuća 128-bitnih slika u sekundi;
• modelira 64 neurona;
• podržava Hopfieldovu neuronsku mrežu, višeslojni perceptron i modele Madaline III.

Jednostavnost izrade aplikacija na i80170NX osigurana je prisutnošću moćnih razvojnih alata. Za projektiranje neuronskih mreža isporučuju se iNNTS (Intel Neural Network Training System) i EMB (ETANN Multi-Chip Board) paket. Paket uključuje i jedan od programa za modeliranje i proučavanje umjetnih neuronskih mreža iBrainMaker tvrtke California Scientific Software ili iDynaMind tvrtke NeuroDynamX. Oba programa imaju dobro korisničko sučelje i mogu se koristiti za demonstraciju svojstava i mogućnosti neuronskih mreža. Za istu kategoriju korisnika koji se odluče samostalno razvijati modele neuronskih mreža, postoji čitava biblioteka funkcija za upravljanje neuročipom - Training System Interface Lib (TSIL).

Još jedan Intelov razvoj u području umjetnih neuronskih mreža je procesor i80160NC. Njegova glavna razlika u odnosu na i80170NX je to što je potpuno digitalan.

Tehnički podaci i80160NC:

• interna memorija: 1 tisuća 256-bitnih slika;
• vrsta memorije: Flash EPROM;
• maksimalan fond sati: 64;
• brzina prepoznavanja: 33 tisuće slika u sekundi na frekvenciji od 33 MHz.
• Poput i80170NX, procesor i80160NC isporučuje se na ploči akceleratora neuronske mreže za osobno računalo. Karakteristike ploče su sljedeće:
• ISA sistemska sabirnica;
• radna frekvencija 33 MHz;
• brzina sabirnice 2 Mbit/s;
• snaga 8 W.

Podržan je sljedeći softver:

• MS Windows 3.1;
• MS Excel 4.0;
• MS Visual C++, Borland C++.
• Sljedeći alati za razvoj aplikacija isporučuju se s pločom:
• Asembler Ni1000;
• Ni1000 Emulator Lib.;
• Ni1000 Hardware Lib.

Program Ni1000 Emulator omogućuje debugiranje aplikacijskog koda bez korištenja procesora, a nakon završetka procesa debugiranja odmah nastavite s radom na hardveru.

Glavne karakteristike procesora i80170NX i i80160NC date su u tablici. 1.

Procesor Ni1000 razvijen je kao opcija koprocesora za zadatke prepoznavanja uzoraka i namijenjen je integraciji u prijenosne skenere visokih performansi. Korištenje tehnologije neuronskih mreža omogućilo je postizanje značajnih rezultata u rješavanju problema ove klase. Dakle, ako vam AMD29000 i i80860 RISC procesori omogućuju rješavanje nekih problema 2-5 puta brže, tada se korištenjem i80160NC brzina rješavanja sličnih problema može povećati za 100, pa čak i 1000 puta! Takve performanse omogućile su korištenje ove klase procesora za rješavanje najsloženijeg problema - prepoznavanja otiska prsta.

Što razvojnim programerima i korisnicima računala obećava pojava tako moćne obitelji procesora na tržištu? Sada postoji niz problema vrlo visoke složenosti. To uključuje vremensku prognozu, kontrolu zračnog prometa preko Atlantika uzimajući u obzir kretanje zračnih masa, računalno modeliranje nuklearnih eksplozija i mnoge druge. Donedavno su takve probleme pokušavali riješiti na superračunalima, ali cijena takve opreme je vrlo impresivna. Na sl. Slika 2 prikazuje položaj različitih superračunala ovisno o njihovoj cijeni i performansama. Jasno se vidi da je i80160NC neprikosnoveni lider. Ostavlja čudovišta poput Craya i Cyber ​​​​daleko iza sebe.

Pred razvijačima sustava umjetne inteligencije otvaraju se novi horizonti. Pojava takvih procesora znači proboj u rješavanju problema prepoznavanja slike, a time i prepoznavanja rukom pisanog teksta, govora itd. Tako su japanski stručnjaci pokazali da je pomoću neuronskih mreža moguće izvršiti simultano prevođenje s japanskog na engleski.

Prekretnica koju su Intelovi stručnjaci uspjeli postići u modeliranju neuronskih mreža može se prikazati dijagramom sličnim onome prikazanom na Sl. 3, koji uspoređuje neuronske mreže živih organizama i one simulirane korištenjem Intel procesora.

Programeri neuroprocesora u šali svoju zamisao nazivaju ništa više od "nadzvučnog puža".

Čovjekov san o stvaranju računalnog stroja koji bi mogao premašiti ili barem izjednačiti ljudske intelektualne sposobnosti i dalje je vrlo dalek. U isto vrijeme, možemo sa sigurnošću reći da je Intelov rad na stvaranju umjetnih neuronskih mreža približio trenutak kada će umjetni mozak postati srce stolnog računala.

Od izlaska Intelovih procesora u svijetu su se pojavili mnogi modeli neuroračunala; neki od njih mogu se naći u tablici. 2.

Do danas je razvijen veliki broj raznih akceleratorskih ploča i specijaliziranih neuroračunala. Neuronska računala već se koriste u raznim područjima ljudske djelatnosti. U Sjedinjenim Američkim Državama postoji sustav za otkrivanje plastičnog eksploziva u prtljazi putnika u zrakoplovu koji se temelji na neuronskoj mreži. Velika pozornost posvećena je problematici primjene neuronskih procesora u komutacijskim sustavima u podatkovnim mrežama. Postoje sustavi za identifikaciju otisaka prstiju koji koriste neuronske mreže. Literatura opisuje mnoge druge slučajeve uspješne uporabe neuronskih procesora.

Karakteristična značajka novog kruga razvoja računalne tehnologije je da donosi temeljne promjene u svijetu računalnih znanosti. Uspostavom sljedeće generacije računalne tehnologije u društvu više neće biti potrebe za zanimanjem programer, a njegovo mjesto će zauzeti specijalist za neuroračunalnu obuku. Puštanju u rad svakog novog računala prethodit će njegova obuka. Moguće je da će se pojaviti potreba za kiberpsiholozima i edukatorima neuralnog računala. Dakle, živimo na prekretnici u razvoju informatike i računalne tehnologije, a Intelovi neuronski procesori – prvi znakovi ere neuronskih računala – odigrali su značajnu ulogu u njenom dolasku.

Književnost

1. A. Thakoor et al., Pregled programa DARPA, prosinac. 1991., Washington, D.C.
2. M. Holler, S. Tam, H. Castro, R. Benson, “An Electrically Trainable Artificial Neural Network (ETANN) with 10240 “Floating Grate” Synapses,” Međunarodna združena konferencija o neuronskim mrežama, lipanj 1989., Washington, D.C.
3. Intel, i80170NX analogna neuronska mreža s električnom obukom, Intel Corp., lipanj 1991.
4. Stanly, Jeanette, Uvod u neuronske mreže, California Scientific Software, 1990.
5. Intel, Tehnologija i primjena neuronske mreže 80170NX, Intel Corp., 1992.

Sergej Grinjajev

Našim čitateljima želimo dobrodošlicu na stranice iCover bloga! Na International Solid State Circuits Conference (ISSCC-2016), održanoj u San Franciscu početkom veljače, skupina programera s MIT-a (Massachusetts Institute of Technology) demonstrirala je radni prototip nove generacije Eyeriss čipa, koji je nastao kao konceptualni rješenje koje omogućuje ponovno stvaranje mogućnosti algoritama neuronske mreže u širokom rasponu uređaja male snage.

Jedan od objektivnih razloga zašto umjetne neuronske mreže nisu dobile pravi razvoj u našim pametnim telefonima ili tabletima je nedostatak kompaktnog izvora napajanja dovoljne snage. Uostalom, tzv. brain-like, “brain-like” sustavi umjetne inteligencije, barem u obliku u kojem ih predstavljaju suvremene tehnologije, u svom radu ovise o moćnim višejezgrenim procesorima koji troše nevjerojatno mnogo energije u usporedbi s našim mozgom. Ovakva rješenja nije bilo moguće zamisliti na razini uređaja korisničke klase, barem donedavno. Istodobno, ideja o "minijaturizaciji" umjetne inteligencije već dugo uzbuđuje umove programera i, kako se pokazalo, već donosi prilično opipljive plodove.

Neuronske mreže bile su u središtu znanstvene pozornosti od ranih dana istraživanja umjetne inteligencije, ali su 1970-ih pomalo zaboravljene. U posljednjem desetljeću tehnologije vezane uz korištenje neuronskih mreža proučavane su na razini programa za “duboko učenje”.

"Duboko učenje ima mnoge primjene, kao što je prepoznavanje objekata, prepoznavanje govora ili prepoznavanje lica", primjećuju Vivienne Sze i Emanuel E. Landsman, asistent profesora elektrotehnike i računarstva na MIT-u čija je grupa razvila novi čip. “Sada su neuronske mreže prilično složene i rade uglavnom na moćnim čipovima. Zamislite da ovu funkciju možete unijeti u svoj mobilni telefon ili ugrađeni uređaj i zatim obraditi ogromne količine informacija bez korištenja Wi-Fi veze. Obradom velike količine podataka na vašem pametnom telefonu izbjeći ćete kašnjenje koje nastaje zbog razmjene podataka s mrežom, što će, opet, omogućiti mnogo učinkovitiji rad mnogih aplikacija. Osim toga, predloženo rješenje pružit će novu kvalitetu zaštite povjerljivih podataka.”

Neuronske mreže obično se implementiraju na višejezgrenim grafičkim procesorima (GPU). Na međunarodnoj konferenciji u San Franciscu istraživači MIT-a predstavili su novi čip sa 168 jezgri dizajniran za implementaciju algoritama umjetne inteligencije temeljenih na neuronskim mrežama. U usporedbi s mobilnim GPU-om (nije navedeno kojim), procesor je pokazao 10 puta veću učinkovitost, što omogućuje korištenje mobilnog uređaja korisnika za lokalno pokretanje snažnih algoritama umjetne inteligencije bez potrebe za slanjem podataka u oblak na obradu. Glavne točke razvoja prikazane su u priopćenju za tisak MIT-a od 3. veljače 2016.

Novi čip, kojeg su programeri nazvali "Eyeriss", mogao bi naći široku primjenu u Internetu stvari, nosivoj elektronici, samovozećim vozilima, proizvodnoj opremi, pa čak i u poljoprivredi, pomažući u rješavanju i koordiniranju trenutnih problema. S algoritmima umjetne inteligencije na brodu, mobilni uređaji moći će donositi odluke na lokalnoj razini, pružajući korisniku gotov rezultat kao vodič za djelovanje, umjesto skupa "sirovih" podataka s interneta. I, naravno, jedna od primjena lokalnih neuronskih mreža je njihova upotreba u stvaranju autonomnih robota za razne namjene.

Podijeli pa vladaj

Neuronske mreže obično imaju višeslojnu strukturu i svaki sloj sadrži veliki broj čvorova za obradu. U početnoj fazi obrade podaci stižu i distribuiraju se među čvorovima nižeg sloja. Nakon obrade primljenih podataka od strane svakog čvora, rezultat se prenosi na obradu u čvorove sljedećeg sloja. Na izlazu posljednjeg sloja formira se rezultat rješavanja problema. Sukladno tome, rješavanje velikih problema korištenjem opisanog algoritma zahtijeva značajne računalne resurse.

Zahtjevi koje su sami programeri prvotno postavili za čip postavili su ih u prilično strog okvir: s jedne strane, rješenje mora biti energetski učinkovito, s druge strane, mora raditi s jednostavnim blokovima informacija. Konačno, čip mora moći simulirati različite vrste neuronskih mreža, uzimajući u obzir trenutne zadatke koji su mu dodijeljeni. Svi ovi zahtjevi uspješno su implementirani u Eyeriss procesor.

Čip, razvijen u laboratoriju MIT-a, već je formirana neuronska mreža, lokalizirana na razini procesora sa 168 jezgri, koja se u budućnosti može ugrađivati ​​u mobilne uređaje.

Ključ Eyerissove učinkovitosti je minimiziranje učestalosti komunikacije između jezgri i vanjskih memorijskih banaka, operacije povezane s velikom potrošnjom energije i vremenskim troškovima. Dok tradicionalne GPU jezgre dijele zajedničku memorijsku banku, svaka Eyeriss jezgra ima vlastitu memoriju. Osim toga, podaci prolaze postupak kompresije prije slanja susjednim jezgrama.

Još jedna prednost implementiranog algoritma je sposobnost jezgri da "komuniciraju" međusobno izravno, zaobilazeći "posrednika" u obliku sabirnice sistemske memorije. Ovo je ključna značajka za simulaciju rada konvolucijske neuronske mreže (CNN). Sav računalni rad potreban za prepoznavanje slike i govora izvodi se lokalno u Eyerissu, bez potrebe za pristupom mrežnim resursima, što omogućuje učinkovit rad uređaja čak i u odsutnosti vanjske mreže.

Konačno, još jedna prednost Eyerissa je princip "pametne" raspodjele pojedinačnih računalnih zadataka između jezgri u okviru jednog problema koji treba riješiti. U svojoj lokalnoj memoriji kernel mora pohranjivati ​​ne samo podatke koje obrađuju čvorovi, već i podatke koji opisuju same čvorove. Kako bi se osigurala maksimalna izvedba procesa obrade podataka, kao i učitavanje Eyeriss-a maksimalnom količinom podataka iz glavne memorije, algoritam za distribuciju obje vrste podataka optimiziran je čipom posebno dizajniranim za tu svrhu u stvarnom vremenu , uzimajući u obzir značajke trenutne neuronske mreže.

Na International Solid State Circuits Conference u San Franciscu, razvojni tim je koristeći mogućnosti Eyeriss čipa na “korisničkoj” razini demonstrirao implementaciju algoritma za prepoznavanje uzoraka unutar lokalne neuronske mreže. Sličan zadatak, navodi se u priopćenju, već je proveden ranije, ali na razini državnih projekata stvorenih najsuvremenijih neuronskih mreža.

"Ovaj rad je važan jer pokazuje koliko dobro ugrađeni procesori za dubinsko učenje mogu pružiti potrebnu snagu i performanse optimizacije i prenijeti složeno računalstvo iz oblaka na mobilne uređaje", rekao je Mike Polley, viši potpredsjednik Samsungovog laboratorija za inovacije mobilnih procesora. "Osim inovativnog skupa hardverskih rješenja, istraživanje MIT-a jasno pokazuje kako se ugrađeni kernel može učiniti korisnim za programere aplikacija koristeći standardnu ​​mrežnu arhitekturu AlexNeta i Caffea."

Financiranje projekta Eyeriss, počevši od stvaranja jedinice bazirane u laboratoriju MIT, djelomično je osigurala američka obrambena agencija DARPA. Ne čudi da je prvi na najavu procesora impresivnim editorijalom reagirao poznati vojni analitičar Patrick Tucker. Novi procesori Eyeriss instalirani na mobilnim uređajima američkih vojnika, po njegovom mišljenju, moći će riješiti složene računalne probleme povezane s obradom kolosalnih količina informacija bez povezivanja na zajedničku mrežu.

Tako američko ratno zrakoplovstvo trenutno prima do 1500 sati HD videa i do 1500 fotografija ultra visoke rezolucije svaki dan od dronova koji lebde iznad Afganistana. Štoviše, sav taj beskrajni protok informacija operateri moraju vizualno analizirati na staromodan način, budući da postojeći računalni softver nije u stanju razlikovati seljaka koji sa štapom hoda planinskom stazom od terorista s lanserom za navođene projektile. . Za rješavanje takvih problema prvo su se počele stvarati metode strojnog učenja temeljene na učenju predstavljanja.

Eyeriss procesori idealni su za ugradnju na bespilotne vojne bespilotne letjelice, jer će omogućiti inteligentnu obradu niza slika i videa koristeći tehnologije dubokog učenja izravno u zrakoplovu. U tom slučaju, filtrirani korisni podaci mogli bi se poslati izravno borbenim jedinicama koje djeluju u određenom području, zaobilazeći centar za analizu operativnih informacija.

Kratak sažetak

Tijekom eksperimenata, čip Eyeriss pokazao je deset puta veću razinu energetske učinkovitosti od modernih mobilnih grafičkih čipova. Istodobno, uz njegovu pomoć ispada da je tehnološki moguće osigurati rad algoritama umjetne inteligencije na uređajima kompaktnih veličina - od pametnih telefona i tableta do nosive elektronike. Kašnjenja koja stvaraju mreže tijekom razmjene podataka za takav procesor su svedena na najmanju moguću mjeru, budući da čip može izvesti većinu izračuna lokalno. Na temelju Eyerissa bit će moguće stvoriti ne samo sve vrste "pametnih uređaja", već i robote koji imaju određeni stupanj neovisnosti u donošenju odluka.

Programeri MIT-a još nisu imenovali određene vremenske intervale tijekom kojih će se Eyeriss moći transformirati u komercijalni proizvod i u potpunosti otkriti svoje mogućnosti na razini potrošača. Uključivanje vodećih NVIDIA stručnjaka u razvoj i veliko zanimanje odgovornih istraživača iz Samsunga ulijeva određeni optimizam.