Perbezaan antara cpu dan gpu. Pecutan dengan berbilang GPU. Teknologi Analisis Data

Penyelidik Jerman mengenai penggunaannya pengkomputeran GPU dalam ekonofizik dan fizik statistik, termasuk untuk menganalisis maklumat mengenai pasaran saham. Kami membentangkan kepada perhatian anda perkara utama bahan ini.

Nota: Artikel dalam majalah bertarikh 2011, sejak itu model baru peranti GPU telah muncul, bagaimanapun, pendekatan umum untuk menggunakan alat ini dalam infrastruktur untuk perdagangan dalam talian kekal tidak berubah

Keperluan untuk kuasa pengkomputeran berkembang dalam pelbagai bidang. Salah satunya ialah analisis kewangan, yang diperlukan untuk berjaya dalam perdagangan dalam pasaran saham, terutamanya dengan dana HFT. Untuk membuat keputusan untuk membeli atau menjual saham, algoritma mesti menganalisis sejumlah besar data input - maklumat tentang urus niaga dan parameternya, sebut harga semasa dan arah aliran harga, dsb.

Masa yang akan berlalu daripada membuat pesanan beli atau jual kepada menerima respons tentang penyiapannya yang berjaya daripada pelayan pertukaran dipanggil perjalanan pergi balik (RTT). Peserta pasaran melakukan yang terbaik untuk mengurangkan masa ini, khususnya, untuk ini mereka menggunakan teknologi untuk akses terus ke bursa, dan pelayan dengan perisian dagangan terletak di kemudahan colocation di sebelah enjin dagangan bursa.

Walau bagaimanapun, kemungkinan teknologi untuk mengurangkan perjalanan pergi balik adalah terhad, dan selepas mereka keletihan, peniaga berhadapan dengan persoalan bagaimana lagi mereka boleh mempercepatkan operasi perdagangan. Untuk mencapai matlamat ini, pendekatan baharu untuk membina infrastruktur untuk dagangan dalam talian sedang digunakan. Khususnya, FPGA dan GPU digunakan. Kami telah menulis sebelum ini tentang mempercepatkan perdagangan HFT menggunakan perkakasan boleh atur cara, hari ini kita akan bercakap tentang cara GPU boleh digunakan untuk ini.

Apa itu GPU

Seni bina kad grafik moden adalah berdasarkan susunan berskala penstriman berbilang pemproses. Satu multipemproses sedemikian mengandungi lapan skalar teras pemproses, modul arahan berbilang benang, memori kongsi yang terletak pada cip (on-chip).

Apabila program C menggunakan sambungan CUDA memanggil kernel GPU, salinan kernel atau benang itu, dinomborkan dan diedarkan kepada berbilang pemproses yang tersedia, di mana pelaksanaannya bermula. Untuk penomboran dan pengedaran ini, rangkaian teras dibahagikan kepada blok, setiap satunya dibahagikan kepada benang yang berbeza. Benang dalam blok tersebut dilaksanakan serentak pada multipemproses yang tersedia. Untuk mengurus sebilangan besar utas, modul SIMT (single-instruction multiple-thread) digunakan. Modul ini mengumpulkannya ke dalam "pek" 32 utas. Kumpulan sedemikian dilaksanakan pada multipemproses yang sama.

Analisis data kewangan pada GPU

Analisis kewangan menggunakan banyak ukuran dan penunjuk, pengiraannya memerlukan kuasa pengkomputeran yang serius. Di bawah ini kami akan menyenaraikan beberapa daripadanya dan membandingkan kelajuan pemprosesan yang ditunjukkan oleh pemproses "biasa". Intel Core 2 Quad CPU (Q6700) dengan frekuensi jam 2.66 GHz dan saiz cache 4096 kilobait, serta kad grafik yang popular.
Eksponen Hurst
Ukuran yang dipanggil eksponen Hurst digunakan dalam analisis siri masa. Nilai ini berkurangan jika kelewatan antara dua pasangan nilai yang sama dalam siri masa meningkat. Konsep ini pada asalnya digunakan dalam hidrologi untuk menentukan saiz empangan di Sungai Nil dalam keadaan hujan dan kemarau yang tidak dapat diramalkan.

Selepas itu, eksponen Hurst mula digunakan dalam ekonomi, khususnya dalam analisis teknikal untuk meramalkan arah aliran dalam pergerakan siri harga. Di bawah ialah perbandingan kelajuan pengiraan eksponen Hurst pada CPU dan GPU (penunjuk pecutan β = jumlah masa pengiraan pada CPU / jumlah masa pengiraan pada GPU GeForce 8800 GT):

Model Ising dan kaedah Monte Carlo
Alat lain yang berhijrah ke bidang kewangan, kali ini dari fizik, ialah model Ising. Model matematik fizik statistik ini direka untuk menerangkan kemagnetan bahan.

Setiap bucu kekisi kristal (bukan sahaja tiga dimensi, tetapi juga variasi satu dan dua dimensi dipertimbangkan) dikaitkan dengan nombor yang dipanggil putaran dan sama dengan +1 atau −1 (“medan atas”/“medan ke bawah” ). Setiap 2^N pilihan yang mungkin Susunan putaran (di mana N ialah bilangan atom kekisi) diberikan tenaga yang terhasil daripada interaksi berpasangan bagi putaran atom jiran. Seterusnya, untuk suhu tertentu, taburan Gibbs dipertimbangkan - kelakuannya dianggap pada nombor besar N atom.

Dalam sesetengah model (contohnya, dengan dimensi > 1), peralihan fasa tertib kedua diperhatikan. Suhu di mana sifat magnet bahan hilang dipanggil kritikal (Titik Curie). Di persekitarannya, beberapa ciri termodinamik berbeza.

Pada mulanya, model Ising digunakan untuk memahami sifat feromagnetisme, tetapi kemudiannya ia menjadi lebih meluas. Khususnya, ia digunakan untuk membuat generalisasi dalam sistem sosio-ekonomi. Sebagai contoh, generalisasi model Ising menentukan interaksi peserta pasaran kewangan. Setiap daripada mereka mempunyai strategi tingkah laku, yang rasionalnya mungkin terhad. Keputusan sama ada untuk menjual atau membeli saham dan pada harga berapa bergantung pada keputusan sebelumnya seseorang dan hasilnya, serta pada tindakan peserta pasaran yang lain.

Model Ising digunakan untuk memodelkan interaksi antara peserta pasaran. Untuk melaksanakan model Ising dan pemodelan simulasi Kaedah Monte Carlo digunakan, yang membolehkan anda membina model matematik untuk projek dengan nilai yang tidak ditentukan parameter.

Di bawah ialah perbandingan prestasi simulasi pada CPU dan GPU ( NVIDIA GeForce GTX 280):

Terdapat pelaksanaan model Ising menggunakan semasa analisis pelbagai kuantiti berputar Pelaksanaan berbilang putaran membolehkan anda memuatkan beberapa putaran secara selari.

Pecutan dengan berbilang GPU

Untuk mempercepatkan pemprosesan data, kluster peranti GPU juga digunakan - dalam kes ini, penyelidik memasang kluster dua kad GPU Tesla C1060, komunikasi antaranya dijalankan melalui Double Data Rate InfiniBand.

Dalam kes simulasi Monte Carlo model Ising, keputusan menunjukkan bahawa prestasi meningkat hampir secara linear apabila lebih banyak GPU ditambah.

Kesimpulan

Percubaan menunjukkan bahawa menggunakan GPU boleh membawa kepada peningkatan prestasi yang ketara analisis kewangan. Pada masa yang sama, peningkatan kelajuan berbanding menggunakan seni bina CPU boleh mencapai beberapa puluh kali ganda. Pada masa yang sama, anda boleh mencapai peningkatan yang lebih besar dalam prestasi dengan mencipta kluster GPU - dalam kes ini, ia berkembang hampir secara linear.

Anda telah memutuskan untuk membeli komputer. Berjalan di sepanjang lorong membeli-belah, lihat tanda harga, kenali ciri-cirinya. Dan persoalan timbul: apakah itu GPU? Selalunya anda melihat gabungan huruf ini, tetapi anda tidak melihat maksudnya. Cuba kita terangkan.

GPU - apakah itu dan bagaimana ia berbeza daripada CPU?

GPU bermaksud "unit pemprosesan grafik", atau GPU. Ia ialah peranti berasingan untuk konsol permainan, komputer atau kamera. Bertanggungjawab untuk pemaparan grafik dan melaksanakannya. GPU mengatasi tugas ini dengan sangat baik, kerana seni bina saluran paip yang direka khas untuk tujuan ini. GPU moden memproses grafik jauh lebih baik daripada unit pemprosesan pusat (CPU) klasik mereka.

Pada masa ini, GPU digunakan sebagai pemecut grafik 3D, tetapi dalam kes luar biasa ia boleh digunakan untuk pengkomputeran. Perbezaan antara GPU dan CPU adalah seperti berikut:

  • seni bina: ia bertujuan untuk maksimum pada kelajuan tinggi pengiraan kompleks objek grafik dan tekstur;
  • set arahan yang agak rendah.

Kuasa pengkomputeran yang besar dijelaskan dengan tepat oleh ciri-ciri seni bina. Bersama-sama dengan CPU moden yang mengandungi beberapa teras (2/4/8, yang sudah dianggap satu kejayaan), GPU pada asalnya dibangunkan sebagai struktur berbilang teras. Bilangan teras di sini adalah dalam ratusan!

Perbezaan dalam seni bina juga menjelaskan perbezaan dalam prinsip operasi. Jika seni bina CPU direka untuk pemprosesan data berjujukan, maka GPU pada asalnya direka untuk berfungsi dengan grafik komputer, dan oleh itu direka untuk pengiraan besar-besaran tetapi selari.

Setiap seni bina ini mempunyai kelebihan tersendiri. CPU adalah lebih baik dalam tugasan berurutan. Untuk jumlah besar maklumat yang diproses, GPU mempunyai kelebihan. Syarat utama ialah tugas itu mesti mengekalkan keselarian.

Anda kini tahu banyak tentang GPU, apa itu GPU, dan anda juga boleh memberitahu rakan anda.

CPU dan GPU sangat serupa; kedua-duanya diperbuat daripada ratusan juta transistor dan boleh memproses beribu-ribu operasi sesaat. Tetapi bagaimana sebenarnya kedua-dua ini berbeza? komponen penting mana-mana komputer rumah?

Dalam artikel ini kami akan cuba menerangkan dengan cara yang sangat mudah dan boleh diakses apakah perbezaan antara CPU dan GPU. Tetapi pertama-tama kita perlu melihat kedua-dua pemproses ini secara berasingan.

CPU (Unit Pemprosesan Pusat atau Unit Pemprosesan Pusat) sering dipanggil "otak" komputer. Di dalam pemproses pusat terdapat kira-kira satu juta transistor, dengan bantuan yang pelbagai pengiraan dilakukan. Komputer rumah biasanya mempunyai pemproses yang mempunyai 1 hingga 4 teras dengan kelajuan jam lebih kurang 1 GHz hingga 4 GHz.

Pemproses itu berkuasa kerana ia boleh melakukan segala-galanya. Komputer mampu melaksanakan tugas kerana pemproses mampu melaksanakan tugas tersebut. Pengaturcara telah dapat mencapai ini berkat set arahan yang luas dan senarai besar fungsi yang dikongsi dalam unit pemprosesan pusat moden.

Apakah GPU?

GPU (Unit Pemprosesan Grafik atau Unit Pemprosesan Grafik) ialah jenis mikropemproses khusus yang dioptimumkan untuk pengkomputeran dan paparan grafik yang sangat khusus. GPU berjalan pada kelajuan jam yang lebih rendah daripada CPU, tetapi mempunyai lebih banyak teras pemprosesan.

Anda juga boleh mengatakan bahawa GPU ialah CPU khusus yang dibuat untuk satu tujuan tertentu - pemaparan video. Semasa pemaparan, GPU melakukan pengiraan matematik mudah beberapa kali. GPU mempunyai beribu-ribu teras yang akan berjalan serentak. Walaupun setiap teras GPU adalah lebih perlahan daripada teras CPU, ia masih lebih cekap untuk melaksanakan tugas mudah. pengiraan matematik diperlukan untuk memaparkan grafik. Keselarian besar-besaran inilah yang menjadikan GPU mampu menghasilkan grafik 3D kompleks yang diperlukan oleh permainan moden.

Perbezaan antara CPU dan GPU

GPU hanya boleh melakukan sebahagian kecil daripada perkara yang boleh dilakukan oleh CPU, tetapi ia melakukannya pada kelajuan yang luar biasa. GPU akan menggunakan beratus-ratus teras untuk melakukan pengiraan segera pada beribu-ribu piksel sambil memaparkan grafik 3D yang kompleks. Tetapi untuk mencapai kelajuan tinggi GPU mesti melakukan operasi membosankan.

Kita ambil sebagai contoh Nvidia GTX 1080. Kad video ini mempunyai 2560 teras shader. Terima kasih kepada teras ini, Nvidia GTX 1080 boleh melaksanakan 2,560 arahan atau operasi dalam satu kitaran jam. Jika anda ingin menjadikan gambar 1% lebih cerah, GPU boleh mengendalikannya tanpa banyak kesukaran. Tetapi pemproses pusat Intel Core i5 quad-core hanya boleh melaksanakan 4 arahan dalam satu kitaran jam.

Walau bagaimanapun, CPU lebih fleksibel daripada GPU. Unit pemprosesan pusat mempunyai set arahan yang lebih besar supaya mereka boleh melakukan lebih banyak prestasi julat yang luas fungsi. Juga CPU beroperasi pada maksimum yang lebih tinggi kelajuan jam dan mempunyai keupayaan untuk mengawal input dan output komponen komputer. Sebagai contoh, unit pemprosesan pusat boleh disepadukan dengan ingatan maya, yang perlu untuk melancarkan moden sistem operasi. Inilah yang tidak dapat dilakukan oleh GPU.

Pengkomputeran GPU

Walaupun GPU direka untuk pemaparan, ia mampu melakukan lebih banyak lagi. Pemprosesan grafik hanyalah sejenis pengiraan selari berulang. Tugas-tugas lain seperti Perlombongan Bitcoin dan pemecahan kata laluan bergantung pada jenis set data besar-besaran yang sama dan pengiraan matematik mudah. Inilah sebabnya mengapa sesetengah pengguna menggunakan kad video untuk operasi bukan grafik. Fenomena ini dipanggil GPU Computation atau pengkomputeran GPU.

kesimpulan

Dalam artikel ini kami membandingkan CPU dan GPU. Saya fikir ia telah menjadi jelas kepada semua orang bahawa GPU dan CPU mempunyai matlamat yang sama, tetapi dioptimumkan untuk pengiraan yang berbeza. Tulis pendapat anda dalam komen, saya akan cuba menjawab.

Cip utama dihidupkan papan induk– ini ialah pemproses pusat (CPU – Unit Pemproses Pusat). Central kerana ia mengawal semua subsistem lain menggunakan sistem bas dan chipset.

Subsistem yang mengawal visualisasi dan paparan maklumat pada skrin dipanggil sistem video. Ia disepadukan ke dalam papan induk melalui slot dalam bentuk kad video. Kad video ialah penyelesaian kejuruteraan dan merupakan papan dengan pemprosesnya sendiri (dengan itu GPU) dan RAM.

GPU NVidia Nv45 pada kad video

Pemproses pada kad video dipanggil GPU (Unit Pemproses Grafik) untuk menekankan:

  1. Apakah pemproses ini?
  2. Bahawa ia bukan pusat, iaitu, bawahan kepada CPU.
  3. Bahawa ia memberi tumpuan kepada pemprosesan data khas - grafik.

Lokasi GPU pada papan induk

Memandangkan pemprosesan grafik ialah pengkhususan dalam pemprosesan data, GPU ialah CPU khusus. Secara logiknya, pengkhususan dinyatakan dengan pemisahan GPU daripada CPU, secara fizikal - oleh fakta bahawa GPU direka secara berbeza.

CPU mengandungi berpuluh-puluh teras, GPU - beribu-ribu

Pelaksanaan fizikal GPU ini dibenarkan oleh keperluan untuk memproses beribu-ribu tugasan selari, berkaitan dengan rendering. Pemproses pusat tertumpu pada pemprosesan data - tugas yang panjang dan berurutan.

CPU (CPU) moden mungkin termasuk unit pemprosesan grafik.

Pemproses empat teras dengan tambahan teras grafik GPU

Penyelesaian ini membolehkan komputer melakukan tanpa kad video kerana GPU terbina dalam pemproses pusat. Ini mengurangkan penggunaan tenaga sebanyak 30 hingga 180%. Kos pemproses meningkat tidak lebih daripada 20%.

Kelemahan utama pelaksanaan ini ialah prestasi rendah. Penyelesaian ini sesuai untuk komputer pejabat, di mana mereka bekerja dengan dokumen dan pangkalan data, tetapi moden permainan komputer Anda tidak akan dapat menjalankannya, Photoshop akan menjadi perlahan, dan AutoCAD mungkin membeku.

Bagaimana untuk mengetahui GPU dalam komputer

Bagi pengguna, GPU sangat dikaitkan dengan kad video, walaupun ia hanya pemproses. Tahu yang mana penyesuai grafik dipasang pada komputer berguna dalam tiga kes:

  • semasa memasang atau mengemas kini pemacu;
  • semasa menilai pematuhan komputer Keperluan Sistem perisian;
  • untuk menunjuk-nunjuk kepada kawan-kawan.

Jika semua pemacu dipasang pada komputer anda, cara terpantas ialah melihat dalam pengurus peranti, dalam bahagian penyesuai video:

Lihat GPU dalam Pengurus Peranti

Jika pemacu tidak dipasang, pengurus peranti hanya akan menunjukkan mesej tentang peranti yang tidak diketahui:

GPU dalam Pengurus Peranti jika pemandu tiada

Dalam kes ini, muat turun Utiliti CPU-Z, jalankan dan pergi ke tab “Grafik” (Grafik dalam versi bahasa Inggeris):

Lihat GPU masuk program CPU-Z

helpadmins.ru

Apakah GPU dalam komputer?

Hello semua, GPU ialah sebutan untuk kad video, atau lebih tepat lagi, pemproses grafik. Perkataan ini, dengan baik, iaitu, singkatan sering dijumpai dalam beberapa ciri, contohnya, dalam ciri pemproses Intel Terdapat perkara seperti GPU Bersepadu, yang bermaksud kad video terbina dalam. Betul, ia sebenarnya terbina dalam, cip video terletak betul-betul di dalam pemproses, ini bukan berita, seolah-olah

Iaitu, kami telah membuat kesimpulan bahawa GPU adalah peranti video. Tetapi apa lagi yang penting untuk difahami? Saya menulis bahawa GPU terdapat dalam ciri-ciri, semuanya betul, tetapi sebagai tambahan kepada ini ia juga boleh didapati dalam program yang menunjukkan suhu. Saya fikir anda tahu program sedemikian.. Nah, atau anda tidak tahu, secara ringkasnya, dalam apa jua keadaan, apa yang saya akan tulis sekarang akan berguna untuk anda ketahui. Bermakna kita bercakap tentang mengenai suhu GPU. Ramai orang mendakwa bahawa kamera video boleh berfungsi pada 80 darjah, tetapi saya mengisytiharkan bahawa ini adalah suhu yang terlalu tinggi! Dan secara umum, saya fikir bahawa di atas 70 bukanlah norma!

By the way, GPU ialah singkatan kepada Graphics Processing Unit

Dan inilah cip grafik itu sendiri, iaitu, GPU, jadi saya menunjukkannya pada papan dengan anak panah:

Tetapi apakah suhu biasa itu? Sehingga 60 darjah, nah, maksimum 66, baik, 70 darjah sudah menjadi siling ... Tetapi di atas itu, saya fikir ini tidak lagi bagus, cuma suhu sedemikian pasti tidak akan memanjangkan hayat perkhidmatan , Adakah anda bersetuju dengan saya? Nah, ada lagi point yang menarik, ringkasnya, jika kad video menjadi agak panas, maka sialan ia juga membuang habanya ke dalam kes itu, dengan baik, ia jelas tidak akan menjadi sejuk di dalamnya, dan kemudian prosesnya akan menjadi panas, ringkasnya, menyeronokkan! Ingat bahawa ia adalah SUHU yang boleh mengurangkan hayat peranti! Di sini pada papan induk lama dari suhu tinggi meletup kapasitor elektrolitik.. Jika anda tidak percaya saya, anda boleh mencari sendiri di Internet..

Baiklah, beritahu saya, adakah semuanya jelas kepada anda? Sejujurnya, saya harap begitu! Nah, jika ada yang salah, baiklah, maaf!

Ke rumah! kad video 17/05/2017

virtmachine.ru

Apakah maksud GPU?

GPU (Unit Pemprosesan Grafik)

GPU (unit pemprosesan grafik) ialah peranti berteknologi tinggi yang bertanggungjawab untuk memproses grafik dalam komputer, komputer riba dan telefon mudah alih. GPU moden mempunyai seni bina saluran paip khusus, menjadikannya sangat cekap dalam pemprosesan maklumat grafik berbanding dengan pemproses pusat biasa. Boleh digunakan sebagai sebahagian daripada kad video diskret, dan dalam penyelesaian bersepadu (dibina dalam jambatan Utara atau ke dalam pemproses hibrid).

Perbezaan utama antara GPU dan CPU:

  1. Seni bina (penekanan maksimum pada pemprosesan tekstur grafik)
  2. Set pasukan eksekutif terhad

Kelajuan tinggi dan kuasa pemproses GPU pada masa ini dijelaskan oleh keanehan seni bina pembinaan. Jika CPU moden terdiri daripada 2-6 teras, maka GPU dianggap sebagai struktur berbilang teras yang menggunakan sehingga ratusan teras sekaligus. CPU menganggap pemprosesan maklumat secara berurutan, dan GPU direka untuk berbilang benang kerja selari dengan banyak maklumat.

windows-gadjet.ru

Apakah itu GPU dan untuk apa ia?

Pemproses grafik atau dalam bahasa Inggeris GPU - Unit Pemprosesan Grafik - ialah peranti yang merupakan litar mikro, cip yang merupakan sebahagian daripada penyesuai video (kad video) atau papan induk.

GPU bertanggungjawab untuk membina (memberi) imej.

Ringkasnya, peranan dan kepentingan GPU boleh diterangkan seperti berikut:

GPU menerima daripada unit pemprosesan pusat (CPU) data pemprosesan yang diperlukan untuk membina imej, kemudian memprosesnya dan menyediakannya untuk operasi selanjutnya, dengan itu mempercepatkan proses pembentukan imej dan mengurangkan beban pada pemproses pusat.

GPU ialah komponen pilihan; kerjanya boleh dilakukan oleh bahagian tengah.

Tidak seperti pemproses pusat, pemproses grafik, disebabkan oleh perbezaan dalam seni bina (struktur, peranti), mampu memproses puluhan, ratusan, ribuan kali lebih cepat jenis tertentu operasi, contohnya, memproses data untuk membina imej dan banyak lagi.

GPU boleh diskret, iaitu sebahagian daripada kad video yang dibuat dalam bentuk kad pengembangan (peranti) yang dipasang dalam slot pengembangan papan induk. Dalam kes ini, semua komponen tambahan terletak pada satu papan litar bercetak, yang boleh ditanggalkan atau diganti dengan mudah pada bila-bila masa.

Atau ia disepadukan, sebahagian daripada papan induk peranti itu sendiri. Dalam kes ini, pemproses grafik terletak pada papan induk, semua komponen tambahan terletak berdekatan. Digunakan dalam komputer peribadi, telefon pintar, konsol permainan dan sebagainya.

19-06-2017, 20:38 Pandangan terperinci

www.detaillook.com

GPU NVIDIA dan perbandingan GPU dan CPU

Pengkomputeran awan mengubah semua industri secara radikal, mendemokrasikan pusat data dan mengubah sepenuhnya cara perusahaan beroperasi. Aset terpenting syarikat kini disimpan dalam awan penyedia pilihan anda. Walau bagaimanapun, untuk mengekstrak faedah maksimum daripada data yang ada, penyelesaian pengkomputeran berprestasi tinggi yang sesuai diperlukan.

perisian NVIDIA Pembelajaran Mendalam dicipta untuk menyediakan prestasi maksimum pada GPU terpantas di dunia dan termasuk rangka kerja pembelajaran mendalam yang dioptimumkan, perpustakaan, pemacu dan OS. Perisian bersatu ini berjalan pada pelbagai platform pengkomputeran, daripada kad grafik TITAN X dan GeForce GTX 1080Ti kepada sistem DGX dan awan, dan tersedia 24/7.

Pengkomputeran awan GPU juga tersedia atas permintaan pada semua platform awan utama.

BAGAIMANA APLIKASI MENDAPAT PECUTAN GPU

GPU mengendalikan bahagian aplikasi yang memerlukan banyak kuasa pengkomputeran, dengan seluruh aplikasi berjalan pada CPU. Dari sudut pandangan pengguna, aplikasi itu berjalan dengan lebih pantas.


Cara mudah untuk memahami perbezaan antara GPU dan CPU ialah membandingkan cara mereka melaksanakan tugas. CPU terdiri daripada beberapa teras yang dioptimumkan untuk pemprosesan berurutan data, manakala GPU mempunyai beribu-ribu teras yang lebih kecil dan lebih cekap kuasa yang direka untuk mengendalikan berbilang tugas secara serentak.

GPU terdiri daripada beribu-ribu teras untuk pemprosesan yang cekap tugasan selari


Tonton video di bawah untuk membandingkan GPU dan CPU

Video: "MythBusters Mempamerkan Kuasa GPU lwn CPU Computing" (01:34)

Lebih daripada 400 aplikasi, termasuk 9 daripada 10 aplikasi HPC teratas, telah pun dipercepatkan pada GPU, membolehkan semua pengguna GPU mencapai peningkatan prestasi yang ketara untuk beban kerja mereka. Semak katalog apl kami untuk melihat sama ada apl yang anda gunakan adalah GPU dipercepatkan (PDF 1.9 MB).

Terdapat tiga kaedah utama untuk menambah pecutan GPU pada aplikasi anda:

  • Gunakan perpustakaan yang dioptimumkan GPU
  • Tambahkan arahan atau "petunjuk" pada pengkompil untuk menyelaraskan kod anda secara automatik
  • Gunakan sambungan untuk bahasa pengaturcaraan yang anda sudah tahu, seperti C dan Fortran

Mempelajari cara menggunakan GPU dengan model pengaturcaraan selari CUDA adalah sangat mudah.

Kelas dan sumber dalam talian percuma untuk pembangun tersedia di Zon CUDA.

Unit pemprosesan grafik (GPU) - contoh yang bersinar bagaimana teknologi yang direka untuk tugas pemprosesan grafik telah merebak ke bidang pengkomputeran berprestasi tinggi yang tidak berkaitan. GPU moden berada di tengah-tengah banyak projek pembelajaran mesin dan analisis data yang kompleks. Dalam artikel ulasan kami, kami akan melihat cara pelanggan Selectel menggunakan perkakasan GPU dan memikirkan masa depan sains data dan peranti pengkomputeran dengan fakulti dari Sekolah Sains Data Yandex.

GPU telah banyak berubah sejak sepuluh tahun yang lalu. Sebagai tambahan kepada peningkatan besar dalam produktiviti, terdapat pembahagian peranti mengikut jenis penggunaan. Oleh itu, kad video untuk sistem permainan rumah dan pemasangan realiti maya diperuntukkan dalam arah yang berasingan. Peranti yang berkuasa dan sangat khusus muncul: untuk sistem pelayan, salah satu pemecut terkemuka ialah NVIDIA Tesla P100, direka khusus untuk kegunaan industri di pusat data. Sebagai tambahan kepada GPU, penyelidikan sedang giat dijalankan dalam bidang mencipta jenis pemproses baharu yang meniru fungsi otak. Contohnya ialah platform cip tunggal Kirin 970 dengan pemproses neuromorfik sendiri untuk tugas yang berkaitan dengan rangkaian saraf dan pengecaman imej.

Keadaan ini membuatkan kita berfikir tentang soalan berikut:

  • Mengapakah bidang analisis data dan pembelajaran mesin menjadi begitu popular?
  • Bagaimana GPU Menguasai Pasaran Perkakasan Komputer kerja intensif dengan data?
  • Apakah penyelidikan dalam analisis data yang paling menjanjikan dalam masa terdekat?

Mari kita cuba menangani isu ini mengikut urutan, bermula dengan pemproses video mudah pertama dan berakhir dengan peranti berprestasi tinggi moden.

era GPU

Pertama, mari kita ingat apa itu GPU. Unit Pemprosesan Grafik ialah unit pemprosesan grafik yang digunakan secara meluas dalam desktop dan sistem pelayan. Ciri tersendiri peranti ini ialah tumpuannya pada pengkomputeran selari secara besar-besaran. Tidak seperti GPU, seni bina modul pengkomputeran lain, CPU (Unit Pemproses Pusat), direka untuk pemprosesan data berjujukan. Jika bilangan teras dalam CPU biasa diukur dalam puluhan, maka dalam GPU jumlahnya dalam ribuan, yang mengenakan sekatan ke atas jenis arahan yang dilaksanakan, tetapi memberikan prestasi pengkomputeran yang tinggi dalam tugas yang melibatkan selari.

Langkah pertama

Pembangunan pemproses video pada peringkat awal adalah berkait rapat dengan keperluan yang semakin meningkat untuk yang berasingan peranti pengkomputeran untuk memproses dua dan Grafik 3D. Sebelum kemunculan litar pengawal video yang berasingan pada tahun 70-an, output imej telah dijalankan melalui penggunaan logik diskret, yang menjejaskan peningkatan penggunaan kuasa dan saiz besar papan litar bercetak. Litar mikro khusus memungkinkan untuk memisahkan pembangunan peranti yang direka untuk berfungsi dengan grafik ke arah yang berasingan.

Peristiwa revolusioner seterusnya ialah kemunculan kelas baru yang lebih kompleks dan peranti pelbagai fungsi- pemproses video. Pada tahun 1996, 3dfx Interactive mengeluarkan cipset Grafik Voodoo, yang dengan cepat menguasai 85% pasaran video khusus dan menjadi peneraju dalam grafik 3D pada masa itu. Selepas siri itu keputusan yang buruk pengurusan syarikat, yang termasuk pembelian pengeluar kad video STB, 3dfx kehilangan kepimpinannya kepada NVIDIA dan ATI (kemudian AMD), dan pada tahun 2002 mengisytiharkan muflis.

Pengkomputeran GPU Umum

Pada tahun 2006, NVIDIA mengumumkan barisan produk siri GeForce 8, yang membawa masuk kelas baharu peranti yang direka untuk pengkomputeran unit pemprosesan grafik am (GPGPU). semasa pembangunan NVIDIA datang kepada pemahaman bahawa bilangan yang lebih besar Teras yang berjalan pada frekuensi yang lebih rendah adalah lebih cekap untuk beban kerja selari daripada sebilangan kecil teras yang berprestasi lebih tinggi. Pemproses video generasi baharu telah menyediakan sokongan pengkomputeran selari bukan sahaja untuk memproses strim video, tetapi juga untuk masalah yang berkaitan dengan pembelajaran mesin, algebra linear, statistik dan masalah saintifik atau komersial yang lain.

Pemimpin yang diiktiraf

Perbezaan dalam penugasan awal tugas untuk CPU dan GPU membawa kepada perbezaan ketara dalam seni bina peranti - frekuensi tinggi berbanding berbilang teras. Untuk GPU, ini mencipta potensi pengkomputeran yang kini direalisasikan sepenuhnya. Pemproses video dengan bilangan teras pemprosesan yang lebih lemah yang mengagumkan melakukan kerja yang sangat baik dalam pengkomputeran selari. Pemproses pusat, yang direka bentuk mengikut sejarah untuk mengendalikan tugas berurutan, kekal yang terbaik dalam bidangnya.

Sebagai contoh, mari kita bandingkan nilai prestasi pusat dan pemproses grafik apabila melakukan tugas biasa dalam rangkaian saraf - pendaraban matriks perintah tinggi. Kami akan memilih peranti berikut untuk ujian:

  • CPU. Intel Xeon E5-2680 v4 - 28 benang dengan HyperThreading, 2.4 GHZ;
  • GPU NVIDIA GTX 1080 – Teras CUDA 2560, 1607 Mhz, 8GB GDDR5X.

Mari kita gunakan contoh pengiraan pendaraban matriks pada CPU dan GPU dalam Jupyter Notebook:

Dalam kod di atas, kami mengukur masa yang diambil untuk mengira matriks tertib yang sama pada CPU atau GPU ("Masa Pelaksanaan"). Data boleh dibentangkan dalam bentuk graf di mana paksi mendatar memaparkan susunan matriks yang didarab, dan paksi menegak menunjukkan masa pelaksanaan dalam beberapa saat:

Garis graf yang diserlahkan dalam oren menunjukkan masa yang diperlukan untuk mencipta data dalam RAM biasa, memindahkannya ke memori GPU dan pengiraan seterusnya. Garis hijau menunjukkan masa yang diambil untuk mengira data yang telah dijana dalam memori kad video (tanpa memindahkan daripada RAM). Biru memaparkan masa pengiraan dihidupkan pemproses pusat. Matriks tertib kurang daripada 1000 elemen didarab pada GPU dan CPU dalam masa yang hampir sama. Perbezaan dalam prestasi jelas kelihatan dengan matriks yang lebih besar daripada 2000 menjelang 2000, apabila masa pengiraan pada CPU melonjak kepada 1 saat, manakala GPU kekal menghampiri sifar.

Lebih kompleks dan masalah praktikal diselesaikan dengan lebih cekap pada peranti dengan GPU berbanding tanpanya. Memandangkan masalah yang diselesaikan oleh pelanggan kami pada perkakasan GPU sangat pelbagai, kami memutuskan untuk mengetahui apakah kes penggunaan yang paling popular.

Siapa dalam Selectel hidup dengan baik dengan GPU?

Pilihan pertama yang segera terlintas di fikiran dan ternyata menjadi tekaan yang betul ialah perlombongan, tetapi menarik untuk diperhatikan bahawa ada yang menggunakannya sebagai cara tambahan untuk memuatkan peralatan ke "maksimum". Dalam kes menyewa pelayan khusus dengan kad video, masa bebas daripada beban kerja digunakan untuk melombong mata wang kripto yang tidak memerlukan pemasangan khusus (ladang) untuk mendapatkannya.

Setelah menjadi klasik sedikit sebanyak, tugasan yang berkaitan dengan pemprosesan grafik dan pemaparan sentiasa mendapat tempatnya pada pelayan Selectel dengan pemecut grafik. Menggunakan peralatan berprestasi tinggi untuk tugas sedemikian membolehkan anda mendapatkan penyelesaian yang lebih berkesan daripada mengatur stesen kerja khusus dengan kad video.

Semasa perbualan dengan pelanggan kami, kami juga bertemu dengan wakil Sekolah Analisis Data Yandex, yang menggunakan kuasa Selectel untuk mengatur persekitaran pembelajaran ujian. Kami memutuskan untuk mengetahui lebih lanjut tentang perkara yang dilakukan oleh pelajar dan guru, bidang pembelajaran mesin yang popular sekarang dan masa depan industri apabila profesional muda menyertai barisan organisasi terkemuka atau melancarkan syarikat permulaan mereka sendiri.

Sains Data

Mungkin tidak ada seorang pun di kalangan pembaca kami yang tidak pernah mendengar frasa " rangkaian saraf" atau "pembelajaran mesin". Membuang variasi pemasaran pada tema perkataan ini, intinya adalah dalam bentuk sains data yang muncul dan menjanjikan.

Pendekatan moden untuk bekerja dengan data termasuk beberapa bidang utama:

  • Data besar ( Data besar). Masalah utama dalam bidang ini ialah sejumlah besar maklumat yang tidak boleh diproses pada satu pelayan. Dari sudut pandangan sokongan infrastruktur, adalah perlu untuk menyelesaikan masalah mewujudkan sistem kluster, skalabiliti, toleransi kesalahan dan storan data teragih;
  • Tugas intensif sumber (Pembelajaran mesin, pembelajaran yang mendalam dan lain lain). Dalam kes ini, persoalan menggunakan pengkomputeran berprestasi tinggi, yang memerlukan Kuantiti yang besar RAM dan sumber CPU. Dalam tugas sedemikian, sistem dengan pemecut grafik digunakan secara aktif.

Garis antara aliran data secara beransur-ansur menjadi kabur: alatan utama untuk bekerja dengan data besar (Hadoop, Spark) memperkenalkan sokongan untuk pengkomputeran GPU dan tugas pembelajaran mesin meliputi kawasan baharu dan memerlukan volum data yang lebih besar. Guru dan pelajar Pusat Pengajian Analisis Data akan membantu kami memahami dengan lebih terperinci.

Sukar untuk melebihkan kepentingan kerja yang cekap dengan data dan pelaksanaan alat analisis lanjutan yang sesuai. Kami tidak bercakap tentang data besar, "tasik" atau "sungai" mereka, tetapi lebih kepada interaksi pintar dengan maklumat. Apa yang berlaku sekarang ialah situasi yang unik: Kami mungkin mengumpul pelbagai jenis maklumat dan menggunakan alat dan perkhidmatan termaju untuk analisis yang mendalam. Perniagaan melaksanakan teknologi sedemikian bukan sahaja untuk mendapatkan analisis lanjutan, tetapi juga untuk mencipta produk unik dalam mana-mana industri. Tepat sekali titik terakhir sebahagian besarnya membentuk dan memacu pertumbuhan industri analisis data.

Arah baru

Maklumat mengelilingi kita di mana-mana: daripada log syarikat Internet dan operasi perbankan sebelum bacaan dalam eksperimen di Large Hadron Collider. Keupayaan untuk bekerja dengan data ini boleh membawa berjuta-juta keuntungan dan memberikan jawapan kepada soalan asas tentang struktur Alam Semesta. Oleh itu, analisis data telah menjadi kawasan penyelidikan yang berasingan di kalangan komuniti perniagaan dan saintifik.

Pusat Pengajian Analisis Data melatih pakar dan saintis khusus terbaik yang pada masa hadapan akan menjadi sumber utama pembangunan saintifik dan perindustrian dalam bidang ini. Perkembangan industri juga memberi kesan kepada kami sebagai penyedia infrastruktur - semakin ramai pelanggan meminta konfigurasi pelayan untuk tugasan analisis data.

Kekhususan tugas yang dihadapi pelanggan kami menentukan peralatan yang harus kami tawarkan kepada pelanggan dan ke arah mana kami harus membangunkan barisan produk. Bersama Stanislav Fedotov dan Oleg Ivchenko, kami meninjau pelajar dan guru Sekolah Analisis Data dan mengetahui teknologi yang mereka gunakan untuk menyelesaikan masalah praktikal.

Teknologi Analisis Data

Semasa latihan, pelajar beralih daripada asas (asas matematik yang lebih tinggi, algoritma dan pengaturcaraan) kepada bidang pembelajaran mesin yang paling maju. Kami mengumpul maklumat tentang mereka yang menggunakan pelayan dengan GPU:

  • Pembelajaran mendalam;
  • Pembelajaran pengukuhan;
  • Visi komputer;
  • Pemprosesan teks automatik.

Pelajar menggunakan alat khusus dalam mereka tugasan pendidikan dan penyelidikan. Sesetengah perpustakaan direka bentuk untuk menukar data kepada jenis yang diperlukan, yang lain direka untuk bekerja dengannya jenis tertentu maklumat, seperti teks atau imej. Pembelajaran mendalam adalah salah satu bidang yang paling kompleks dalam analisis data dan menggunakan rangkaian saraf secara meluas. Kami memutuskan untuk mengetahui rangka kerja yang digunakan oleh guru dan pelajar untuk bekerja dengan rangkaian saraf.

Alatan yang dibentangkan mempunyai tahap sokongan yang berbeza-beza daripada penciptanya, tetapi bagaimanapun terus digunakan secara aktif untuk tujuan pendidikan dan kerja. Kebanyakan daripada mereka memerlukan perkakasan yang berkuasa untuk memproses tugasan dalam jangka masa yang mencukupi.

Pembangunan dan projek selanjutnya

Seperti mana-mana sains, arah analisis data akan berubah. Pengalaman yang diperoleh pelajar hari ini sudah pasti akan memberitahu perkembangan masa hadapan. Oleh itu, perlu diperhatikan orientasi praktikal tinggi program ini - sesetengah pelajar, semasa pengajian atau selepas mereka, memulakan latihan di Yandex dan menggunakan pengetahuan mereka di perkhidmatan sebenar dan perkhidmatan (carian, penglihatan komputer, pengecaman pertuturan dan lain-lain).

Kami bercakap tentang masa depan analitis data dengan guru dari Sekolah Analitis Data, yang berkongsi dengan kami visi mereka untuk pembangunan sains data.

mengikut Vlada Shakhuro, guru kursus "Analisis Imej dan Video", tugas paling menarik dalam visi komputer- memastikan keselamatan di tempat yang sesak, memandu kenderaan tanpa pemandu dan mencipta aplikasi menggunakan realiti tambahan. Untuk menyelesaikan masalah ini, adalah perlu untuk dapat menganalisis data video secara kualitatif dan, pertama sekali, membangunkan algoritma untuk mengesan dan menjejak objek, mengenali seseorang dengan muka dan pembinaan semula tiga dimensi adegan yang diperhatikan. cikgu Victor Lempitsky, peneraju kursus "Pembelajaran Mendalam", secara berasingan menyerlahkan pengekod auto, serta rangkaian generatif dan permusuhan di kawasannya.

Salah seorang mentor Sekolah Analisis Data berkongsi pendapatnya mengenai penyebaran dan permulaan penggunaan besar-besaran pembelajaran mesin:

“Pembelajaran mesin sedang beralih daripada menjadi pemuliharaan beberapa penyelidik obsesif kepada menjadi hanya satu lagi alat untuk pemaju biasa. Sebelum ini (contohnya pada 2012), orang menulis kod peringkat rendah untuk melatih rangkaian konvolusi pada beberapa kad video. Kini, sesiapa sahaja boleh, dalam masa beberapa jam:

  • muat turun pemberat rangkaian saraf yang sudah terlatih (contohnya, dalam keras);
  • gunakannya untuk membuat penyelesaian untuk masalah anda (penalaan halus, pembelajaran sifar pukulan);
  • membenamkannya ke dalam laman web anda atau aplikasi mudah alih(tensorflow/caffe 2).

Banyak syarikat besar dan syarikat permulaan telah pun mendapat manfaat daripada strategi sedemikian (contohnya, Prisma), tetapi banyak lagi masalah masih belum ditemui dan diselesaikan. Dan mungkin keseluruhan mesin/pembelajaran mendalam ini suatu hari nanti akan menjadi biasa seperti python atau excel sekarang.”

Tiada siapa yang boleh meramalkan teknologi masa depan dengan tepat hari ini, tetapi apabila terdapat vektor pergerakan tertentu, anda boleh memahami apa yang perlu dipelajari sekarang. Dan peluang untuk ini ada dunia moden- sejumlah besar.

Peluang untuk pemula

Kajian analisis data adalah terhad keperluan yang tinggi kepada pelajar: pengetahuan yang luas dalam bidang matematik dan algoritma, kemahiran pengaturcaraan. Sebenarnya cabaran yang serius pembelajaran mesin memerlukan sedia ada peralatan khusus. Dan bagi mereka yang ingin mengetahui lebih lanjut tentang komponen teori sains data, Sekolah Analisis Data, bersama-sama dengan Sekolah Tinggi Ekonomi, melancarkan kursus dalam talian "".

Daripada kesimpulan

Pertumbuhan pasaran GPU didorong oleh minat yang semakin meningkat terhadap keupayaan peranti tersebut. GPU digunakan di rumah sistem permainan, rendering dan tugasan pemprosesan video, dan di mana pengkomputeran berprestasi tinggi am diperlukan. Penggunaan praktikal tugas perlombongan data akan menembusi lebih dalam ke dalam kami kehidupan seharian. Dan pelaksanaan program yang serupa Ini paling berkesan dilakukan dengan bantuan GPU.

Kami mengucapkan terima kasih kepada pelanggan kami, serta guru dan pelajar Pusat Pengajian Analisis Data untuk penyediaan bersama bahan tersebut, dan kami menjemput pembaca kami untuk mengenali mereka dengan lebih baik.

Dan bagi mereka yang berpengalaman dan berpengalaman dalam bidang pembelajaran mesin, analisis data dan banyak lagi, kami cadangkan melihat sewaan daripada Selectel peralatan pelayan dengan pemecut grafik: daripada GTX 1080 ringkas kepada Tesla P100 dan K80 untuk tugasan yang paling mencabar.