Нейросеть на мк

Программирование микроконтроллеров AVR, PIC, ARM.
Разработка и изготовление печатных плат для модулей.

Нейросеть на мк

Сообщение ng0d » 10 янв 2010, 01:58

Сразу скажу, мк пока не занимался, в качестве мозгов использую пк. Занимаюсь в основном ИИ, программно моделирую нейросеть. Взялся за реализацию очень большой нейросети, в 1 млн. нейронов, в каждом не менее 1000 синапсов, но реализовать программно получается плохо, просто не хватает мощности компьютера, обработка получается ужасно медленной, процессор грузит под 100%. И вот вспомнил про мк и подумал, можно ли реализовать нейросеть на них, собрав несколько, скажем 10-20, цены на них копейки впринципе. Сколько нейронов можно реализовать на одном мк.
Аватара пользователя
ng0d
 
Сообщения: 3
Зарегистрирован: 10 янв 2010, 01:46
Откуда: Прейли
прог. языки: C++, VBasic, PHP, MySQL

Re: Нейросеть на мк

Сообщение seraf » 10 янв 2010, 02:11

Мне кажется, что в вашем случае НАМНОГО проще будет распределить нагрузку по сети.
seraf
 
Сообщения: 50
Зарегистрирован: 18 сен 2009, 15:46
Откуда: Ростов-на-Дону

Re: Нейросеть на мк

Сообщение =DeaD= » 10 янв 2010, 02:11

А еще лучше будет посмотреть в сторону CUDA ;)
Проект [[Open Robotics]] - Универсальные модули для построения роботов
Аватара пользователя
=DeaD=
 
Сообщения: 24218
Зарегистрирован: 06 окт 2004, 18:01
Откуда: Ебург
прог. языки: C++ / PHP / 1C
ФИО: Антон Ботов

Re: Нейросеть на мк

Сообщение seraf » 10 янв 2010, 02:14

Одно другому не мешает)
seraf
 
Сообщения: 50
Зарегистрирован: 18 сен 2009, 15:46
Откуда: Ростов-на-Дону

Re: Нейросеть на мк

Сообщение =DeaD= » 10 янв 2010, 02:14

По сети задержки могут быть существенные, а тут всё на одной-двух платах будет и высокоскоростная шина между ними.
Проект [[Open Robotics]] - Универсальные модули для построения роботов
Аватара пользователя
=DeaD=
 
Сообщения: 24218
Зарегистрирован: 06 окт 2004, 18:01
Откуда: Ебург
прог. языки: C++ / PHP / 1C
ФИО: Антон Ботов

Re: Нейросеть на мк

Сообщение Angel71 » 10 янв 2010, 04:39

ng0d, :) во первых GFLOPS`ов в видюшках "за тежи деньги" обычно поболее, во вторых очень много парралельных ядер. так, что для нейронки видюшка очень хороший вариант.
Аватара пользователя
Angel71
 
Сообщения: 10668
Зарегистрирован: 18 апр 2009, 22:18

Re: Нейросеть на мк

Сообщение =DeaD= » 10 янв 2010, 10:15

А главное тут уже некоторые вещи есть: http://www.codeproject.com/KB/graphics/GPUNN.aspx
Как видно скорость в сотни раз выше чем на проце.
Проект [[Open Robotics]] - Универсальные модули для построения роботов
Аватара пользователя
=DeaD=
 
Сообщения: 24218
Зарегистрирован: 06 окт 2004, 18:01
Откуда: Ебург
прог. языки: C++ / PHP / 1C
ФИО: Антон Ботов

Re: Нейросеть на мк

Сообщение Виктор Казаринов » 10 янв 2010, 11:04

В новых процах i3 от Intel графическое ядро под одной крышей с обычным. Поэтому далеко ходить скоро будет не надо.
Проект Robosonic RS http://www.aigod.com
Аватара пользователя
Виктор Казаринов
 
Сообщения: 1387
Зарегистрирован: 21 июн 2006, 11:22
Откуда: г. Омск
Skype: victorkazarinov
прог. языки: почти все понемногу
ФИО: Казаринов Виктор Геннадьевич

Re: Нейросеть на мк

Сообщение =DeaD= » 10 янв 2010, 11:17

ИМХО интелу до NVidia с сотнями ядер еще как до луны :) года 2-3 наверное еще будут наверстывать всё что упустили :)
Проект [[Open Robotics]] - Универсальные модули для построения роботов
Аватара пользователя
=DeaD=
 
Сообщения: 24218
Зарегистрирован: 06 окт 2004, 18:01
Откуда: Ебург
прог. языки: C++ / PHP / 1C
ФИО: Антон Ботов

Re: Нейросеть на мк

Сообщение Виктор Казаринов » 10 янв 2010, 11:23

Они просто втюхнули графический кристалл рядом с обычным процессорным ядром под одну крышку. Но так сделали только у некот. процов. А поэтому гипотетически могут просто взять чужой кристалл.
Проект Robosonic RS http://www.aigod.com
Аватара пользователя
Виктор Казаринов
 
Сообщения: 1387
Зарегистрирован: 21 июн 2006, 11:22
Откуда: г. Омск
Skype: victorkazarinov
прог. языки: почти все понемногу
ФИО: Казаринов Виктор Геннадьевич

Re: Нейросеть на мк

Сообщение =DeaD= » 10 янв 2010, 11:24

У них обычный то проц греется, куда еще там мощные графические чипы запихивать? :)
А так - конечно движемся потихоньку, у NVidia тоже платформа Ion вроде с интегрированной графикой совместимой с CUDA.
Проект [[Open Robotics]] - Универсальные модули для построения роботов
Аватара пользователя
=DeaD=
 
Сообщения: 24218
Зарегистрирован: 06 окт 2004, 18:01
Откуда: Ебург
прог. языки: C++ / PHP / 1C
ФИО: Антон Ботов

Re: Нейросеть на мк

Сообщение Виктор Казаринов » 10 янв 2010, 11:26

Новые проектные нормы 32 нм позволили видимо разрулить перегрев.
Проект Robosonic RS http://www.aigod.com
Аватара пользователя
Виктор Казаринов
 
Сообщения: 1387
Зарегистрирован: 21 июн 2006, 11:22
Откуда: г. Омск
Skype: victorkazarinov
прог. языки: почти все понемногу
ФИО: Казаринов Виктор Геннадьевич

Re: Нейросеть на мк

Сообщение =DeaD= » 10 янв 2010, 11:45

Не поверю :) там поди встроили меньше 5% мощности какой-нибудь 8800GTS 512Mb, не более.
Проект [[Open Robotics]] - Универсальные модули для построения роботов
Аватара пользователя
=DeaD=
 
Сообщения: 24218
Зарегистрирован: 06 окт 2004, 18:01
Откуда: Ебург
прог. языки: C++ / PHP / 1C
ФИО: Антон Ботов

Re: Нейросеть на мк

Сообщение ng0d » 10 янв 2010, 13:21

=DeaD= Спасибо про CUDA, заинтересовало. Нашёл по этому поводу не дорогой суперкомпьютер для дома. http://www.nvidia.ru/page/tesla_deskside.html
Аватара пользователя
ng0d
 
Сообщения: 3
Зарегистрирован: 10 янв 2010, 01:46
Откуда: Прейли
прог. языки: C++, VBasic, PHP, MySQL

Re: Нейросеть на мк

Сообщение Angel71 » 10 янв 2010, 16:23

:roll: таки может для начала лучше потестить Tesla S870 или попробовать поработать на обычной видюшке?
Аватара пользователя
Angel71
 
Сообщения: 10668
Зарегистрирован: 18 апр 2009, 22:18

След.

Вернуться в Микроконтроллеры

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и гости: 25