roboforum.ru

А при чём тут GPU??? Специализированные процессоры для нейросетей есть можно купить. В них нет ничего сакрального.

Одномоментный доступ к памяти не решён. Решена задача одновременного чтения и записи. А для нейросети нужно одновременно писать/читать столько чисел, сколько нейронов в слое. Никогде не слышал даже о экспериментальной памяти, позволяющей одновременно читать десяток разных ячеек.

Вопрос терминологии в данном случае не принципиален Важно что передача данных ведётся импульсами. Хотя в чистом виде это не ШИМ и не ЧИМ разумеется. Наверное правильнее всего будет сказать, что это "асинхронное однобитное кодирование".

Мысль в догонку... А вообще-то наверно можно сделать аппаратно память, которая такое позволит. Делаем столько комплектов ОЗУ, сколько у нас нейронов. ПИШЕМ одновременно во все ячейки с одним и тем же адресом в разных копиях ОЗУ, а ЧИТАТЬ можно одновременно из разных комплектов ОЗУ по разным адресам.
Но агрегат получится не для слабонервных...

esisl писал(а):А для нейросети нужно одновременно писать/читать столько чисел, сколько нейронов в слое.

Вы меня пугаете непониманием, что в общем случае количество связей есть произведение количеств нейронов в смежных слоях и параллелить надо обработку связей, а не нейронов. Состояние нейронов - как раз общая информация для всех узлов обработки, передаваемая между итерациями.

Добавлено спустя 36 секунд:

esisl писал(а):А при чём тут GPU??? Специализированные процессоры для нейросетей есть можно купить.

Сколько стоит соотв. процессор для нейросетей и соизмеримый по производительности GPU ?

вот вы уже перестаньте придумывать проблемы, основываясь за тех знаниях, что вам давали, когда вы были студентом.

нам тоже преподаватель говорил что осознав архитектуру 8080 мы поймем все..

ПС почитайте что такое современные FPGA...

мм, начнем что есть куча отдельных блоков памяти.. делайте на них свои связи, получайте и пишите данные синхронно и во много потоков. отладили ваше нейроядро - заказывайте более дешевые и быстрые ASIC..

с вами сложно.. то нельзя одновременно брать данные из памяти, то решение не из серебра.. вы серьезно думаете что разработка в кремнии нового чипа проще/быстрее/дешевле пути ПЛИС или ПЛИС/АСИК?

esisl писал(а):В GPU прошиты переходные функции??? Я просто не знаю нужны ли они графическому процессору. Чото сомневаюсь. А цена NM40 кажется около 10$ лень гуглить...

Зашибись, ни сравнения, ни производительности конкретных чипов, да еще и лень гуглить.

esisl, во первых количество выполняемых операций зависит от модели нейрона и сети. в одном случае вы можете на допотопном компе за долю секунды перелопатить десятки миллионов нейронов, в другом вы на мощном современном n ядернике захлебнётесь на наскольких тысячах (образно).
с гпу это тупняк, какие ещё зашитые переходные ф-и? сначала в принципы устройства и работы гпу вникните, хотя бы по таким кратеньким обзорам. что вычислительные блоки будут с данными делать зависит от вашей программы. для этого есть шейдеры. есть у вашей видюшки вычислительные шейдеры, используете их. нет, выкручиваетесь пиксельными, вершинными, геометрическими шейдерами или ищите другую вычислялку. как вы там до этого всего будете добираться, это ваши проблемы - есть cuda, opencl, directx и прочие, при желании можете минуя их на низком уровне работать.
с параллелизмом у вас не лучше. существует параллелизм данных, параллелизм задач. типы параллелизма на этом не заканчиваются, но вы хоть в эти два вникните.

Спасибо конечно за комплименты
Если всё так плохо то о чём говорить? Рисуйте топикстартеру схему и вперёд

esisl писал(а):Рисуйте топикстартеру схему и вперёд

Схему современных GPU? А смысл? Он будет заказывать чип на заводе? Денег хватит?