roboforum.ru

=DeaD= писал(а):

esisl писал(а):Рисуйте топикстартеру схему и вперёд

Схему современных GPU? А смысл? Он будет заказывать чип на заводе? Денег хватит?

Вот эту мысль я и пытаюсь донести до окружающих.

А что, тут много народу планировало делать свой чип? Вроде максимум ПЛИС предлагали. Но я думаю GPU по экономике эффективней будет на крупных сетях, если нет задачи минимизировать решение.

esisl, не надо её доносить, выкиньте и забудьте, что она вообще была. первоначальная нехватка знаний решается изучением сначала теории нс, потом как на конкретном железе это можно реализовать. сначала проц общего назначения, затем, если понадобиться уже перебираться на гпу, фпга, нейрочипы.

Ладно ребят, вы тут пока без меня поругайтесь, а то у меня на работе роботы забастовку объявили, пойду принимать к ним меры.

P.S. Распознание образов я там исходно делал на нейросети, но потом выкинул и сейчас они парсят картинки банальным SURF

расспознование и "что такое хорошо, а что такое плохо" слегка не одно и то же.

Ээээ... ммм... Я хотел бы напомнить, что топик-стартер говорил о десятке нейронов. Не о миллионах, не о тысячах, даже не о десятках. Об одном десятке. Даже на иллюстрации однослойного перцептрона обычно больше рисуют. Какие нафик GPU, ПЛИС, литография на кухне?
Пусть берёт любой древный эмулятор нейронных сетей и вперёд. Лучше бы софт посоветовали. А то ведь и правда свой велосипед начнёт писать.

Добавлено спустя 5 минут 58 секунд:
Просто видно же сразу, с первого коммента, что человек вообще не в зуб ногой по теме (прям как я, может поэтому только я это и вижу?). Причём не пыжится, а прямым текстом это признаёт. Так зачем сразу говорить про всякие омеги, если начинать нужно с азов? (азы... омеги... вроде из другой оперы...).

kran, вообще-то тема про производительность пошла отсюда:
post248815.html#p248815

Где человек, ушедший сейчас подавлять восстание машин, заявил, что без спец-железа для нейросетей на обычных домашних ПК ничего и не сделать. На что я ему сказал про CUDA и OpenCL и понеслось...

Не, познавательно конечно, всё успели потрогать, от конкретики до общих принципов. Но про десяток стоило бы сразу сказать - вряд ли такую сеть надо неделями на многоядерном PC обсчитывать. Другое дело, что полезного или хотя бы познавательного можно сделать на десятке нейронов. Особенно в сфере "хорошо и плохо". Ведь по сути получается всего один выходной нейрон.

А надо больше, имхо. Вот допустим, что комбинация сигналов от сенсоров такова, что роботу просто охренеть как плохо. И что? Что делать-то? Надо же различать разные сигналы: если роботу плохо от голода, надо срочно сожрать батарейку; если плохо от влажности или температуры - срочно рвём когти туда, где тепло и сухо. Поэтому один нейрон должен быть на заглатывание, а второй на зуд в заднице. Как-то так.

"Хорошо", "плохо" - чисто человеческие заморочки (хотя даже у пчёл говорят схожая химия). Есть нейроны на сенсоры (S), есть нейроны на реакции (R). И им не хорошо, не плохо - им всё фиолетово. А вот где-то среди скрытых ассоциативных нейронов (A) есть у нас центры удовольствия, боли и т.п. Биологический мозг - это ведь не электрическая, а электро-химическая шняга. Активизировался какой-то нейрончик в центре удовольствия - и мы тащимся. Потому что выделяется эндорфин, качается про кровотоку, впитывается через мембраны миллиардов клеточек... Только это медленный процесс (относительно). Да, это стимуляция, условно - один нейрон имеет связи "один-ко-всем", сколько бы миллиардов нейронов не было, на все слои от коры до мозжечка. Только эта связь с большой задержкой.

Пока этот механизм не моделировался, по крайней мере классиками жанра, по любому не получил широкой известности - в википедии не пишут вроде.
Поэтом вместо достоевщины "хорошо-плохо" предлагаю чернышевчину - "что делать?"

kran, а вы точно в курсе базовых подходов к нейросетям?
Всякие там backpropagation (Метод обратного распространения ошибки) и т.п. ?

kran писал(а):Пока этот механизм не моделировался, по крайней мере классиками жанра, по любому не получил широкой известности - в википедии не пишут вроде.
Поэтом вместо достоевщины "хорошо-плохо" предлагаю чернышевчину - "что делать?"

само по себе выделение эндорфина ничего не объясняет, заморочка в том что мы не знаем что такое есть боль\удовольствие
поэтому и моделировать тут нечего

=DeaD= писал(а):kran, а вы точно в курсе базовых подходов к нейросетям?
Всякие там backpropagation (Метод обратного распространения ошибки) и т.п. ?

Точно НЕ в курсе. Да вчера только почитал статьи в википедии по диагонали. А что, лучше сидеть и помалкивать?
Кстати, вспоминается, что для этого метода как минимум три разные функции используют, с разной вычислительной сложностью. Это вдогонку вопросу о временных затратах. Новичку же можно посоветовать выбрать самую быструю, и пусть балуется.

Добавлено спустя 3 минуты 9 секунд:

Fayras писал(а):само по себе выделение эндорфина ничего не объясняет, заморочка в том что мы не знаем что такое есть боль\удовольствие
поэтому и моделировать тут нечего

Вот поэтому я и посоветовал забыть про эндорфиновое "хорошо", и делать по классической схеме выходных нейронов, привязанных к эффекторам. Которые что-то делать будут, а не моральную оценку комбинациям входных сигналов давать.

Помалкивать - нет конечно, но и давать оценки и советы, надо ли заниматься тем "пока толком не знаете чем" - тоже не очень корректно, согласитесь?

Кстати, нейросети еще кроме прямого назначения могут быть использованы как алгоритм общего назначения, где результирующая нейросеть является закодированным ответом на какую-то задачу.

Добавлено спустя 53 секунды:

kran писал(а):Вот поэтому я и посоветовал забыть про эндорфиновое "хорошо", и делать по классической схеме выходных нейронов, привязанных к эффекторам. Которые что-то делать будут, а не моральную оценку комбинациям входных сигналов давать.

Как обучать то их без хорошо/плохо? Вручную назначать коэффициенты? Чем тогда это лучше программирования?

как как.. с учителем или без

=DeaD= писал(а):Помалкивать - нет конечно, но и давать оценки и советы, надо ли заниматься тем "пока толком не знаете чем" - тоже не очень корректно, согласитесь?

Но согласитесь, я как-то больше в тему попал, а то обсуждение стало сворачивать куда-то совсем не туда.

=DeaD= писал(а):Кстати, нейросети еще кроме прямого назначения могут быть использованы как алгоритм общего назначения, где результирующая нейросеть является закодированным ответом на какую-то задачу.

Ну вот, то сами против кодирования, то соглашаетесь, что бывает и так кодируют. Кто кодирует, и действительно - чем отличается от программирования?

=DeaD= писал(а):Как обучать то их без хорошо/плохо? Вручную назначать коэффициенты? Чем тогда это лучше программирования?

Не знаю, как для топик-стартера, а для меня сейчас как раз это самое интересное. Я предполагаю, что обучают по эталонам. Такая-то комбинация входных сигналов - такая-то комбинация выходных.

Но это по-моему имеет смысл лишь в случае очень большого количества входных комбинаций нелинейных сигналов (фондовая биржа типа). Когда мы не можем вручную их перелопать или придумать простой алгоритм.

Для датчиков заряда и температуры-влажности всё настолько просто, что городить здесь ИНС совершенно не нужно. Имхо достаточно задать приоритеты и пороговые значения. Мол, если очень горячо, каштаны (т.е. батарейки) из огня не таскаем - всё равно сдохнем от перегрева, лучше уж дохнуть от голода - дольше проживём, может огонь раньше потухнет.

Fayras писал(а):как как.. с учителем или без

Учитель то что делать будет? Ручками коэффициенты назначать?