Кто нибудь пытался писать "мозги" на функциональных языках ?
Хотелось бы узнать впечатления...
roboforum.ru
Технический форум по робототехнике.
Использование функциональных языков
Re: Использование функциональных языков
что имеется ввиду под такими языками?
Re: Использование функциональных языков
Языки типа Scala/Erlang/др.
Основая штука, которая меня заинтересовала в них - модель потоков.
В двух словах, в обычных языках (Java/C++/C#) на одной машине можно запустить порядка тысяч-десятков тысяч потоков (если повезет), в вышеуказанных языках можно запускать до 1-20млн потоков на процессор. Каждый процесс является автономным и может обмениваться данными с другими потоками посредством сообщений.
У меня есть мысль попробовать использовать эту особенность для моделирования нейросетей большой сложности.
Основая штука, которая меня заинтересовала в них - модель потоков.
В двух словах, в обычных языках (Java/C++/C#) на одной машине можно запустить порядка тысяч-десятков тысяч потоков (если повезет), в вышеуказанных языках можно запускать до 1-20млн потоков на процессор. Каждый процесс является автономным и может обмениваться данными с другими потоками посредством сообщений.
У меня есть мысль попробовать использовать эту особенность для моделирования нейросетей большой сложности.
Re: Использование функциональных языков
ну тогда, перемещу пока сюда, не место этой теме в проектах.
но что-то мне подсказывает, что очень скоро тема в ад переет...
но что-то мне подсказывает, что очень скоро тема в ад переет...
Re: Использование функциональных языков
Нейросети потоками??? А смысл?
Re: Использование функциональных языков
Смысл не совсем в потоках, а в том, что каждая ячейка будет функционировать независимо от других вез всяких программных извращений. Мы будем иметь нек. кусок кода, который будет хранить свое состояние, уровни входа/выхода и др.
Re: Использование функциональных языков
каждая ячейка будет функционировать независимо от других вез всяких программных извращений
прошу прощщения, а на каких процессорах это будет всё выполняться?
Re: Использование функциональных языков
Это не имеет никакого практического смысла параллелить работу нейронов...
Время на переключение задач будет превосходить время расчета.
Время на переключение задач будет превосходить время расчета.
Re: Использование функциональных языков
не будет ! - в этом-то и фича ФП
эти технологии используются на биржак и в телекоме, на том же Erlange реализованы мощнейшие серверные приложение
эти технологии используются на биржак и в телекоме, на том же Erlange реализованы мощнейшие серверные приложение
Re: Использование функциональных языков
hudvin, и каким же волшебным образом реализуется переключение 20млн потоков на одном ядре так, что затраты ресурсов на поддержание многопоточности, а также время на их переключение пренебрежимо малы по сравнению с временем расчета сигмоидной функции в нейроне?
А на каких машинах работают эти мощнейшие серверные приложения?
Добавлено спустя 5 минут 9 секунд:
Вообще, многопоточность в некоторых сферах действительно настолько облегчает написание программы, разработку алгоритмов и оптимизацию процесса функционирования сложных систем, что аппаратные затраты на поддержание многопоточности представляются вполне адекватной платой.
Но есть задачи, в которых многопоточность только все усложняет. Вот в частности нейросети как раз из их числа.
hudvin писал(а):на том же Erlange реализованы мощнейшие серверные приложение
А на каких машинах работают эти мощнейшие серверные приложения?
Добавлено спустя 5 минут 9 секунд:
Вообще, многопоточность в некоторых сферах действительно настолько облегчает написание программы, разработку алгоритмов и оптимизацию процесса функционирования сложных систем, что аппаратные затраты на поддержание многопоточности представляются вполне адекватной платой.
Но есть задачи, в которых многопоточность только все усложняет. Вот в частности нейросети как раз из их числа.
Re: Использование функциональных языков
Тем, что в ФП нет таких понятий как блорировка, синхронизация и тому подобное + собственный шедулер + ленивые вычисления + много чего еще... Двадцать миллионов может и не потянет, а вот около 5 млн на обычном ПК - запросто.
====
На обычном
. Jabber сервер ejabberd держит на порядок больше подключений, чем его аналоги на яве. С железом я, пожалуй не совсем правильно выразился. Скажем так, приложения на ФП успешно функционируют на таких нагрузках, на которых обычные приложения в принципе не могут работать.
Добавлено спустя 3 минуты 40 секунд:
Единственный обмен механизма данными между потоками - сообщения.
====
На обычном
. Jabber сервер ejabberd держит на порядок больше подключений, чем его аналоги на яве. С железом я, пожалуй не совсем правильно выразился. Скажем так, приложения на ФП успешно функционируют на таких нагрузках, на которых обычные приложения в принципе не могут работать.Добавлено спустя 3 минуты 40 секунд:
Единственный обмен механизма данными между потоками - сообщения.
Re: Использование функциональных языков
а преключение между задачами за счет каких аппаратных ресурсов происходит?
вроде все нынешние процы исключительно последовательные
вроде все нынешние процы исключительно последовательные
Re: Использование функциональных языков
Я же сказал, это есть особенность ФП.
Потоки Эрланга инкапсулируются в небольшое количество потоков ОС.
Создание нового потока Erlang в плане ресурсов не дороже вызова обычной функции
Потоки Эрланга инкапсулируются в небольшое количество потоков ОС.
Создание нового потока Erlang в плане ресурсов не дороже вызова обычной функции
Re: Использование функциональных языков
а как можно 5 млн. потоков ФП преобразовать в "небольшое количество потоков ОС"?
Re: Использование функциональных языков
жаль что пока нет стабильных свободных операционок с микроядром...