Javascript-форум (https://javascript.ru/forum/)
-   Оффтопик (https://javascript.ru/forum/offtopic/)
-   -   Скрешение генетического алгоритма с нейросетями (https://javascript.ru/forum/offtopic/63737-skreshenie-geneticheskogo-algoritma-s-nejjrosetyami.html)

ORMjs 26.06.2016 12:53

Скрешение генетического алгоритма с нейросетями
 
Че думаете по поводу скрещивания генетического алгоритма с нейросетями? То есть сделать нейропластичную конструкцию и дать задачу "распознавать образы там, и все такое" и результат распознавания оценивать от -10 до 10. И применить естественный отбор к нейропластичной конструкции. Таким образом нейросетка может принять идеальную для данной задачи форму. Более оптимальную чем человеком придуманные допустим сверточные нейросетки.

Кто че думает и делал ли так что нибудь уже?

EmperioAf 26.06.2016 14:37

А в чём отличие от того как обычно подбирают кол-во нужных слоёв для нейро-сети?

ORMjs 26.06.2016 18:57

Цитата:

Сообщение от EmperioAf
А в чём отличие от того как обычно подбирают кол-во нужных слоёв для нейро-сети?

В том что структура нейросети будет разной, возможно даже отличаться от животных. То есть нейрны могут свои виртуальные аксоны как хош переплетать. Возможно даже получится превзойти природу, так как у нас будет узкая задача "распознавание картинок" а не "выживание" где распознавание картинок побочная задача.

а вообще да, идея баянистая:




То есть при обучении нейросети мы просто задаем веса опсиывающие ассоциации сетки. А я хочу чтобы можно было менять саму форму и структуру сетки, чтобы оно могло вообще создать не солои я не знаю, цепочки, кружки, штуки без названия, колоночки, разные нейроструктуры, которые бы там как то обьединялись хитро. всякие оптимизации, в общем все то что делает природа: перебирает кучу вариантов а самые лучшие оставляет)


То есть мы описываем типа гены, массив генов, дальше виртуальная рибасома типа виртуально определяет структуру мяса, структуру расположения нейронов, далее мы обучаем сетку, далее тестируем.

тестируем параметры (скорость обучения, качество работы)

то есть мы не просто софтвере будем обучать с подкреплением "хорошо плохо", а еще и использовать некие аналоги генов описывающие хардвере - форму строения виртуального мяса сетки.


То есть типа сделать мясо, посмотреть насколько круто оно обучается и насколько быстро работает. Попробовать сделать другое мясо, сравнить на сколько быстро ОНО обучается и насколько круто работает. И так много много итераций рандомных. Ну а дальше ты знаешь), выбираем лучшие и двигаемся в том направлении.

ORMjs 26.06.2016 19:12

я придумал!!

я напишу генетическую сетку
и прикреплю её к 3д модели
и люди будут заходить на сайт
и играться с моделью
а она будет обучаться
и все такое

дело в том что каждый раз при заходе человека
у него будет рандомно генериться генновый набор
и рандомная форма сетки будет

и таким образом для вычисления будет использоваться его компьютер
и для обучения сетки будет использоваться его компьютер
а мне на сервак можно просто данные дамп мяса отсылать

надо тока игру сделать
чтобы интересно людям со зверушкой было играть


после первого шага (цикла)
я буду юзерам уже обновленные сетки кидать
с новыми генами
зверушки
более умные
но не обученные

ну как младенцев
так же надо будет снуля ввсему эти тамогочи учить
но потенциал у них уже будет не как у кошки а как у младенца

Слушайте а может разговорный нейросетевой чат бот проще сделать? а люди типа будут оценивать реалистичность его от 0 до 10.

ORMjs 26.06.2016 19:41

Основная идея чтобы не только софтвере весами нейронов программировать, а еще и хардвере генами программировать. В данном случае хардвере это устройство нейронов и их связи.

Придумайте кто нить типа формат генов описывающий на низком уровне все возможные сочетания нейронов? (по скольку мы точно знаем что для разума хватает нейронов)

ORMjs 26.06.2016 20:23

Для тех кто еще не понял:

есть сетка
у неё есть веса
это софт
есть сетка
у неё есть форма
нейроны
и связи
это хард
хард, то есть топология сетки, зарание закладывается
ученым
по наблюдению за животными
(перцептрон это или сверточная)

я же предлагаю подобно тому как мы прогарммируем софт, через "хорошо плохо"
так же прогаммировать и хард
через ген код
пнятна суть?

таким образом нейроны могут выстроиться в группы
например в трубочки
которые как то хитро сплетены
или в отделы
как в мозгу появились отделы для обезьяньих задач
так и появятся отделы для наших поставленных искуственной селекцией задач

EmperioAf 26.06.2016 21:46

Цитата:

Сообщение от ORMjs
пнятна суть?

да, но звучит это как то нереально.

Вообще хотелось бы услышать спецов в этом области, но здесь их нет наверное.

ORMjs 27.06.2016 09:26

Цитата:

Сообщение от EmperioAf
звучит это как то нереально

Угу, особенно учитывая то что обучить сетку, и протестировать, это лишь ОДНА итерация ОДНОЙ особи. А нужно сделать тонну итераций, тонну поколений.

При том вторая проблема это то что, чтобы не зайти в эволюционный тупик, мы из 10 особей не должны отбирать 2-3 удачных, так как пути других возможно бы в долгосрочной перспективе куда выиграшнее оказались, а мы должны отсеивать 2-3 самых НЕ УДАЧНЫХ. Таким образом держать параллельный зоопарк огромных параллельно идущих ветвей эволюции. Как это делает природа.

Но я думаю тут можно какие то хитрые оптимизации применить и вручную иногда подсказывать эволюции куда двигаться, так как мы таки обладаем интуицией и прогнозированием, в отличии от натурал селекшена.

(лол а можно нейросеть обучить программировать топологии других нейросетей, пользуясь ЕЁ интуицией, хах, чтобы она не случайные мутации делала, а интуитивно более верные)

Цитата:

Сообщение от EmperioAf
Вообще хотелось бы услышать спецов в этом области, но здесь их нет наверное.

Вот я о том и говорю, давай напишем каким нить умникам с хабра? Пусть они разовьют идею?

armidoll 27.06.2016 10:04

Цитата:

Сообщение от ORMjs (Сообщение 420612)
Вот я о том и говорю, давай напишем каким нить умникам с хабра? Пусть они разовьют идею?

Напомнило 98 эпизод теории большого взрыва, когда к Леонарду приехал Джимми ( он глумился над Лео в школе ) и предложил запатентовать 3d очки, которые любой фильм будут превращать в 3d.
С Джимми идея, с Леонарда реализация, т.к. он "ученый"

ORMjs 27.06.2016 10:19

Ну я бы и сам этим занялся если бы не вынужден был обеспечивать свое выживание =)


Часовой пояс GMT +3, время: 10:51.