Скрешение генетического алгоритма с нейросетями

[ORMjs]

Че думаете по поводу скрещивания генетического алгоритма с нейросетями? То есть сделать нейропластичную конструкцию и дать задачу "распознавать образы там, и все такое" и результат распознавания оценивать от -10 до 10. И применить естественный отбор к нейропластичной конструкции. Таким образом нейросетка может принять идеальную для данной задачи форму. Более оптимальную чем человеком придуманные допустим сверточные нейросетки.

Кто че думает и делал ли так что нибудь уже?

[EmperioAf]

А в чём отличие от того как обычно подбирают кол-во нужных слоёв для нейро-сети?

[ORMjs]

А в чём отличие от того как обычно подбирают кол-во нужных слоёв для нейро-сети?

В том что структура нейросети будет разной, возможно даже отличаться от животных. То есть нейрны могут свои виртуальные аксоны как хош переплетать. Возможно даже получится превзойти природу, так как у нас будет узкая задача "распознавание картинок" а не "выживание" где распознавание картинок побочная задача.

а вообще да, идея баянистая:




То есть при обучении нейросети мы просто задаем веса опсиывающие ассоциации сетки. А я хочу чтобы можно было менять саму форму и структуру сетки, чтобы оно могло вообще создать не солои я не знаю, цепочки, кружки, штуки без названия, колоночки, разные нейроструктуры, которые бы там как то обьединялись хитро. всякие оптимизации, в общем все то что делает природа: перебирает кучу вариантов а самые лучшие оставляет)


То есть мы описываем типа гены, массив генов, дальше виртуальная рибасома типа виртуально определяет структуру мяса, структуру расположения нейронов, далее мы обучаем сетку, далее тестируем.

тестируем параметры (скорость обучения, качество работы)

то есть мы не просто софтвере будем обучать с подкреплением "хорошо плохо", а еще и использовать некие аналоги генов описывающие хардвере - форму строения виртуального мяса сетки.


То есть типа сделать мясо, посмотреть насколько круто оно обучается и насколько быстро работает. Попробовать сделать другое мясо, сравнить на сколько быстро ОНО обучается и насколько круто работает. И так много много итераций рандомных. Ну а дальше ты знаешь), выбираем лучшие и двигаемся в том направлении.

[ORMjs]

я придумал!!

я напишу генетическую сетку
и прикреплю её к 3д модели
и люди будут заходить на сайт
и играться с моделью
а она будет обучаться
и все такое

дело в том что каждый раз при заходе человека
у него будет рандомно генериться генновый набор
и рандомная форма сетки будет

и таким образом для вычисления будет использоваться его компьютер
и для обучения сетки будет использоваться его компьютер
а мне на сервак можно просто данные дамп мяса отсылать

надо тока игру сделать
чтобы интересно людям со зверушкой было играть


после первого шага (цикла)
я буду юзерам уже обновленные сетки кидать
с новыми генами
зверушки
более умные
но не обученные

ну как младенцев
так же надо будет снуля ввсему эти тамогочи учить
но потенциал у них уже будет не как у кошки а как у младенца

Слушайте а может разговорный нейросетевой чат бот проще сделать? а люди типа будут оценивать реалистичность его от 0 до 10.

[ORMjs]

Основная идея чтобы не только софтвере весами нейронов программировать, а еще и хардвере генами программировать. В данном случае хардвере это устройство нейронов и их связи.

Придумайте кто нить типа формат генов описывающий на низком уровне все возможные сочетания нейронов? (по скольку мы точно знаем что для разума хватает нейронов)

[ORMjs]

Для тех кто еще не понял:

есть сетка
у неё есть веса
это софт
есть сетка
у неё есть форма
нейроны
и связи
это хард
хард, то есть топология сетки, зарание закладывается
ученым
по наблюдению за животными
(перцептрон это или сверточная)

я же предлагаю подобно тому как мы прогарммируем софт, через "хорошо плохо"
так же прогаммировать и хард
через ген код
пнятна суть?

таким образом нейроны могут выстроиться в группы
например в трубочки
которые как то хитро сплетены
или в отделы
как в мозгу появились отделы для обезьяньих задач
так и появятся отделы для наших поставленных искуственной селекцией задач

[EmperioAf]

пнятна суть?

да, но звучит это как то нереально.

Вообще хотелось бы услышать спецов в этом области, но здесь их нет наверное.

[ORMjs]

звучит это как то нереально

Угу, особенно учитывая то что обучить сетку, и протестировать, это лишь ОДНА итерация ОДНОЙ особи. А нужно сделать тонну итераций, тонну поколений.

При том вторая проблема это то что, чтобы не зайти в эволюционный тупик, мы из 10 особей не должны отбирать 2-3 удачных, так как пути других возможно бы в долгосрочной перспективе куда выиграшнее оказались, а мы должны отсеивать 2-3 самых НЕ УДАЧНЫХ. Таким образом держать параллельный зоопарк огромных параллельно идущих ветвей эволюции. Как это делает природа.

Но я думаю тут можно какие то хитрые оптимизации применить и вручную иногда подсказывать эволюции куда двигаться, так как мы таки обладаем интуицией и прогнозированием, в отличии от натурал селекшена.

(лол а можно нейросеть обучить программировать топологии других нейросетей, пользуясь ЕЁ интуицией, хах, чтобы она не случайные мутации делала, а интуитивно более верные)

Вообще хотелось бы услышать спецов в этом области, но здесь их нет наверное.

Вот я о том и говорю, давай напишем каким нить умникам с хабра? Пусть они разовьют идею?

[armidoll]

Вот я о том и говорю, давай напишем каким нить умникам с хабра? Пусть они разовьют идею?

Напомнило 98 эпизод теории большого взрыва, когда к Леонарду приехал Джимми ( он глумился над Лео в школе ) и предложил запатентовать 3d очки, которые любой фильм будут превращать в 3d.
С Джимми идея, с Леонарда реализация, т.к. он "ученый"

[ORMjs]

Ну я бы и сам этим занялся если бы не вынужден был обеспечивать свое выживание =)