Первая лекция демонстрирует принципы работы генетических алгоритмов. Кстати, еще в домашней работе Михаил решил попробовать делать генетику не на двух родителях, а на трех. Это результат Михаилу очень понравился. Но углубляясь в саму задачу при подготовке вебинара, удалось наглядно показать, что намного эффективнее работает генетика не на двух родителях, а на большем количестве лучших! И это удалось показать и доказать(!), применив хитрость! Михаил применил генетику к генетике.
Да - генетику к генетику - это примерно как студенты применяли генетику к поиску лучшей нейронной сети на лекции УИИ. И подобный поиск наглядно показал, что генетический алгоритм эффективнее на многих лучших родителях, что приближает его к поиску частных производных в нейронной сети. Далее стало понятно, что у генетики в ряде задач есть минус. И это скорость!
При подготовке первой лекции Михаила озадачил данный вопрос. Обычно генетика считается циклами, и их так много, что не позволяет ускорить процесс. Изучив подробнее, ему удалось переписать алгоритм генетики в основном на методах numpy, что само по себе работает быстрее, но может быть еще ускорено через numba. А далее остается только сделать прямой шаг от numpy-массива к тензорам и уже считать генетику на графических ускорителях. Также в первой лекции удалось показать, как можно строить генетику на мегапопуляциях и делать соревнования более сложными.
Многое из первой лекции было важным шагом, прологом ко второй лекции. Вторая лекция была посвящена генетическому алгоритму для поиска нейронной сети. Ранее в домашнем задании Михаилу удалось построить алгоритм для поиска случайной НС. Результат впечатлил Михаила, и он решил развивать его при подготовке к лекции. Во время подготовки к лекции удалось решить много задач, которые являются шагами в более амбициозном проекте "Эволюционной машины", над котором время от времени работает Михаил.

- развить сам метод генетического отбора на мегапопуляциях, где соревнуются абсолютно разнородные сети;
- добавить еще больше типов слоев из библиотеки Keras;
- применить метод поиска на семействе лучших родителей;
- применить метод посева ранее отобранных сетей как зародышей новых сетей на их основе
- применить механизм стабилизации кода от переобучения за счет подсева лучших по всем эпохам от их эффективности;
- удалось научиться создавать многоярусные сети по примеру Unet;
- удалось сделать механизм отображения контроля поиска сетей, где наглядно виден градиентный спуск в поиске семейств лучших сетей;
- поиск продемонстрировал работоспособность и пропустил через себя за 3 часа 1200 планов нейронок, 1000 из них скомпилировалась и далее была найдена сложная нейронка с предсказаниями на пять шагов, которая показала уже самый лучший результат на датасете трейдинга.

«На подготовку каждой лекции ушло по две недели, но при подготовке было найдено и продемонстрировано значительно больше, чем имелось в наработке перед началом. Так что это было полноценное исследование с наглядными результатами, выводами и обобщениями. Во время выступления было волнение, но желание делиться было больше! А после выступления это восторг от выполненной работы и благодарности от слушателей как во время лекции, так и в звонках, и письмах после! Проще всего было уже во время лекций, так как все уже готово и ты переполнен знаниями, которыми делишься. Сложнее - ожидание, но оно скрашивалось многими интересными часами самих исследований!».