Музыка и ИИ

Dadabots — Coditany of Timeness

Dadabots: нейросеть учится блэк-металу

SampleRNN обучили на альбоме Diotima группы Krallice; из десяти часов сгенерированного звука Zack Zukowski смонтировал пять треков. Coditany of Timeness — 16 ноября 2017, бесплатно на Bandcamp.

Dadabots — Coditany of Timeness
Обложка издания

Dadabots — дуэт CJ Carr и Zack Zukowski; они познакомились в 2012 году на Music Hack Day в MIT и называют себя музыкантами, «соблазнёнными математикой». Coditany of Timeness — их ранний и самый известный проект: 16 ноября 2017 года его выложили бесплатно на Bandcamp. Пять треков — «Memoryearion», «Timension», «Wisdom Trippin’», «Energiveness» и «Inhusk». Названия сгенерированы цепью Маркова, обложка — нейронным переносом стиля: здесь машина делает всё, кроме отбора.

Как это сделано, дуэт подробно рассказывает в своём FAQ. Рекуррентную сеть SampleRNN обучали на «сыром» аудио альбома Diotima блэк-метал-группы Krallice — без нот, без MIDI, без теории музыки, просто на волновых формах. Обучение шло на GPU V100 и заняло около трёх дней; за один прогон такая сеть выдаёт порядка десяти часов звука. Дальше начинается человеческая часть: Zack прослушал эти десять часов, отобрал куски, «звучавшие как законченные песни», и смонтировал из них альбом. Вся работа уложилась примерно в четыре дня; до этого дуэт обучил сотни сетей, подбирая параметры, и опубликовал находки в открытый доступ.

Почему это работает

Для меня Coditany важен как первый эксперимент Dadabots, в котором сеть выдала «постоянный ритмический пульс» — не просто шум, а нечто похожее на блэк-метал с его непрерывной фактурой. Слышно, как модель цепляется за перегруз исходника и спотыкается там, где у людей начинается развитие материала. Отдельная деталь истории: разрешения Krallice никто не спрашивал — Dadabots связались с группой, когда альбом был уже готов, и те одобрили результат.

На странице релиза среди прочего цитируют Марио Клингемана: «Это не ИИ, это просто чужие данные». Лучше об этом методе не скажешь: весь стиль здесь — переработанный Diotima. Но именно поэтому альбом и интересен — как документ того, как сеть понимает жанр на уровне сырого звука, а не нот.

Источники и музыка

  1. Dadabots — Coditany of Timeness
  2. Dadabots — рассказ о процессе и монтаже
Музыка и ИИ — все материалы