Это задачка математически на грани фантастики. Чуть ближе к реализуемости - идея преобразования потока цифрозвука в миди путём распознавания знакомых инструментов. Такие потуги уже были, и реализации более-менее примемлемые - тоже. От неё, имхо, стоит и плясать - такие софтинки встречались. Возможно, там есть режимы, при которых удастся добиться преобразования известных\распознанных иснтрументов и игнорирования непонятного - в том числе, голоса (если удастся). Тогда для озвучки инструментала можно использовать созданный софтинкой миди файл. Названий софтинок не помню, но искал бы на редакторы звука сильно навороченные, синтезаторы на несколько окон\экранов и так далее - там могут быть подобные примочки. Лучше поспрашивать музыкантов, которые работают серьёзно с цифрозвуком - наверняка сталкивались.
А задача _чисто_ отделить голос от инструментала - боюсь, нереализуема даже в теории...