PCB21, я прислушиваюсь, но:
1. Я не вижу проблем из-за изменения тока нагрузки, т.к.:
а) таких изменений быть не должно;
б) если они и будут, то это приведет к изменению напряжения на выходе, что не является проблемой, т.к. нагрузка - двигатель, и нет необходимости подстраивать его скорость по несколько раз за оборот. Вполне достаточно, чтобы скорость была стабильной на слух

, и мне кажется, что даже если реакция схемы будет 100-200мс, то я этого не услышу. Хотя по возможности я буду пытаться реализовать стабилизацию скорости вращения, но это уже детали и тут нужно пробовать, сейчас важнее схема силовой части. Будет прыгать напряжение - да пусть прыгает, важно, чтобы оно не прыгало выше 12В.
Возможно, это вызовет более серьезные проблемы, но на данный момент я их не вижу. Само по себе не очень стабильное выходное напряжение не должно ни на что повлиять.
2. При определенных изменениях сигнала ШИМ напряжение на выходе прыгает выше входного, это подтверждает и LTSpice и "ручной" анализ переходного процесса. Достаточно резко изменить duty cycle с 0 до 100%, и начинается затухающий колебательный процесс, причем как на входном LC фильтре, так и на выходном. И увеличение емкости помогает только за счет паразитных параметров элементов (увеличение емкости приводит к увеличению времени заряда конденсатора и, соответственно, тока через дроссель, т.о. повышаются потери за счет активного сопротивления дросселя и БП, что влияет на амплитуду колебаний). И я не верю, что есть книги, которые убедят меня, что никаких колебаний там не будет

. По грубым прикидкам должна сработать защита и отключить ключ, т.о. колебания должны быть совсем небольшими (менее 1Vp-p). Точно посчитать я не могу, т.к. есть много нюансов, которые мне не известны (параметры дросселей, в частности).
3. Делать SEPIC, либо Boost, а за ним кучу Buck - это слишком сложно. Buck с максимальным коэффициентом заполнения стремящимся к 100% должно вполне хватить, но желательно со встроенным ключом. Я бы поставил таких 8 штук, и не было бы никаких проблем. Тот же LM2576 подошел бы, если бы у него был приличный встроенный ключ. У TI встречаются подходящие стабы, но купить их у нас не просто, да и платить по полтиннику за каждый стаб не сильно хочется.
По дросселю - у тебя защита предполагается по превышению порога т.е. когда ток нагрузки превысит заданное значение например в 2А и пока будет идти обработка КЗ ток будет расти. Нарисуй нормальную модельку в ЛТ (с драйвером, шунтом и пр.) на выход прицепи имитатор КЗ (полевик в затвор ген на 1-2мс в сток резистор на пару миллиом) и смотри что будет при кз, через сколько мкс(мс) изменится напр. на выходе опера, какой при этом будет ток через дроссель. Заодно увидишь какой ток будет при снятии КЗ и зачем нужен "плавный запуск" и какой порядок действий при КЗ и выходе из него
Пробовал, вроде ничего страшного не увидел. Но модель сильно отличалась от схемы, т.к. даже ОУ я заменял похожим.
А что должно быть при снятии КЗ? Выходные конденсаторы в этот момент разряжены, поэтому если duty cycle будет высоким, защита должна сработать еще несколько раз, пока конденсаторы не зарядятся, вроде так.
Сейчас как крайний вариант рассматриваю LM2673 и LM2676, но хотелось бы что-то с большим максимальным коэффициентом заполнения...
Никто не в курсе, представитель Rainbow Technologies в Харькове есть? На сайте не указан, но вроде где-то писали, что есть

У них LM2676 по очень хорошей цене, я бы десяток взял.