ТС, если вы работали с журналом и делали для него фотографии, выходит, что они принадлежат уже не вам, а заказчику (т.е. этому журналу), а работали ли вы за деньги или нет, это ваши трудности. Имеется ли у вас договор/соглашение с редакцией журнала, что ваши фотографии будут использоваться только в этом журнале? Уверен, что нет.
Касательно рекламного агенства, то им всё равно каким содержимым наполнить свой макет, утверждает его заказчик. Любому РА абсолютно всё равно будет там использована ваша фотография, чья-то ещё, или сделаная этим РА любой мыльницей. Или вы претендуете на высокохудожественность своих фотографий?
Как вы сами написали РА использовало изображение отсканированное с журнала, оригинал изображения вы РА не передавали, у журнала в этом случае прав на это изображения больше, чем у вас.
И ещё вопрос во сколько вы оцениваете размещение своей фотографии на одном биге? (чисто спортивный интерес

)