Для того, чтобы оформить наследство необходимо обратиться к нотариусу (нотариальную контору) по последнему месту проживания (регистрации места проживания) умершего человека. Из Вашего сообщения не понятно, имел ли Ваш отец зарегистрированное место проживания в доме, о котором идет речь, или этот дом только был в его собственности.
Если исходить из того, что место жительства Вашего отца на момент его смерти было в Киевской области (или это уже даже не Киевская область?), то заявление о принятии наследства подается к любому частному нотариусу соответствующего районного (городского) нотариального округа или в государственную нотариальную контору по последнему месту жительства отца. Если при подаче заявления выяснится, что наследство заведено другим нотариусом, то тот нотариус (нотариальная контора), в которую Вы обратитесь Вас перенаправит.
Если Ваше место жительства на момент смерти отца не было зарегистрировано с ним по одному адресу (а похоже, что это именно так), то подать заявление о принятии наследства нужно до истечения 6 месяцев со дня смерти отца.
Подать заявление о принятии (отказе) от наследства можно как лично, так и путем направления почтой (курьером). Таким образом, Ваш брат может оформить само заявление об отказе от наследства у любого нотариуса в Харькове, а затем Вы его отвезете (перешлете почтой или курьером) по месту открытия наследства.
Для оформления наследственных прав Вы берете с собой к нотариусу свой паспорт, код, свидетельство о смерти отца (эти документы обязательны сразу же при заведении наследственного дела). Дальнейший перечень документов составит нотариус, который заведет наследственное дело, исходя из Вашей конкретной ситуации: наличия-отсутствия других наследников, видов и количества наследственного имущества и т.д. Приблизительный перечень следующий: Ваше свидетельство о рождении, свидетельство о рождении брата, справка о зарегистрированных по одному адресу с отцом на день его смерти; правоустанавливающие документы на дом и другое наследуемое имущество (квартиры, дома, дачи, гаражи, транспортные средства, вклады в банках, земельные участки и т.д.), справка о причине смерти отца. То, что из этого перечня есть у Вас, можете сразу брать к нотариусу.
По поводу бОльшей части дома, а точнее доли в праве собственности на него, то конечный результат, который Вы получите в порядке наследования зависит от многих фактов: каким образом приобрел отец данный дом; если он его купил, то состоял или нет он на тот момент в браке; составлял ли он завещание; если да, то в чью пользу; есть ли наследники, имеющие право на обязательную долю в наследстве и т.д.