Зимой—летом 1921 года после столкновений с превосходящими силами Красной Армии остатки отрядов Махно были прижаты к румынской границе. 28 августа Махно с отрядом из 78 человек перешёл границу в районе Ямполь. До начала апреля 1922 года Махно с женой и несколькими единомышленниками проживал в Румынии (в районе Бухареста под контролем полиции). Затем румынское правительство передало Махно Польше, где он и был помещён в лагерь для интернированных.
25 сентября 1923 года Махно был арестован (с женой, И. Хмарой и Я. Дорошенко) и помещён в Варшавскую цитадель и 27 ноября 1923 года предстал перед судом по обвинению в подготовке восстания в Восточной Галиции для присоединения её к Советской Украине. Суд Махно оправдал и отправил на поселение в город Торунь. В декабре 1923 года Махно сделал публичное заявление о борьбе против большевиков и Советской власти, вызвавшее отрицательную реакцию польского правительства. 14 апреля 1924 года после попытки самоубийства был переведён под надзор полиции в город Данциг. В том же году с помощью российских анархистов-эмигрантов добился разрешения на выезд в Германию.
В апреле 1925 года переехал во Францию, где жил до 1934 года (в пригороде Парижа — Венсенне). В последние годы жизни Махно бедствовал, работал разнорабочим (маляром), публиковал отдельные очерки в анархическом журнале «Дело труда» (Париж), готовил мемуары. Здоровье Махно было подорвано множеством ранений, в том числе тяжёлых, полученных в боях.
25 июля 1934 года в возрасте 45 лет он умер в парижской больнице от костного туберкулёза
