Вже в давнині, а потім і в середні віки майже в усіх цивілізаціях існували правила, що накладають обмеження на право воюючих завдавати шкоди противникові. Закони, що забезпечують захист певним категоріям осіб, можна знайти в персів, греків і римлян, у Древньому Китаї, в Африці й у християнських державах. До цих категорій належали діти і старі, роззброєні воїни і полонені. Вже в далекому минулому траплялося, що полководці наказували своїм військам зберігати життя взятих у полон солдат, добре поводитися з ними, щадити цивільне населення сторони противника, і нерідко по закінченні воєнних дій сторони домовлялися про обмін полоненими. Заборонялися напади на деякі об'єкти та віроломні способи ведення бою, зокрема такі, як використання отрут.
У своєму сучасному вигляді право війни почало складатися під впливом християнства, ісламу і лицарства. Воно знаходило своє вираження в указах, що видаються государями своїм військам, у яких наказувалися правила поводження військ стосовно противника, а також у двосторонніх актах, що укладалися між воюючими державами. Згодом подібна практика перетворилася в сукупність заснованих на звичаї правил ведення війни, тобто норм, що підлягали дотриманню сторонами в збройному конфлікті навіть при відсутності односторонньої заяви або двосторонньої угоди з цього приводу. Значний внесок у становлення звичаєвого права війни внесли також праці різних вчених в галузі міжнародного публічного та державного права, зокрема таких, як Г. Гроцій, Е. Де Ваттель та ін. Вагомий внесок у формування права війни внесли і філософи, яких завжди хвилювали причини військових зіткнень та їхні жахливі наслідки. Так, французький філософ Жан-Жак Руссо у своїй роботі «Про суспільний договір», опублікованій в 1762 році, відзначав, що: «Війна — це не відносини між людьми, але між державами, і люди стають ворогами випадково, не як людські істоти і навіть не як громадяни, а як солдати; не як жителі своєї країни, а як її захисники». Далі, аналізуючи цілі війни, він писав: «Якщо мета війни — знищення ворожої держави, то інша сторона має право винищувати її захисників, поки вони тримають у руках зброю, але як тільки вони кидають її і здаються, — вони перестають бути ворогами або інструментом у руках ворогів і знову стають просто людьми, чиї життя не дозволено нікому віднімати».