Ходят легенды, что разработка самолета Ан-12 была инициирована Никитой Сергеевичем Хрущевым во время визита в АКБ. Он спросил во время осмотра Ан-8, какие есть аналоги за рубежом. После того, как узнал, что там есть аналогичные самолеты с четырьмя двигателями, предположил, что в СССР тоже должны делать самолеты с четырьмя двигателями. После чего Олег Константинович Антонов и задумал будущий Ан-12.
Параллельно начались разработки Ан-10 и Ан-12. Для самолета были выбраны двигатели АИ-20. Первый Ан-12 взлетел в Иркутске 16 декабря 1957 года.
С 1959 года самолет начал поставляться в ВВС. В процессе эксплуатации его разрешенная взлетная масса была увеличена до 16 тонн. Самолет зарекомендовал себя как очень надежный аппарат, способный работать сложных климатических условиях и неприхотливый в обслуживании.
Самолет активно применялся в военных целях, для переброски военной техники и состава, десантирования, в чрезвычайных ситуациях, для пассажирских перевозок. Именно он стал локомотивом развития влияния ВВС СССР.
Серийно выпускался в Иркутске, Воронеже и Ташкенте.
В Китае Ан-12 производился под названием Y-8.