Несколько прудов, как цепочка, располагались на месте парка до XV века, в русле реки Напрудная (также называемая Самотёка, Синичка) которая впадала в Неглинную ниже по течению в районе современной Самотёчной площади. В ХVI веке началось освоение территории будущего парка. Так же сюда был перенесён Крестовоздвиженский монастырь, а позднее была построена церковь Иоанна Воина.

Позднее во второй половине XVII века, здесь была построена загородная усадьба графа В.С. Салтыкова, радом с церковью Иоанна Воина. Перед усадьбой разбили большой парк, в центре которого располагался большой пруд в течение Напрудной.  Позднее в 1807 году усадьба была перестроена. В ней расположился Екатериненский институт благородных девиц. А парк получил название Екатериненский.

В настоящее время (начиная с XX века) территория парка сильно уменьшилась из-за строительства в окрестностях парка. В 20х-30х годах все сильно поменялось. Церковь Иоана Воина была разрушена и снесена. Река Напрудная была заключена в трубу, кроме большого пруда. А Суворовская площадь, бывшая Екатерининская площадь, расширена за счет парка. Екатерининский институт стал Центральным Домом Советской Армии. А сам парк стал называться «парк ЦДСА».

В 1965 году в северо-западной части парка со стороны улицы Советской Армии построено новое здание Музея Советской армии, на части территории парка расположилась выставка вооружений под открытым небом. В 1979 году от парка была отрезана восточная часть, по которой был проложен Олимпийский проспект.

Еще одно событие сильно повлиявшее на парк произошло летом 1998 года. Над Москвой пронесся ураган в ночь с 20 на 21июня. После него деревья в парке сильно пострадали.

3 января 1999 года мэрией Москвы была принято решение о благоустройстве парка. Парку было возвращено его историческое имя. Работы по благоустройству были завершены в 2005 году.