В 1949—1950, 1960—1963, 1965—1991 годах команда участвовала в высшей лиге чемпионата СССР. В 1973 году «Арарат» стал чемпионом и обладателем Кубка СССР. В 1971, 1976 (весна) годах стал серебряным медалистом чемпионата, а в 1975 году снова завоевал Кубок СССР.
Всего команда участвовала в 33 чемпионатах СССР, провела 1026 матчей, из них выиграла 352, сыграла вничью 280, проиграла 394, забила 1150 голов, пропустила — 1306. К 1975 году команда участвовала в розыгрышах трёх европейских кубков. В последнем чемпионате СССР в 1991 году команда заняла 7-ое место.
В армянской истории клуб бессменный участник первенства по футболу. На данный момент «Арарат» является чемпионом и пятикратным обладателем кубка страны. В 2004 году в клубе произошёл раскол, и большая часть переехала в город Капан, где с местным клубом образовала единый клуб под названием «Лернагорц-Арарат». 8 июня название сократилось до «Арарата», а 19 июня команда переезжает обратно в Ереван, но домашние игры ей приходится проводить в пригороде Еревана — Воскеате. В 2006 году произошёл роспуск главной команды и переименование «Арарат-2» Ереван в «Арарат» Ереван. Перед чемпионатом 2008 года команда усилилась опытными футболистами, а также игроками из конкурирующих команд. Клуб завоевал первый после длительного перерыва трофей — кубок страны, и выиграл серебряные медали чемпионата, уступив в «золотом матче» «Пюнику» в дополнительное время.
Новый сезон для команды начинается плохо, так как её спонсор, который является также спонсором любительской команды «Арарат» Париж в 5-м дивизионе французского чемпионата, решил сосредоточить своё внимание на французской команде, потому было сокращено финансирование ереванского клуба. Команду покинул десяток игроков, вместо которых пришли резервисты из дубля. Из-за разногласий и неполучения лицензии клуб не принял участие в Лиге Европы, вместо него в турнир заявлена «Мика». После первого круга чемпионата команда занимала в нём последнее место; было сделано множество приобретений с целью усиления состава, но в итоге команда так и осталась последней.
В 2010 году команда находится в непонятном состоянии. В то время как все команды Армении вовсю проводят предсезонную подготовку, «Арарат» даже не приступал к тренировкам. Клуб не будет участвовать в розыгрыше Кубка Армении. Также руководство отказалось от легионеров и расчитывает на отечественых футболистов, которые помогут клубу в Первой лиге.