Официальная дата основания клуба — 12 января 1936 года. Некоторые фан-движения «Локомотива» считают днём образования 12 августа 1923 года.
1922-1991
Основан в 1922 году под названием КОР («Клуб имени Октябрьской революции»), в 1931 переименован в «Казанку», а название «Локомотив» получил в 1936 году. Первым трофеем, завоёванным командой, стал первый Кубок СССР в 1936 году. Во второй половине 1950-х годов у «Локомотива» был самый сильный состав за весь советский период его истории, команда стала во второй раз обладателем Кубка СССР в 1957 году, а в 1959 году были завоёваны серебряные медали первенства Советского Союза. Нападающий «Локомотива» Валентин Бубукин в составе сборной СССР стал победителем первого розыгрыша Кубка Европы в качестве одного из ключевых игроков основного состава. С началом 1960-х годов результаты клуба снизились, в основном за счёт смены поколений и переходов ключевых игроков в более сильные команды.
В 1970-е—1980-е годы за команду выступало много талантливых футболистов, ставших впоследствии известными тренерами, таких, как Юрий Сёмин, Валерий Газзаев, Гиви Нодия, Валерий Петраков и другие.
С приходом на пост главного тренера Юрия Сёмина в 1986 году результаты «Локомотива» стали заметно улучшаться — после 7 лет подряд, проведённых в Первой лиге, в 1988 году клуб вернулся в высшую лигу СССР, а в 1990 году дошёл до финала Кубка СССР, где уступил намного более сильному в те времена сопернику — киевскому «Динамо».
1992-2008
С развалом союзных первенств и переходом на рыночные отношения в хозяйстве, «Локомотив» прочно укрепился в элите отечественного футбола. Немаловажную роль в этом сыграла стабильность в руководстве — с 1992 по 2006 годы президентом клуба был Валерий Николаевич Филатов, а тренировал клуб вплоть до вызова в сборную в 2005 году тренерский тандем Юрий Сёмин (главный тренер) — Владимир Эштреков. Первое чемпионство пришло к команде в 2002 году, когда в «золотой матч» «Локомотив» переиграл ЦСКА. В том же году открылся ультрасовременный стадион «Локомотив». В 2004 году железнодорожники повторили свой успех двухлетней давности.
В 1998 и 1999 годах команда дважды подряд доходила до 1/2 финала Кубка обладателей Кубков. Причём в последнем случае «Локомотив» уступил римскому «Лацио» лишь за счёт пропущенного мяча в домашней встрече. В 2001—2003 годах «Локомотив» участвовал в основном раунде Лиги чемпионов и дважды преодолевал групповой этап. Полуфинал кубка России 2007 против московского «Спартака».
В 2005 году после почти 19 лет (с перерывом в 1991) тренерской работы с поста главного тренера команды ушёл Юрий Сёмин. Его место занял Владимир Эштреков, который добился с командой третьего места в чемпионате России и выхода в плей-офф Кубка УЕФА.
С декабря 2005 года по 5 октября 2006 года команду тренировал сербский специалист Славолюб Муслин. Конец сезона 2006 года клуб провёл под руководством Олега Долматова. «Локомотив» не сумел выполнить поставленную перед ним задачу на тот сезон — занять 1-е или 2-е место, финишировав лишь третьим.
26 декабря 2006 года на заседании Совета директоров клуба было принято решение назначить президентом клуба Юрия Сёмина, а тренером — Анатолия Бышовца. По окончании Чемпионата России 2007 года, несмотря на победу в Кубке России, за невыполнение поставленной задачи Юрий Сёмин и Анатолий Бышовец были освобождены от занимаемых должностей. Исполняющим обязанности главного тренера был назначен Ринат Билялетдинов. 6 декабря 2007 года трёхлетний контракт с «Локомотивом» подписал бывший тренер пермского «Амкара» Рашид Рахимов.
В 2008 году в чемпионате железнодорожники повторили результат предыдущего сезона, однако, Рахимов остался на своём посту, имея большой кредит доверия от президента клуба Николая Наумова.
Сезон 2009
В начале следующего сезона «Локомотив» неудачно стартовал в чемпионате, а также не сумел выполнить задачу попадания в еврокубки через Кубок России, после чего 28 апреля 2009 года Рашид Рахимов был отстранён от работы с командой. До июня 2009 года исполняющим обязанности главного тренера стал Владимир Маминов.
26 мая единогласным решением Совета директоров клуба главным тренером был назначен Юрий Сёмин, который одновременно вошел в состав совета директоров и имеет наравне с президентом клуба приоритетное право голоса при решении трансферных вопросов. По результатам сезона Локомотив занял четвёртое место, уступив бронзу Зениту лишь по разнице мячей.