Саранск был основан в 1641 как крепость на юго-восточной окраине Русского государства, на Атемарской засечной черте. Население крепости (казаки, стрельцы, пушкари) состояло из русских, мордвы и татар. Крепость имела название Саранский острожек и располагалась на берегу реки Инсара, в устье р. Сарлей (современная Саранка). В 1651 Саранск получил статус уездного города. В 1670 его захватили отряды Степана Разина, и город на некоторое время играл роль их опорного пункта. В XVIII веке Саранск утратил свое военное значение и стал торгово-промышленным городом. С 1708 в составе Азовской, затем Казанской губернии, с 1801 — в составе Пензенской губернии. Жители Саранска в 1774 оказали поддержку Емельяну Пугачёву, вступившему в город.
Город занимал выгодное географическое положение, находясь на перекрестке больших гужевых трактов, соединявших Астрахань с Москвой, а Крым — с Казанью. В XVIII веке город постепенно превратился в торгово-промышленный центр (основные предметы производства и сбыта — зерно, пенька, кожа, мясо, мёд). В конце XIX века через Саранск прошла линия Московско-Казанской железной дороги, что оживило экономическую и политическую жизнь края. После Октябрьской революции многие предприятия Саранска долго не работали из-за отсутствия топлива и сырья; восстановление промышленности города было завершено только в 1928. В 1934 Саранск стал столицей Мордовской АССР. Во время Великой Отечественной войны в Саранске размещались многие эвакуированные предприятия.