Существует легенда, что именно на месте Тихоновского храма происходил поединок Ярослава Мудрого с медведем и что в память о княжеской победе здесь был заложен храм, который стал первым православным храмом Ярославля. Версия научных подтверждений не имеет и считается красивой городской легендой.
Каменный двухэтажный храм в стиле классицизма построен в 1825-1832 гг. на месте каменной церкви конца XVII в. на средства купцов М. А. Ленивцева и А. И. Отрыганьева. Прямоугольное в плане однокупольное здание с боковыми портиками и парными колокольнями над углами западного фасада. Вверху был летний Ильинский храм, внизу зимняя церковь иконы Божией Матери Ярославской с приделами Тихона Амафунтского и Михаила Архангела. Храм был закрыт в начале 1920-х, колокольни сломаны. В настоящее время находится в ведении Ярославского музея. В здании располагаются реставрационные мастерские. В барабане купола частично сохранились фрески.
Церковь Николая Чудотворца в Рубленом Городе была построена в 1695 году на средства посадских людей, занимавшихся судостроительством (верфи, по некоторым источникам, находились как раз неподалеку от храма — на Которосли).
Единственный храм на территории бывшего ярославского кремля, сохранившийся с XVII века.
Название храма происходит от местоположения — церковь стояла на территории ярославского кремля. Некоторые исследователи полагают, что это могла быть даже надвратная церковь на въездных воротах.
По преданию, первый деревянный храм был построен на этом месте в 1213 году.
В XIII веке на этом месте был построен другой храм, который сгорел в 1657 году. Тогда от храма уцелела икона Архангела Михаила, которая сейчас находится в Третьяковской галерее.
Нынешний храм был построен в 1682 году.