В конце 1880-х годов в Спасо-Яковлевском монастыре появляется храм преп. Сергия Радонежского. Его основание связано с именем настоятеля обители, архимандрита Иллариона. 28 апреля 1879 г. он направил в Московскую контору Святейшего Синода ходатайство о разрешении на свои собственные сбережения устроить в нижнем этаже Спасо-Преображенской церкви храм во имя преп. Сергия Радонежского. По свидетельству настоятеля, «мысль устроить эту церковь явилась потому, что в Ростове, на родине преп. Сергия, нет не только во имя его отдельного храма, но даже и придельного».

Дозволение на основание храма было получено в июле того же года. Однако устроение церкви затянулось на несколько лет; и к освящению она была подготовлена лишь в 1887 г. Ее устроение финансировали архимандрит Илларион и ростовский крестьянин И.А. Рулев.

4 октября 1887 г., в день памяти преп. Сергия, Сергиевский храм был освящен Преосвященным Ионафаном архиепископом Ярославским и Ростовским. Вот как об этом писали Ярославские епархиальные ведомости:

«4 октября, в неделю 19-ю по Пятидесятнице, Его Высокопреосвященством, Архиепископом Ионафаном совершено освящение храма, вновь устроеннаго, во имя преподобнаго Сергия игумена Радонежскаго чудотворца, в первоначальной Спасской церкви Ростовскаго ставропигиальнаго первокласснаго Спасо-Яковлевскаго монастыря, в нижнем ярусе, и потом совершена Божественная литургия в сем храме.

Архипастырю сослужили на освящении и литургии настоятель Спасо-Яковлевскаго монастыря, архимандрит Илларион, ключарь Ярославскаго кафедральнаго собора, протоиерей М. Дубровский, настоятель Ростовскаго Белогостицкаго монастыря, игумен Геронтий, Спасо-Яковлевскаго монастыря наместник, иеромонах Пахомий, ризничий иеромонах Гавриил и иеромонах Елпидифор. Протодаконом была возглашена на литургии, после возгласа «Господи спаси благочестивыя и услыши ны», вечная память благоверной княгине Марии и князю Глебу − храмоздателям Спасской церкви.

По отпусте литургии совершен Его Высокопреосвященством молебен преподобному Сергию, в котором принимали участие, кроме сослуживших на литургии священнослужителей, протоиерей Ростовскаго Успенскаго собора П. Фивейский и новорукоположенный иеромонах Ростовскаго Борисоглебскаго монастыря Иерофей. В конце молебна были провозглашены протодиаконом многолетия Государю Императору, Государыне Императрице, Наследнику Цесаревичу и всему Царствующему Дому, − Святейшему Синоду и Преосвященному Архиепископу Ионафану с Его паствою, − затем настоятелю обители священно-архимандриту Иллариону и братии ея, устроителям и благотворителям св. храма и всем православным христианам».

Основание престола в честь преп. Сергия Радонежского в Спасо-Яковлевском монастыре − дань памяти прославленному заступнику и чудотворцу, родиной которого является Ростовская земля. Сергиевский храм в Яковлевской обители появился в преддверии празднования 500-летня преставления преп. Сергия Радонежского.

В Сергиевской церкви был похоронен настоятель монастыря архимандрит Амфилохий († 20 июля 1893 г.), известный археограф и палеограф. Надгробный памятник, сооруженный ему ростовскими жителями, сохранился до наших дней, это белая мраморная плита, на которой высечены четыре книги − капитальные сочинения архимандрита Амфилохия.

Церковь преп. Сергия Радонежского просуществовала недолго. Подклет Спасского храма оказался не лучшим местом для ее устройства − из-за сильной сырости богослужение там было затруднено. По данным монастырской описи 1919 г., Сергиевский храм числился «совершенно упраздненным».