Мысль о создании мощного ледокола выдающийся деятель Российского флота адмирал С. О. Макаров высказал зимой 1892 г. именно в связи с проблемой достижения Северного полюса. Но реальным осуществлением проекта он занялся лишь спустя пять лет. В октябре-ноябре 1897 г. была создана комиссия для разработки спецификации будущего ледокола, в работе которой принимали участие Д. И. Менделеев, а также ряд инженеров и кораблестроителей. Вскоре состоялся конкурс, в котором участвовали три фирмы: «Бурмейстер и Вайн» (Дания), «В. Г. Армстронг, Витворт и К°» (Великобритания) и «Пиллау» (Германия). Наиболее выгодные условия предложила фирма Армстронга, поэтому выбор пал именно на нее.
Вице-адмирал С. О. Макаров – создатель ледокола «Ермак»
Постройка ледокола шла ускоренными темпами. 4 февраля 1899 г. судно было готово к сдаче, а уже ровно через месяц «Ермак» вошел в гавань Кронштадта. Ледокол спокойно преодолевал лед толщиной 0,6–0,9 м.
Торжественный спуск «Ермака» на воду, 1898 г.
Основные технические данные «Ермака»: длина 97,5 м, ширина 21,64 м, осадка 8,55 м; водоизмещение 8730 т; мощность паровой машины 6950 л. с.; скорость (здесь и далее указана скорость на чистой воде) 14 узлов; ледопроходимость 0,8–1,6 м; экипаж (в разные периоды службы) 102–150 человек.
За первые десять лет работы на Балтике «Ермак» провел во льдах более 618 судов. В 1900 г. ледокол принял участие в спасении броненосца береговой обороны «Генерал-Адмирал Апраксин», который 13 ноября 1899 г. из-за навигационной ошибки выскочил на отмель у юго-восточного берега острова Гогланд. В апреле 1900 г. «Ермаку» удалось стащить броненосец с каменной гряды и благополучно привести в порт.
Вскоре состоялись и первые научные экспедиции, организованные С. О. Макаровым. Первое плавание продолжалось с 29 мая по 14 июня 1900 г. В районе южной оконечности Шпицбергена в корпусе обнаружилась течь, и ледоколу пришлось вернуться обратно в Ньюкасл для ремонта. Но повреждения корпуса были незначительными, и в целом экспедиция оказалась достаточно результативной. Второе плавание началось 14 июля, а закончилось 16 августа того же года. Маршрут его также проходил в районе Шпицбергена. Еще один поход состоялся в период с 16 мая по 1 сентября 1901 г. Льды в районе северной части Новой Земли оказались непроходимыми для «Ермака». Тем не менее удалось достигнуть немалых успехов: были сделаны два рейса к Земле Франца-Иосифа, составлена карта Новой Земли от Сухого Носа до полуострова Адмиралтейства, собрано большое количество материалов по гляциологии, проведены глубоководные и магнитные исследования.