В сентябре "Харьков" встал в Новороссийске на планово-предупредительный ремонт. Одновременно на нем был установлен первый на Черноморском флоте морской корабельный радиомаяк (МКР), связанный с работающим на него береговым радиомаяком направленного действия.
31 октября лидер "Харьков" вышел из Новороссийска и 1 ноября еще до рассвета прибыл в Севастополь. Днем при очередном налете авиации противника по левому борту и по носу стоявшего на бочке лидера взорвалось около десятка бомб, не причинив ему особого вреда. Но после этого корабли эскадры стали базироваться в портах Кавказского побережья; "Харькову" отвели место в Новороссийске.
С ноября 1941 по февраль 1942 года лидер использовался для перевозки в главную базу пополнения и боеприпасов. Кроме того, он привлекался для обстрела побережья, занятого неприятелем. 5 декабря после разгрузки в Севастополе "Харьков", стоя у стенки в бухте, произвел обстрел живой силы противника в районе села Аксу. При ответном обстреле в броневой щит первого орудия лидера попал снаряд. В результате орудие было выведено из строя, осколками повреждены надстройки, кают-компания, прицел орудия № 2. Командование базы решило отремонтировать корабль своими силами - его перевели в Корабельную бухту и поставили к артиллерийским мастерским. И даже во время ремонта он продолжал вести огонь из кормовых орудий.
21 декабря при входе в Севастополь "Харьков" подвергся атаке бомбардировщиков, а при подходе к боновым воротам он попал еще и под артиллерийский обстрел береговых батарей противника. Чтобы сбить прицел, лидер, не имея возможности отклоняться от фарватера, маневрировал с помощью резкого изменения хода. На скорости около 21 узла, под огнем тяжелых батарей он проскочил боновые ворота и пришвартовался у артиллерийской пристани, не получив попаданий. Затем "Харьков" вел обстрел резервов противника, скопившихся в районе станции Мекензиевы Горы, у кордона № 1, в Бельбеке и Дуванкое. За двое суток, которые корабль находился в главной базе (до 23 декабря), им было израсходовано 618 130-мм снарядов.
В ночь с 28 на 29 января 1942 года "Харьков" с войсками, боезапасом и продовольствием на борту прорвался в осажденный Севастополь. 30 января, 1 и 2 февраля, перед уходом в Новороссийск, "Харьков" снова вел огонь по позициям противника, а на переходе к Кавказскому побережью 4 февраля обстрелял вражеские позиции в Крыму. В ночь с 27 на 28 февраля лидер в составе ОЛС выходил для обстрела немецких войск у Феодосии.
6 марта "Харьков", принимавший маршевое пополнение, боезапас и продовольствие в Новороссийске, получил приказ срочно выйти в море для оказания помощи эсминцу "Смышленый", подорвавшемуся на мине в районе мыса Железный Рог (Керченский пролив). К моменту подхода лидера тяжело поврежденный эсминец своим ходом вышел с оборонительного минного поля. "Харькову" оставалось только возглавить отряд для следования в Новороссийск. Однако ночью из-за сильного ветра и огромных волн эсминец не смог управляться, и "Харьков" попытался взять его на буксир. "Смышленый" развернуло волнами и опрокинуло. С перевернувшегося эсминца стали скатываться глубинные бомбы и рваться в опасной близости от лидера. От сильных гидравлических ударов на нем стали выходить из строя механизмы и приборы: из нактоуза вылетел магнитный компас, у рулевого сорвало репитер с гирокомпаса. Более двух часов "Харьков" маневрировал на месте гибели "Смышленого", но смог спасти лишь двух моряков. На одном из разворотов он на полном ходу врезался в гребень волны "девятого вала". Огромная масса воды прогнула палубу полубака, образовалась трещина. Вертикальные подпоры палубы в кают-компании оказались согнутыми в дугу. Пришлось изменить курс и вместо Новороссийска следовать в Поти только по волне, поскольку идти против волны было весьма рискованно.
В Поти произвели экстренный ремонт - откачали воду из помещений, выпрямили подпоры, восстановили поврежденную верхнюю палубу полубака, выровняли погнутые люки, двери и кранцы. Уже на следующий день лидер ушел в главную базу, доставив туда маршевое пополнение, боезапас и продовольствие.
8 и 9 марта "Харьков" вел артиллерийскую перестрелку с противником и подавил две вражеские батареи. 24, 27, 31 марта и 6 апреля "Харьков" вместе с другими кораблями и транспортными судами перевозил с Кавказского побережья в Севастополь грузы, орудия и другую технику. Он неоднократно обстреливал позиции противника, подвергаясь при этом ответным ударам артиллерии и авиации.
7 апреля при маневрировании в Севастопольской бухте у стенки лидер сильно ударился форштевнем о причал. В результате удара нижняя часть форштевня загнулась вправо, а обшивка корпуса получила повреждение. Буквально в течение ночи корпус отремонтировали. А за меткий огонь, в результате которого три немецкие батареи были подавлены, экипаж корабля получил благодарность командующего флотом.
Май 1942 года также оказался для "Харькова" весьма напряженным. С 9 по 15 мая по ночам он выходил из Поти в Феодосийский залив и к побережью Керченского пролива для обстрела вражеских войск. 18 мая на переходе из Новороссийска в Севастополь "Харьков" был атакован авиацией. Зенитчикам лидера удалось сбить два самолета, но из-за близких разрывов бомб корабль лишился управления. На большой части пера руля оказалась сорвана обшивка, а на правом винте оторвался обтекатель. В Новороссийске "Харьков" поставили в плавдок и в течение двух суток отремонтировали.
