В середине 17 века, а точнее в 1654 году, на холме у слияния речек Харьков и Лопань для защиты русских земель, и в частности Москвы, от набегов крымских татар, началось строительство мощной крепости. Крепость была построена украинскими переселенцами, которые, по разрешению московского царя, колонизировали этот раннее безлюдный край. Присоединение Украины к России вызвало целую волну гражданских войн и мятежей, во многих из них гарнизон харьковских крепостей играл ключевую роль и практически всегда поддерживал московского царя, за что царем Алексеем харьковчанам были дарованы значительные торговые льготы, которые способствовали стремительному росту богатств города. При императоре Петре, который приехал в Харьков в 1709 году, крепость была значительно укреплена, а под ней были прорыты знаменитые подземные ходы, часть из которых сохранилась и до нашего времени. Важным фактом дальнейшего роста Харькова стало открытие коллегиума, одного из первых высших духовных учебных заведений на Украине, где учились и преподавали многие деятели украинской и русской культуры, например, философ Сковорода, стоявший у истоков отечественной философской школы.
В конце XVIII века в городе строится губернаторский дворец, в котором позже открылся первый на Украине и третий в Российской империи университет. Университет оказал огромное влияние на развитие Харькова, как значительного культурного центра. Впоследствии здесь преподавали такие известные ученые, как выдающийся филолог Потебня, лауреат нобелевской премии Мечников, а среди студентов университета числился, в частности, основатель современного польского государства Юзеф Пилсудский.