При Байкове Ростов обзавёлся тротуарами, первыми фонарями, общественным транспортом, богадельней, газетой, обществом взаимного кредита, биржей. Появились пожарная команда, набережная и сады. Открыт ряд учебных заведений, включая женскую прогимназию.Байков построил в городе паровое водоснабжение в 100 тысяч вёдер в сутки.

В 1865 году Байков стал почётным гражданином Ростова.