Історики вважають, що в ранньому періоді історії (середина 17 століття) місто Харків мало герб із зображенням натягнутого лука із стрілою на полі картуша. Цей герб відповідав тому періоду історії міста, коли Харків відігравав роль військово-опорного пункту на південному кордоні Російської держави.

25 квітня 1781 року було утворено Харківське наміснитцтво (губернія), що складалося з 15 повітів, а 21 вересня того ж року було затверджено намісницький герб, який служив також й міським гербом Харкова.

Герб Харківського наміснитцтва був геральдичним щитом французької форми (чотирикутний, загострений до низу). На зеленому полі щита зображені «положенные крестообразно Рог Изобилия с находящимися в нем плодами и цветами, и кадуцея, или Меркурьев Жезл» – золотий жезл із срібними крилами, який обвивають змії сріблястого кольору.

Зелений колір в геральдиці символізує надію, радість, достаток. Ріг Достатку – природні багатства краю. Кадуцей – незмінний атрибут Бога Меркурія, який в епоху античності вважався заступником торговців, мандрівників, парламентерів. Змії, обвиваючі кадуцей, символ мудрості. Таким чином, герб символізував «как изобилие окружных стран того города, так и торговлю, производимую на бывающей там знатной ярмарке».

Харківський герб був складений в 1775 році геральдмейстером князем М.М.Щербатовим (з 1771 року князь очолював геральдмейстерську контору).

Згідно з Імператорським Указом 1856 року були переглянуті всі губернські та інші герби у зв'язку з тим, що в деяких міських гербах мали місце недоліки: відмова від геральдичних правил і, головне, відсутність в гербах єдиних монархічних атрибутів, які відображали б основні принципи внутрішньої політики уряду.

Був складений проект нового герба, затверджений 5 липня 1878 року. З того часу й по 21 травня 1887 року Харків мав герб, на якому були зображені «в серебряном щите черная оторванная конская голова, с червлеными глазами и языком; в червленой главе щита золотая о шести лучах звезда между двумя золотыми византийскими монетами. Щит увенчан Императорскою короною и окружен золотыми дубовыми листьями, соединенными Андреевскою лентою».

Кінська голова означала знамениті кінські заводи, що знаходилися в губернії, зірка – університет, візантійські монети – торгівлю й багатство.

Автором герба був барон Б. Кене - ініціатор геральдичних реформ, який вважав кадуцей «негеральдичною фігурою».

Новий герб викликав бурю протестів, і 21 травня 1887 року, по клопотанню Харківського дворянства, місту був повернений колишній герб: «…с изображением кадуцея и Рога Изобилия, но с тем, однако, чтобы над таковым гербом изображена была Императорская корона, а по бокам сделаны украшения как в гербе 1878 года», тобто – щит, увінчаний Імператорською короною і оточений дубовим листям, яке було з’єднане Андріївською стрічкою.

Цей герб Харківська губернія мала до проголошення радянської влади в 1917 році.

З 1917 по 1968 рік ані Харків, ані Харківська область не мали своїх гербів.

Новий герб Харкова радянського періоду з'явився лише 26 грудня 1968 року. Його автор – художник Є. Єгоров.

Колірна гама герба – червоний, голубий, білий кольори. На верхній частині щита на червоному тлі зображена шестерня, символізуюча промисловість міста, на білому тлі – зображений золотий колос із золотими орбітами електронів.

Білий колір на гербі – символ миру, поєднання червоного й синього – кольори прапора Української РСР, електронні орбіти нагадують, що Харків – місто науки, де вперше в СРСР було розщеплено атомне ядро.

11 травня 1999 року VI сесія XXIII скликання Харківської обласної ради затвердила Положення «Про герб Харківської області».

У Положенні, зокрема, сказано, що «герб області являє собою геральдичний щит (чотирикутний, загострений до низу). На зеленому полі щита зображені: перехрещені золотий ріг достатку і кадуцей, жезл якого також золотий, а крила і змії - срібні. Щит обрамлений золотою каймою. Навколо гербового щита розташоване золоте дубове листя, обвите блакитною стрічкою. Щит увінчано стилізованим зображенням шестірні, з обох боків якої розташовані по два злакових колоси. На тлі шестірні подано книгу з символічним зображенням атомного ядра з електронними орбітами.».

Тим же рішенням VI сесії XXIII скликання Харківської обласної ради затверджено Положення «Про прапор Харківської області».

У цьому Положенні, зокрема, сказано що «прапор області являє собою прямокутне полотнище (відношення ширини до довжини 2 : 3) малинового кольору із зображенням в центральній частині герба області. Висота гербового щита дорівнює 1/2 ширини прапора. Прапор області двосторонній».

Автором герба і прапора Харківської області є художник Сергій Шапошников.

За словами С. Шапошникова, при створенні герба він прагнув максимально зберегти геральдичну спадкоємність і лише додав символіку, що характеризує нинішній етап розвитку області, а також особливості її адміністративно-територіального розподілу. Зокрема, кількість дубового листя в обрамляючому герб вінку відповідає числу районів й міст обласного підпорядкування в Харківській області.