В июле-августе 1941 года город Великие Луки обороняли воины 48 танковой дивизии 22 Армии. В течение 33-х суток воины-танкисты вели упорные оборонительные бои, нанося противнику большой урон в живой силе и технике. В период освобождения Великих Лук в декабре 1942 – январе 1943 года в боях за город участвовали 13 и 38 танковые полки и 146 отдельный танковый батальон. В этих боях танкисты также проявили мужество и героизм. 3 января 1943 года в период решающего штурма крепости танк КВ-13 гвардейского, тяжёлого танкового полка первым ворвался в крепость, но вскоре был подожжён. Экипаж танка, не имея возможности вернуться к своим, отказался сдаться в плен и направил горящую машину в озерко крепости.
В связи с 30-летием со дня освобождения Великих Лук от немецко-фашистских захватчиков (17 января 1973 года) и с целью увековечения павших в боях за город воинов-танкистов, в ноябре 1972 г. маршал бронетанковых войск СССР <nobr>А. Х. Бабаджанян</nobr> дал разрешение командиру одной из воинских частей о передаче городу Великие Луки танка Т-34.
Для установления танка на северо-западном (Инженерном) бастионе древней городской крепости по проекту городского архитектора <nobr>В. Д. Соколовского</nobr> был установлен постамент из железобетона, на него установлен танк, развернутый передней частью на запад. На передней части пьедестала надпись: «Танк Т-34 установлен в честь героических советских воинов-танкистов, принимавших участие в обороне и освобождении города Великие Луки от немецко-фашистских захватчиков в годы Великой Отечественной войны. Слава Вам, доблестные советские воины! Вечная память героям, павшим в боях за нашу великую Родину!»
Памятник был открыт в День Победы – 9 мая 1974 г.