已买两年的二手房，租户欠多年暖气费没交因当怎样维权

2016年8月份购买的二手房，当时由于疏忽，只是口头询问前任房主，有没有拖欠暖气费，并没有去供热公司查询欠费情况，导致已经欠了多年的暖气费都不知道。在前任房主，将房子卖给我们之前，将房子租给了一家公司当办事处，租给这家公司之前已经将，水电气暖气费已经结清，没有拖欠。并与租户签订了租房协议，物业费、水电气费、暖气费由租户承担。但是租户由于租户是外地人，没有交暖气费导致欠费多年，并且没有告知房主。等到我们购买此房后续租给了此租户，但是已经欠了五年的暖气费算上违约金一共2万多。我们询问租户，为什么没交暖气费，他们说之前就已经欠费了，去供热公司缴费，收费人员告知欠费，让把以前的欠费补上才行，因此就没交，导致越欠越多。当我们知道欠费后，让他们补齐之前的欠款时，他们口头说只承担这几年的暖气费，违约金他们不管，并且让我们先垫付并开他们公司的发票，然后去总公司报销，我觉得他们是敷衍了事，不想给钱解决问题。因此想请教大家，我该怎样维权，追缴欠款。