因拖欠税款，未开具发票。现反被对方举报偷税。

我厂属乡镇民营小型企业，法律知识缺乏。请各位律师提出宝贵意见。情况如下：自2008年起我厂与对方建立了业务关系，并按货物批次在对方提交全部货款后提供发票。但2010年对方以质量为由，在拒绝退还货物的同时，拖欠货款13.7万。我公司在2010-2011年多次通过电话催缴，但对方拒接电话，逃避债务。
2011年11月我厂获悉对方来本地办理业务，当面催缴货款9.5万，并与对方达成口头协议，在对方付清剩余货款（4.2万）后，我公司提供13.7万发票。
但对方日前向国家税务局举报我厂偷税漏税。现收到《国税局稽查局征缴发票的通知》。
请问各位律师，此事我厂是否应付法律责任？应如何处理和维权？