第一次开公司，不懂财务，前两个月没有业务也没报税。现在去报，税务局要罚款一万，我该怎么办？

第一次开公司，不懂财务，开业后两个月没有业务也没报税。前几天去找专管员，看到她没有帮我录入系统，但是，她说由于两个月没来报税，要罚款一万。在网上查了，不是说有责令限期改正通知书吗？我怎么没收到呢？！也有的说，专管员应该在你未申报时，先通知的，她也有责任！怎么会上去就给我罚款呢？是这样的吗？求高手指点一二。谢谢！
 
这一万，让我很无奈，我是小公司刚起步，就剩下一万块钱活动资金了。