广告牌问题

各位律师您好，现有一问题想咨询。
我公司购买了一块地，作为工业用地使用，在土地使用权证书上包含一块5000多平米的公共绿化用地。但是在这块公共绿化用地上有一个用于商业性质的广告牌。广告牌在我们购买土地的时候就存在，但是土地使用权证书的图上没有显示。目前尚不确定它是不是经过合法审批。如果没有，那肯定是属于违法建筑。如果通过了审批，但是没有经过我方同意，是不是构成了侵权。我方有权利要求拆除吗？政府部门是不是也存在违法行为，或者不作为行为。另外，我方要求对方提供合法证明，对方拒绝了。要我方找政府部门，让政府部门和广告牌所有人谈。请问我方该怎么做。我方想拆除的话，应该找政府什么部门。