一个不懂法的人---婚姻

我2012年11月结的婚，我是头婚，女方是二婚，我们结婚时女方还没有离婚，我们也只是举办了婚礼，没有拿结婚证，女方当时怀了前夫的孩子，这些情况我在举办婚礼前就知道，在父母的劝说下我接受了这场没有感情的婚礼。婚礼办完三个月后，父母跟女方的爸爸说快点把离婚证办了，孩子也快出生了 ，女方爸爸说前女婿要10万块才肯离，他现在没有钱，等他有钱了就去办，2013年3月份孩子出生了，爸爸又提了离婚证的事，女方爸爸说等出了月子再说，现在没钱办不了，让我家想办法，爸爸也就说暂时没有钱，出月子后，女方被爸爸接回了自己的家，打电话给我爸爸说要四万块钱，我爸爸害怕被骗就一直拖着说目前没有，女方还提出每个月给她爸爸1000元的零花钱。我家是农村的，办婚礼时酒席花了5万多，给女方买了一万多元的四金，上车下车的礼钱给了5000元，房子装修去了2万多，婚礼当天女方的亲戚也来了，现在女方带着孩子不肯来我家了，打电话一直不接，爸爸去她家看过她一次，孩子出生住院喝的奶粉以及后期宝宝生病住院等所有的费用都是我家出的，收据还在，现在我打算不跟她过了，因为没有登记拿结婚证，我自己认为不存在离婚，不知道对不对，想请教各位内行人士，如果我们私下解决这个问题，我之前花的钱要回来合法吗？有哪些钱可以要？如果私下解决不了，我可以通过什么途径来解决，我和家里人要负哪些责任？对所付的责任该怎么处理？谢谢各位了！