没登记结婚已有小孩 这样应该怎么解除这段关系？

你们在法律上不是夫妻关系，自然也谈不上离婚，法院有个案由叫做“解除同居关系子女抚养纠纷案件”，如果你们双方不能自由自愿达成解除同居关系以及子女抚养问题，可以向人民法院起诉解决，至于财产问题不是按照婚姻法处理，而是按照共有财产处理，子女抚养问题参照婚姻法解决！

因为没有办理婚姻登记，你们的婚姻无效。如果无法生活下去，选择分开就可以了。赔偿没有依据。