根据我国相关法律规定，公民在生育子女时应当依法申请领取《独生子女父母光荣证》。如果您没有办理过结婚登记，即使已经有了两个孩子，您也不用担心需要缴纳罚款。 然而，在您提出的问题中，似乎有人提到“领准生证”而非“领独生子女父母光荣证”。如果指的是后者，那么按照规定，非婚生育的婴儿也应接受计划生育管理，并依法申请领取《独生子女父母光荣证》，享受相应的优惠政策。这意味着您需要向相关部门提交有关材料并缴纳一定的费用。 请注意，以上信息仅供参考，具体政策和要求可能会因地区而异。建议您直接咨询当地的计生部门或政府网站以获取准确的信息。