是的，单位不缴生育保险须承担生育费。根据法制办公布的《生育保险办法(征求意见稿)》，征求意见稿明确，单位无论招用男、女职工都须依法参加生育险。立法说明指出，特别是在女性就业比男性更为困难的背景下，通过建立生育保险制度实现风险共担，有利于均衡用人单位之间的生育成本负担，有利于消除就业性别歧视，保障妇女平等就业的权利。