到当地税务机关进行举报。
根据《税收征收管理法》第二十一条　税务机关是发票的主管机关，负责发票印制、领购、开具、取得、保管、缴销的管理和监督。
单位、个人在购销商品、提供或者接受经营服务以及从事其他经营活动中，应当按照规定开具、使用、取得发票。
《中华人民共和国发票管理办法实施细则》第三十四条　税务机关对违反发票管理法规的行为进行处罚，应当将行政处罚决定书面通知当事人；对违反发票管理法规的案件，应当立案查处。对违反发票管理法规的行政处罚，由县以上税务机关决定；罚款额在2000元以下的，可由税务所决定。
因此对方不给发票，可以到当地的税务机关进行举报。