今年的12月份，我打算开一家餐饮店.地点都选好了，也找了装修公司的.但跟装修公司的有那么一点的不愉快.前后打了25000块钱，一共是43000元.他也没有给我写合同，只是单纯的A4纸写了一下.最后我让他走人了.可不知道后面他还有玻璃款没有给人家.我现在给装修公司打电话，刚开始接了.开始推卸责任.我现在想起诉他.所有的证据都在微信里.所以我也想咨询一下，我可以起诉他吗？