根据《中华人民共和国民法典》的规定，如果您的父亲去世时，您是他的第一顺序法定继承人之一，那么您有权继承您的祖父留下的房产。然而，如果您父亲未留下遗嘱，则应按照法律规定进行分配。通常情况下，房产会由您的兄弟姐妹平分。 在这种情况下，您可以向法院申请遗产分割，并提交相关的证明材料，如户籍证明、死亡证明等。此外，还需提供您的身份证明和亲属关系证明。法院将依据相关法律法规进行处理，并依法判决房产归属。 需要注意的是，由于涉及法律程序，建议您及时咨询专业的法律顾问，以确保自己的权益得到充分保障。同时，考虑到服刑期间可能存在的特殊困难，请考虑与服刑人员沟通，了解其具体情况，以便采取适当的应对措施。