首先，需要明确的是，婚姻关系中的继承权是基于夫妻之间的共同财产以及双方父母遗产的继承权。在您的案例中，如果张三和妻子没有签署任何协议或遗嘱，则他的遗产将按照法定继承来分配。 根据中国法律规定，对于无配偶的男性和女性来说，其子女作为第一顺序继承人，有权继承他们的全部遗产。因此，在您提到的大儿子和小儿子死后，他们各自的子女都有权利继承他们的部分遗产。 然而，需要注意的是，如果张三的妻子仍然活着，并且她同意将其遗产的一部分留给自己的孩子，那么这些孩子的份额可能会有所不同。此外，如果张三的妻子去世后，她的子女也愿意接受这部分遗产，那么这部分遗产也将被分割。 总之，处理这类案件时，最好由专业的法律顾问进行详细分析和规划，以确保所有人的权益得到公正保护。