在国家已经征用的土地上进行农业生产是合法的。根据《中华人民共和国土地管理法》的规定，在国家依法征用集体所有的农用地时，农民有权利获得相应的补偿，并可以继续从事农业生产经营活动。 然而，需要注意的是，在使用被征地上的土地之前，必须遵守相关法律法规的要求，包括但不限于保护环境和尊重当地居民的利益等。同时，如果涉及到赔偿问题，需要按照当地的法律规定进行。 此外，即使是在国家已经征用的土地上进行农业生产，也存在一些限制条件，例如不得破坏原有植被和生态环境，以及应当采取措施防止水土流失等。因此，农民在进行农业生产前应充分了解相关的法律法规，确保其行为符合相关规定。