被告在开庭审理时，可以当庭答辩。法律规定：行政机关作为被告，不提交答辩状，不影响法院的审理。但被告对作出的行政行为负有举证责任，应当提供作出该行政行为的证据和所依据的规范性文件。被告不提供或者无正当理由逾期提供证据，视为没有相应证据。