税务局的行政处罚如何撤销

依据我国相关法律的规定，税务部门对纳税人作出行政处罚决定后，纳税人对处罚不服的，可以申请行政复议或提起行政诉讼，复议或者诉讼通过后，处罚决定可以撤销。
《中华人民共和国税收征收管理法》
第八十八条，纳税人、扣缴义务人、纳税担保人同税务机关在纳税上发生争议时，必须先依照税务机关的纳税决定缴纳或者解缴税款及滞纳金或者提供相应的担保，然后可以依法申请行政复议;对行政复议决定不服的，可以依法向人民法院起诉。
当事人对税务机关的处罚决定、强制执行措施或者税收保全措施不服的，可以依法申请行政复议，也可以依法向人民法院起诉。
当事人对税务机关的处罚决定逾期不申请行政复议也不向人民法院起诉、又不履行的，作出处罚决定的税务机关可以采取本法第四十条规定的强制执行措施，或者申请人民法院强制执行。