根据《国家税务总局关于发布《税务行政处罚裁量权行使规则》的公告》规定：“当事人有下列情形之一的，不予行政处罚：

(一)违法行为轻微并及时纠正，没有造成危害后果的;

(二)不满十四周岁的人有违法行为的;

(三)精神病人在不能辨认或者不能控制自己行为时有违法行为的;

(四)其他法律规定不予行政处罚的。”

二、以下情况应当依法从轻或者减轻行政处罚：

根据《国家税务总局关于发布《税务行政处罚裁量权行使规则》的公告》规定：“当事人有下列情形之一的，应当依法从轻或者减轻行政处罚：

(一)主动消除或者减轻违法行为危害后果的;

(二)受他人胁迫有违法行为的;

(三)配合行政机关查处违法行为有立功表现的;

(四)其他依法从轻或者减轻行政处罚的。

三、行政执法的特点

1、主动性。行政执法是为了实现国家行政管理职能的一种活动，它必须依职权积极自觉地采取行动，主动地而不是被动地进行行政执法，否则，就可能失职或是玩忽职守。这是行政执法不同于行政司法的一个特点。行政司法行为是一种事后性的救济行为，一般说来，没有当事人的主动申请，裁决机关不得主动采取行动。当然，行政机关行政执法的主动性，必须是依法的主动;没有法律依据，则不得主动。因为，在行政执法领域，一方面是依职权执法，另一方面则是依相对人申请执法。总之，行政执法必须依法进行，体现的是“没有法律便没有行政”的原则精神。

2、广泛性。行政执法是行政机关在国家的行政管理过程中实施行政法律规范的行为，国家行政管理所涉及的内容非常广泛，因而也就决定了行政执法内容的广泛性。从我国现阶段的实践来看，行政执法不仅涉及公安、工商、税务、海关、文化、卫生、环保、城建、交通等众多领域，而且还广泛地涉及科技、教育、农业、林业、渔业等诸多行业。随着在新的历史条件下依法治国方略的全面推进和日益发展，整个社会生活都将纳入法制的轨道，行政执法所涉及的内容将更加广泛。

3、具体性。与行政立法的抽象性和普遍性特征相比较，行政执法具有具体性和个案性等特征。尽管行政执法涉及内容非常广泛，它覆盖了国家行政管理各个领域，但从其性质上说，行政执法属于一种具体行政行为，它大多都是针对具体的人员和具体的事件所采取的行政行为，因而行政执法不像行政立法那样具有抽象性和普遍性，而是具有具体性。

4、强制性。行政执法是法定的行政机关实施、适用行政法律规范的行为，是贯彻、执行国家意志的手段，因而它必然具有国家意志的拘束力和法律规范的执行力。在行政执法过程中，如果行政管理相对人违反行政法律规范或不履行行政法律规范中所规定的义务时，就会受到行政处罚或行政强制，以达到维护公共利益和社会秩序的目的。当然，行政执法的强制性要由法律来明确加以规定，在行政执法过程中必须依法进行强制。