行政机关在作出具体行政行为时应遵循先取证，后裁决的法律程序原则，即行政机关在裁决前，应当充分收集证据，然后根据事实，对照法律作出裁决，而不能在毫无证据的情况下对公民、法人或者其他组织作出具体行政行为。如果不遵守这一规则，就是在程序上违法或滥用职权。行政复议程序开始后，如果行政机关举不出证据，就证明其作出的具体行政行为是违反法定程序的。因此《行政复议法》第24条规定：在行政复议过程中，被申请人不得自行向申请人和其他有关组织或者个人收集证据。由此可见，进入复议阶段，被申请人自行收集证据是一种违法行为，其所获得的证据即使能够证明案情事实也因其不具有合法性面不能作为认定案件事实的证据。

在复议过程中不得向申请人和其他组织和个人收集证据是被申请人的一项法定义务，被申请人必须严格遵守。被申请人如果自行收集，复议机关应不予采信。

例如，某大学在阶梯教室举行《中国革命史》一课的期末考试，在其结束铃响退场时，监考人员发现考生郑某的书桌抽斗里有一本笔记，翻开一看正是中国革命史的内容。该校教务处根据学校整顿考试纪律有关文件，经校长批准，对郑某作出考场作弊、开除学籍的处罚。郑某称该笔记并不是自己带入考场的，而是前一天晚上在该教室上自习的同学遗忘在抽斗里；并且自己在考试时也没有偷看笔记，监考人员认为自己作弊没有事实根据。因为该校是教育部直属院校，郑某向教育部申请行政复议，要求撤销该处理决定。教育部受理申请后，学校教务处处找到笔记本的主人刘某，询问她是否于6月19日晚在某教室上自习时，将笔记本遗落在郑某考试时所在座位的抽斗里，刘某否认认识郑某，并说自己没有把笔记本给郑某。教务处又向郑某、刘某寝室的同学调查她们的关系，作出了郑某、刘某是同乡，刘某把笔记本借给郑某，郑某则抄袭笔记本上的内容的调查笔录，并将郑某答的考题与刘某笔记本上相关内容、文字叙述大概相同的部分，一起送往教育部。教育部在调查中发现，该教务处在作出处罚前，未作认真调查；监考人员并未亲眼看到申请人作弊；且这些书面证据都是被申请人在复议过程中集的，违反法定程序，不予采纳。因此，以主要事实不清，证据不足为由，决定撤销该大学对申请人的处罚决定。