收集证据的程序对证据的合法性的影响体现在非法证据排除规则上，也就是说，法律并不明确规定合法的证据应当具备的条件，而是通过非法证据的排除来达到保证取证行为合法性的目的。一般而言，在刑事诉讼中非法证据特指由司法人员违反法定程序或方式而收集到的证据。由于这类违法收集证据的行为易给当事人的人身、财产权利造成损害，因而各国刑事诉讼立法对司法机关违法取证的行为均持否定态度。但是，对于通过违法程序收集到的证据，立法发展的趋势却日趋理智，其中最明显的表现就是将非法证据分为三类，分别适用不同的规则：

(1)对非法取得的口供或非任意性自白，由于严重侵犯了公民受宪法保护的基本人权，因此两大法系诸国对此类证据均持否定态度，不允许采纳为定案根据;

(2)对于非法取得的物证，采取灵活的政策，或原则上承认其效力(法国)或由法官自由裁量之(英国、德国);

(3)对以非法取得的证据为线索获得的其他证据的可采性问题，逐步趋于放松对这类证据使用的限制，即使是曾实行毒树之果排除规则的美国近年来也不断通过判例法修订原来的规则，增加了许多例外规定、

在民事诉讼领域，各国对当事人用违法方式取得的证据采取了更为宽容的态度。英国对待非法取得的证据最初的原则是：该证据的可采性取决于它与案件是否存在关联性，1897年在Rattrayv.Rattray案中法院就采纳了原告从邮局盗窃来的信件作为证明被告有通奸行为的证据，事后原告被追究了刑事责任，但这并没有影响证据的可采性，审理该案的上诉法院认为：近年来，法律的政策是采纳几乎所有的有助于查清案件事实并实现司法公正的证据、这一判决对英国在民事诉讼中对待非法证据的态度产生了重要的影响，它成为法院处理相同问题时经常引用的一个判例。但是，不断有人对这一判例所确认的原则提出异议，最终在1963年的DkeofArgyllv.DchessofArgyll案中，法院对非法取得的证据的态度才略有转变，审理该案的法官认为：这里没有绝对的规则，应当根据每个案件的特定情况决定是否采纳某一用非法手段取得的证据，这些应当考虑的具体情况包括：相关证据的性质、使用该证据的目的、取得该证据的方式、采纳该证据是否会对被取证方造成不公正以及该证据的采纳是否会对法院查明事实作出公正的判决有所帮助。、这样，在英国的民事诉讼中，在决定非法取得的证据的可采性时，实际上采取了利益衡量的方式，由法官根据实际情况作出裁决。美国对待普通公民通过违法手段取得的证据也并不绝对地禁止，除非该证据的取得方式使证据的可靠性受到影响，法院不予采纳的仅是警察或其他司法机关违反宪法第四修正案的规定取得的证据，而公民个人的非法取证行为显然不属于该修正案规定的范围，因此是可以采纳的、

大陆法系的主要国家中，只有意大利的民事诉讼法规定，一方当事人以非法手段从对方当事人处取得的并且属于对方当事人所有的书证是不可采的。但是，用违法的手段(比如秘密录音方式)取得的供述证据却是可采的。(注：MaroCappellettiJosephM.Perillo,CivilProcedreinItaly,MartinsNijhoff,

1965、P198-199,pp220-221.)在大陆法系的另一些国家，比如德国，在确立非法证据排除规则时采取了相当性原则。德国最高法院虽然在审理民事和刑事诉讼中曾有过排除秘密获取的录音带的案例，但是为了避免非法证据排除规则被过度使用成为实现司法公正的障碍，德国法院采取了相应的限制措施。如果采纳违宪获取的证据是保护他人权益唯一而合理的方式，以及按照法院的裁量，是保护更为紧要的基本价值唯一合理的方式，德国法院有权采纳违宪取得的证据。

我国台湾地区的民事诉讼法中没有关于非法证据的效力问题的规定，实践中也缺少可以依据的案例。学者对此的观点有三种：法规范统一说主张不论实体法还是程序法，都是整体法规范的组成部分，因此违反实体法的行为在诉讼上也应当为否定之评价。否则，一方面就违反实体法的行为加以处罚，而另一方面却允许在诉讼中使用该违法取得的证据，将造成国家法律体系的矛盾;法规范分离说认为，证据取得行为的实体违法性与诉讼程序中利用该证据并无直接关系，因此对实体法的违法性与证据的能力问题上应当作出区别;近来有学者提出，对于非法证据的证据能力问题，应当参照宪法与民事诉讼法的基本原理，依据个案权衡。