具体说来，主要有以下几种情形：

1、形式违法的证据;2、违反法定职权和程序所获得的证据，这是针对行政机关及其职能部门而言的;3、以非法的手段或方式获取的证据，这主要是针对一般的民事主体而言的;4、毒树之果，即经由非法证据而获得的证据;5、虽然不属于上述情形，但是证据本身或者获取证据的手段、行为违反社会公德、社会公共利益。这类证据本身不具有非法性，但其法律后果与非法证据相同，因此，本文暂且把它归入非法证据。

在诉讼活动中，当当事人向法庭提交非法证据时，这就涉及到非法证据的审查问题，毫无疑问，对于非法证据的审查判断只能由法院进行，但问题的关键不在于由是谁来审查，而是由谁来启动审查程序，也就是说由谁来对非法证据提出审查请求。

目前，我国对这一问题的研究不多见，理论上大致存在三种观点：

一种观点是对非法证据审查程序的启动无需当事人申请，由法院依职权对非法进行审查。其法律依据为民事诉讼法第六十四条第一款和第三款当事人对自己提出的主张，有责任提供证据。、人民法院应当按照法定程序，全面地、客观地审查核实证据。民事证据规定第六十四条审判人员应当依照法定程序，全面、客观地审核证据，依据法律的规定，遵循法官职业道德，运用逻辑推理和日常生活经验，对证据有无证明力和证明力大小独立进行判断，并公开判断的理由和结果。第六十八条以侵害他人合法权益或者违反法律禁止性规定的方法取得的证据，不能作为认定案件事实的依据。该观点认为，在证明过程中，当事人和法院之间存在分工，当事人承担提供证据的责任，法院承担审查判断的责任。

第二种观点是非法证据审查程序只能由当事人来启动，法院不能依职权主动审查。该观点认为，法律虽然规定法院应当全面、客观地审核证据，但并未规定法院可以依职权启动审查程序。在民事领域应当遵从意思自治原则，法院不能对当事人的意思主动干预，对当事人没有异议的事实不得裁决。即使是非法的证据，只要当事人没有异议即视为认可，法院不得强行介入。

第三种观点采取二分法，将证据规定第六十八条的内容分为两种情形，分别对待。对于侵犯他人合法权益的非法证据，审查程序的启动只能由当事人来启动，而对采取法律禁止的方法或手段取得的非法证据，审查程序的启动应当由法院依职权进行。