具体说来，主要有以下几种情形：
1、形式违法的证据;2、违反法定职权和程序所获得的证据，这是针对行政机关及其职能部门而言的;3、以非法的手段或方式获取的证据，这主要是针对一般的民事主体而言的;4、毒树之果，即经由非法证据而获得的证据;5、虽然不属于上述情形，但是证据本身或者获取证据的手段、行为违反社会公德、社会公共利益。这类证据本身不具有非法性，但其法律后果与非法证据相同，因此，本文暂且把它归入非法证据。
在诉讼活动中，当当事人向法庭提交非法证据时，这就涉及到非法证据的审查问题，毫无疑问，对于非法证据的审查判断只能由法院进行，但问题的关键不在于由是谁来审查，而是由谁来启动审查程序，也就是说由谁来对非法证据提出审查请求。
目前，我国对这一问题的研究不多见，理论上大致存在三种观点：
一种观点是对非法证据审查程序的启动无需当事人申请，由法院依职权对非法进行审查。其法律依据为民事诉讼法第六十四条第一款和第三款“当事人对自己提出的主张，有责任提供证据。”、“人民法院应当按照法定程序，全面地、客观地审查核实证据。” 民事证据规定第六十四条“审判人员应当依照法定程序，全面、客观地审核证据，依据法律的规定，遵循法官职业道德，运用逻辑推理和日常生活经验，对证据有无证明力和证明力大小独立进行判断，并公开判断的理由和结果。”第六十八条“以侵害他人合法权益或者违反法律禁止性规定的方法取得的证据，不能作为认定案件事实的依据。”该观点认为，在证明过程中，当事人和法院之间存在分工，当事人承担提供证据的责任，法院承担审查判断的责任。
第二种观点是非法证据审查程序只能由当事人来启动，法院不能依职权主动审查。该观点认为，法律虽然规定法院应当全面、客观地审核证据，但并未规定法院可以依职权启动审查程序。在民事领域应当遵从意思自治原则，法院不能对当事人的意思主动干预，对当事人没有异议的事实不得裁决。即使是非法的证据，只要当事人没有异议即视为认可，法院不得强行介入。
第三种观点采取二分法，将证据规定第六十八条的内容分为两种情形，分别对待。对于侵犯他人合法权益的非法证据，审查程序的启动只能由当事人来启动，而对采取法律禁止的方法或手段取得的非法证据，审查程序的启动应当由法院依职权进行。
