其次,针对上述三种在侵害权益方面程度不同的非法证据,分别建立相应的法律后果。具体说来,对于“违反宪法的证据”,应建立“绝对排除”的规则,也就是毫无例外地、没有任何自由裁量余地的排除。而对那些“一般的非法证据”,则建立“自由裁量的排除”规则,也就是由司法裁判者根据这种违法行为的严重程度和危害后果,作出排除或者不排除,部分排除或者部分不排除的结论。至于所谓的“技术性的非法证据”,由于所涉及的是技术性的违反法律程序,而并未造成某一方利益受到侵害,因此原则上不必为裁判者所排除,其证据的可采性不会因其技术性的违法而受到影响。

　　对不同的非法证据确立不同的法律后果,既是各国的通例,也符合建立非法证据排除规则的本来目的。即使在美国这样的高度强调尊重正当法律程序的国家,在建立、发展排除规则时也越来越强调重点排除那些重大的违宪性证据,并将证据排除规则建立在维护宪法性权利的基础上。而对于那些没有严重侵害公民宪法权利的一般违法行为,则称之为所谓的“无害错误”(ｈａｒｍｌｅｓｓｅｒｒｏｒｓ)。因此,美国的非法证据排除规则是以违反公民宪法性权利为基点而建立起来的。①而在英国,刑事证据法明确将非法证据的排除区分为“绝对的排除”与“自由裁量的排除”两种,前者主要适用于通过刑讯、逼迫等行为得到的非法证据,后者则适用于非法搜查、扣押、窃听等来实物证据以及所谓的“毒树之果”等。法官在就排除与否作出“自由裁量”时,需要平衡两方面的利益:一是有关证据的证据价值;二是侦查行为的违法程度和危害后果,尤其是对公正审判、司法正义所造成的损害。②

　　可以说,建立排除规则的目的并不是“为排除而排除”,也就是排除一切不符合法律程序规定的证据。这种规定的真正目的是通过排除非法证据,来惩戒、禁止侦查人员侵犯公民权利的行为,从而为侦查人员的强制性侦查行为建立起一个明确的法律界限。只有在这种法律界限确立之后,公民才不会因为侦查权的滥用而遭受任意的搜查、扣押、窃听,甚至受到残酷的刑讯逼供,公民的辩护权也才有得到维护的可能。正因为如此,一些纯属技术性违法的非法证据就没有必要被排除,那些严重侵害公民宪法权利的非法证据则应无条件地予以排除,而那些一般的非法证据则应由裁判者根据违法的严重程度和危害后果,在经过审慎的利益权衡之后,作出排除或者不排除的结论。

　　因此,非法证据的排除应当着眼于非法取证行为的违法性质和后果,而不应以证据的形式作为排除的标准。目前中国最高人民法院将排除规则解释为“非法言辞证据的排除规则”,这本身显然将非法取得的实物证据(尤其是通过侵犯公民宪法权利的方式获得的实物证据)不列入排除的范围。不仅如此,排除规则也应当根据非法取证行为对公民权益侵害的程度而确立排除的后果,而不应仅仅以非法讯问行为作为排除的对象。目前最高人民法院将排除规则仅仅适用于刑讯逼供、威胁、引诱、欺骗等非法讯问行为上面,这显然使得非法搜查、非法扣押、非法窃听、非法查询冻结、非法剥夺辩护权等行为,难以受到必要的程序性制裁。