总的来看，无论是涉外仲裁裁决还是国内仲裁裁决，只有在通过重新仲裁能使裁决中的错误或缺陷得以消除时，裁定重新仲裁才有意义。例如以下情形：申请撤销裁决的一方当事人没有得到进行仲裁程序的通知，或者由于其他不属于他负责的原因未能陈述意见；仲裁的程序与仲裁规则不符；仲裁员在仲裁该案时有索贿受贿、徇私舞弊、枉法裁决的行为，等等。在另外一些情形中，例如当事人在合同中没有订立仲裁条款或者事后没有达成书面仲裁协议；或者申请撤销裁决的一方当事人没有得到指定仲裁员的通知；或者仲裁庭的组成与仲裁规则不符；或者裁决的事项不属于仲裁协议的范围或仲裁机构无权仲裁，人民法院就不能裁定重新仲裁，而须直接裁定撤销裁决。因为这些情形均直接或间接地影响到了仲裁庭的管辖权，仲裁庭在无权或越权或争议事项不具有可仲裁性的情况下进行仲裁作出的裁决均属无效，只能予以撤销。此外，由于裁决违背社会公共利益也属于一种严重违法的情形，无法通过重新仲裁予以更正，因而也只能裁定予以撤销。
（二）实施重新仲裁的主体
人民法院裁定重新仲裁的案件应交由原裁决该案的仲裁庭处理还是重新组成仲裁庭处理，《仲裁法》未直接作出规定。但是，根据《仲裁法》第61条的规定——人民法院受理撤销裁决的申请后，认为可以由仲裁庭重新仲裁的，通知仲裁庭在一定的期限内重新仲裁——不难推断出重新仲裁案件只能是提交给原仲裁庭而不可能是提交给重新组成的仲裁庭。因为在人民法院根据上述规定裁定重新仲裁之时，新的仲裁庭不可能已经组建成立，此时人民法院如果要通知仲裁庭重新仲裁，只可能通知本来就存在的原仲裁庭，而不可能通知也无从通知尚未成立的所谓的“新仲裁庭”。
对于《仲裁法》中的这一规定，有学者提出了批评的意见：由于仲裁中十分强调当事人的意思自治原则，强调当事人对仲裁机构（仲裁庭）的信任，意思自治原则是仲裁的首要原则，既然原仲裁庭在程序工作中出现失误，而程序中的瑕疵又是当事人在订立仲裁协议时即默示地表示不予接受的，出现程序工作失误的仲裁庭便不再受到当事人的信任，再由原仲裁庭重新仲裁有违当事人的心愿。这体现了我国仲裁法对当事人意思自治原则的一种限制，或者说对当事人的意思尊重不够。
笔者赞同这种观点，并认为我国仲裁立法中有必要区分不同的情况，对重新仲裁应由原仲裁庭或新组成的仲裁庭来实施的问题，作出更为详明的规定。首先，应把由原仲裁庭重新进行仲裁确定为一般原则。因为原仲裁庭的组成方式以及对仲裁员的选择都是根据双方当事人的意愿决定的，是当事人意思自治原则的体现。而且，由于原仲裁庭对案件已经审理过一次，对案情已十分熟悉，因而由原仲裁庭重新仲裁必然更节省当事人的时间和费用。其次，在由原仲裁庭重新进行仲裁时，如果其中某一仲裁员基于某种原因，例如工作日程出现冲突或身体状况欠佳等，不能履行职责，应当允许依照法定程序更换仲裁员。再次，在由原仲裁庭重新仲裁的基础上，如果双方当事人对该原仲裁庭已失去了原有的信任，并达成一致的协议，应当允许双方当事人重新选择仲裁员，另行组成仲裁庭，对原仲裁案件进行重新仲裁。 复次，如果案件适于交由原仲裁庭重新仲裁，但原仲裁庭拒绝受理，则应重新组建仲裁庭重新仲裁该案，而不能依《仲裁法》第61条中的现行规定轻易撤销裁决。最后，如果重新仲裁是基于仲裁员在仲裁该案时有索贿受贿、徇私舞弊、枉法裁决的行为，亦应重新组建仲裁庭，而不应该也不适于将裁决发回原仲裁庭。总之，将仲裁案件是交由原仲裁庭还是新组成的仲裁庭重新仲裁，既要考虑最大限度地尊重和满足当事人的愿望，又要考虑仲裁成本的节约，还要考虑是否能彻底消除裁决中的错误和缺陷等等因素。