执法人员当场收缴罚款，是一种代收罚款的行为，是由于特殊情况，无法由金融机构直接收缴罚款，而由执法机关及执法人员代收。所以执法人员代收罚款后，应当及时（自收缴罚款之日起2日内）缴付所在的行政机关，再由行政机关统一在2日内缴付指定的银行，否则很容易造成所罚款项被截留、挪用甚至大量流失，严重损害了国家利益，破坏了廉政建设，影响了执法机关的威信和执法人员的形象，对于被处罚的当事人一方来说，也容易对处罚产生抵触情绪，认为行政机关罚款就是为了发奖金、搞福利；执法人员罚款就是为了个人多捞钱，行政机关及执法人员行使罚款权时，被处罚的当事人与处罚机关、执法人员讨价还价甚至发生争执的情况屡有出现。所以，针对这些问题，行政处罚法规定执法人员当场收缴的罚款，应当及时（自收缴罚款之日起2日内；在水上当场收缴的罚款，应当自抵岸之日起2日内）缴付所在的行政机关，再由行政机关在2日内缴付指定的银行。这里应该指出的是，按照财务制度的规定，财会人员应当将所收的现金在当日缴付金融机构，比照这一规定，代收罚款的行政执法人员应当在当日就将罚款交至指定的金融机构，但考虑到行政执法人员负担的执法任务比较重，工作量也比较大，要求他们在代收罚款的当日就交付银行，可能有困难，特别是一些边远的农村、山区、草原牧区等，交通不便，银行网点比较少，执法人员在当日到银行交付所代收的罚款，困难会更大。考虑到以上因素，行政处罚法将罚款缴付银行的期限适当放宽，规定执法人员当场收缴的罚款，应当在2日内交至所在的行政机关，再由行政机关在2日内缴付至指定的银行。
    为了确保执法人员当场收缴的罚款能够及时。全部缴付银行，具有罚款权的行政机关应在辖区范围内确定收缴罚款的银行网点，并在银行建立罚款专户，将收缴的罚款存放专户，集中上交国库。行政机关不得以任何理由动用罚款。银行也应当对执法机关及执法人员代收罚款的情况进行经常性的检查，若发现代收罚款的执法人员或有关机构违法代收罚款的，应向其所在机关或其上级行政机关及有关部门反映，由相关的有权机关追究其违法责任。