以下情况下行政机关可以当场进行处罚：
1.依法给予二十元以下的罚款的；
2.不当场收缴事后难以执行的；
3.考虑到国家幅员辽阔，地形复杂，有些违法当事人到指定的银行缴纳罚款确实存在一定的困难，经当事人提出，行政机关及其执法人员可以当场收缴罚款；
4.违法事实确凿并有依据，对公民处以五十元以下、对法人或者其他组织处以一千元以下罚款或者警告的行政处罚的，可以当场作出行政处罚决定。
行政处罚不会留案底。但是会留有行政处罚记录，行政处罚的处罚记录，当地公安机关都会将相关档案、信息进行保存的。但记录不是对任何人都开放的，只有司法机关或者律师在办理刑事案件时，报请有权机关审批后，记录才对外提供。不对普通单位或个人提供查询业务。
1.作出行政处罚决定时没有依据的；
2.行政处罚的实施主体不具有行政主体资格的；
3.行政处罚决定违反法定程序构成重大且明显违法的。
找法网提醒您，《中华人民共和国行政处罚法》第三十三条违法行为轻微并及时改正，没有造成危害后果的，不予行政处罚。初次违法且危害后果轻微并及时改正的，可以不予行政处罚。
当事人有证据足以证明没有主观过错的，不予行政处罚。法律、行政法规另有规定的，从其规定。
对当事人的违法行为依法不予行政处罚的，行政机关应当对当事人进行教育。
