行政处罚错误的，可以在行政复议机关或者人民法院责令变更行政处罚后进行更改。根据《行政处罚法》的规定，行政机关实施行政处罚，有没有法定的行政处罚依据；擅自改变行政处罚种类、幅度等情形的，由上级行政机关或者有关机关责令改正。
找法网提醒您，行政处罚错误的申诉程序是：
1.当事人提出行政复议的申请；
2.行政复议机关收到行政复议申请后，应当在5日内进行审查、受理；
3.审理；必须严格依照法定程序进行。
4.作出决定。
行政处罚对象错误，可以依法申请行政复议或者提起行政诉讼。行政处罚规定的处罚对象包括公民、法人和其他组织。
《中华人民共和国行政处罚法》第三条
公民、法人或者其他组织违反行政管理秩序的行为，应当给予行政处罚的，依照本法由法律、法规或者规章规定，并由行政机关依照本法规定的程序实施。没有法定依据或者不遵守法定程序的，行政处罚无效。
第六条
公民、法人或者其他组织对行政机关所给予的行政处罚，享有陈述权、申辩权；对行政处罚不服的，有权依法申请行政复议或者提起行政诉讼。公民、法人或者其他组织因行政机关违法给予行政处罚受到损害的，有权依法提出赔偿要求。
行政处罚错误不会留下案底。案底是指某人过去犯法或犯罪行为的记录，又称为"前科"。个人的刑事犯罪记录，存于当地或上至国家级的档案中，是自然人的历史另类表现。
《中华人民共和国刑事诉讼法》第二百八十六条
犯罪的时候不满十八周岁，被判处五年有期徒刑以下刑罚的，应当对相关犯罪记录予以封存。犯罪记录被封存的，不得向任何单位和个人提供，但司法机关为办案需要或者有关单位根据国家规定进行查询的除外。
依法进行查询的单位，应当对被封存的犯罪记录的情况予以保密。
