第2种观点： 法律分析：当场收缴罚款的情形：(一)对公民处以二百元以下、对法人或者其他组织处以三千元以下罚款的。(二)不当场收缴事后难以执行的。法律依据：《中华人民共和国行政处罚法》第五十一条 违法事实确凿并有法定依据，对公民处以二百元以下、对法人或者其他组织处以三千元以下罚款或者警告的行政处罚的，可以当场作出行政处罚决定。法律另有规定的，从其规定。第五十二条 执法人员当场作出行政处罚决定的，应当向当事人出示执法证件，填写预定格式、编有号码的行政处罚决定书，并当场交付当事人。当事人拒绝签收的，应当在行政处罚决定书上注明。前款规定的行政处罚决定书应当载明当事人的违法行为，行政处罚的种类和依据、罚款数额、时间、地点，申请行政复议、提起行政诉讼的途径和期限以及行政机关名称，并由执法人员签名或者盖章。执法人员当场作出的行政处罚决定，应当报所属行政机关备案。
第3种观点： 法律分析：税务局罚款是否属于行政处罚，具体看罚款事由。由税务机关实施的行政处罚包括以下几种：罚款；责令限期改正；没收违法所得和销毁。法律依据：《中华人民共和国税收征收管理法》 第六十条 纳税人有下列行为之一的，由税务机关责令限期改正，可以处二千元以下的罚款;情节严重的，处二千元以上一万元以下的罚款:(一)未按照规定的期限申报办理税务登记、变更或者注销登记的;(二)未按照规定设置、保管帐簿或者保管记帐凭证和有关资料的;(三)未按照规定将财务、会计制度或者财务、会计处理办法和会计核算软件报送税务机关备查的;(四)未按照规定将其全部银行帐号向税务机关报告的;(五)未按照规定安装、使用税控装置，或者损毁或者擅自改动税控装置的。纳税人不办理税务登记的，由税务机关责令限期改正;逾期不改正的，经税务机关提请，由工商行政管理机关吊销其营业执照。纳税人未按照规定使用税务登记证件，或者转借、涂改、损毁、买卖、伪造税务登记证件的，处二千元以上一万元以下的罚款;情节严重的，处一万元以上五万元以下的罚款。