当需要缴纳罚款时，应出具 财政部门统一制发的专用票据或罚款收据。具体来说：
行政机关及其执法人员当场收缴罚款时，必须向当事人出具国务院财政部门或者省、自治区、直辖市人民政府财政部门统一制发的专用票据。如果不出具这样的票据，当事人有权拒绝缴纳罚款。
当事人应当自收到罚款的行政处罚决定书之日起十五日内，到指定的银行缴纳罚款。罚款应当开具省、自治区、直辖市财政部门统一制发的罚款收据。如果不出具财政部门统一制发的罚款收据，当事人同样有权拒绝缴纳罚款。
因此，无论是当场收缴罚款还是到银行缴纳罚款，都应确保取得财政部门统一制发的专用票据或罚款收据。这些票据或收据是缴纳罚款的合法凭证，有助于保障当事人的权益。