根據司法部的規定，零星稅款可以向稅務服務大廳申請開具增值稅利息專用發票
金融事務
《關于全面推進增值稅轉型試點工作的通知》(國稅發〔2016〕36號)，增加2項《關于增值稅轉型試點有關事項的規定》，第一條第(三)項第11項規定:“按照上述第四款至第十款的規定，在試點納稅中從總價和額外費用中扣除的價格，應當按照法律、行政法規和國家規定取得
金融事務
局方規定的有效證件，否則不得扣分，上述證件是指:
(一)向境內單位或者個人支付的現金具有法律效力。
(2)向境外單位或個人支付的現金，該單位或個人的收據是合法有效的證明。稅務機關對收據有疑問的，可以要求其提供外國代理政府機構的確認證明。
(三)繳納的稅款具有法律效力。
(4)省級以上財政部門發行的財政債券(包括一般納稅人省級納稅申報流程)作為中央政府基金會和行政事務扣除的票價或支付給中央政府的農業地價的合法有效憑證。
(五)商務部規定的其他憑證。