除按照规定不需要发给税务登记证件的外，纳税人办理下列事项时，必须持税务登记证件：（一）开立银行账户；（二）申请减税、免税、退税；（三）申请办理延期申报、延期缴纳税款；（四）领购发票；（五）申请开具外出经营活动税收管理证明；（六）办理停业、歇业；（七）其他有关税务事项。
法律依据
《中华人民共和国税收征收管理法实施细则》第一条、第一百一十三条
除按照规定不需要发给税务登记证件的外，纳税人办理下列事项时，必须持税务登记证件：（一）开立银行账户；（二）申请减税、免税、退税；（三）申请办理延期申报、延期缴纳税款；（四）领购发票；（五）申请开具外出经营活动税收管理证明；（六）办理停业、歇业；（七）其他有关税务事项。
法律依据
《中华人民共和国税收征收管理法实施细则》第一条、第一百一十三条