应该尽快补办。
《国家税务总局关于进一步完善税务登记管理有关问题的公告》（国家税务总局公告2011年第21号）规定：从事生产、经营的纳税人，应办而未办工商营业执照，或不需办理工商营业执照而需经有关部门批准设立但未经有关部门批准的（简称无照户纳税人），应当自纳税义务发生之日起30日内申报办理税务登记。
税务机关对无照户纳税人核发临时税务登记证及副本，并限量供应发票。
无照户纳税人已领取营业执照或已经有关部门批准的，应当自领取营业执照或自有关部门批准设立之日起30日内，向税务机关申报办理税务登记，税务机关核发税务登记证及副本；已领取临时税务登记证及副本的，税务机关应当同时收回并做作废处理。
营业执照办理后，要进行税务登记，也就是办理税务登记证。
具体所需要缴纳的税款，要根据业务来决定。
一般来说，首先要缴纳的是印花税：
1.注册资本印花税，注册资本金的万分之五，如果企业是认缴注册资本即分期缴纳注册资本的情况，则按已缴数计算。
2.另外每年根据自身的建账情况，按每账本5元的价格缴纳账簿印花。
3.每季度按销售总额的万分之三缴纳技术合同印花或者购销合同印花税。
税务登记证，是从事生产、经营的纳税人向生产、经营地或者纳税义务发生地的主管税务机关申报办理税务登记时，所颁发的登记凭证。
除按照规定不需要发给税务登记证件的外，纳税人办理开立银行账户、申请减税、免税、退税等事项时，必须持税务登记证件。
纳税人应将税务登记证件正本在其生产、经营场所或者办公场所公开悬挂，接受税务机关检查。