不成立的合同不具有法律效力，无效的合同就不需要履行。所以不成立的合同，不需要继续履行。

《中华人民共和国民法典》

第五百零二条 【合同生效时间】依法成立的合同，自成立时生效，但是法律另有规定或者当事人另有约定的除外。

依照法律、行政法规的规定，合同应当办理批准等手续的，依照其规定。未办理批准等手续影响合同生效的，不影响合同中履行报批等义务条款以及相关条款的效力。应当办理申请批准等手续的当事人未履行义务的，对方可以请求其承担违反该义务的责任。

依照法律、行政法规的规定，合同的变更、转让、解除等情形应当办理批准等手续的，适用前款规定。

第五百零九条 【合同履行的原则】当事人应当按照约定全面履行自己的义务。

当事人应当遵循诚信原则，根据合同的性质、目的和交易习惯履行通知、协助、保密等义务。

当事人在履行合同过程中，应当避免浪费资源、污染环境和破坏生态。