在商铺转让的过程中，如果双方未签订书面合同，但已经支付了转让费用，随后受让方希望退回这笔费用，情况会变得相对复杂。能否退回转让费，需要根据具体情况和相关证据进行综合判断。

一、未签合同是否影响合同成立？

虽然未签订书面合同，但如果双方有口头约定或其他形式的证据（如转账记录、聊天记录等），这些都可以作为合同成立的依据。根据《中华人民共和国民法典》的相关规定，当事人可以约定采用合同书形式订立合同，但在一方已经履行主要义务且对方接受时，该合同视为成立。因此，如果转让方已经接受了转让费，且受让方已经实际接收了店铺，即使没有书面合同，也可能被视为合同已经成立。

二、能否要求退回转让费？

1、协商一致的情况：

如果双方能够协商一致，解除已经形成的合同关系，那么转让费是可以退回的。这种情况下，双方应当明确解除合同的条款和退款的具体安排。

2、存在欺诈、胁迫等情形：

如果转让过程中存在欺诈、胁迫等违法行为，或者转让行为违反了法律法规或公序良俗，那么受让方可以要求撤销转让行为，并主张退回转让费。

3、转让方违约：

如果转让方在收取转让费后，未按照约定履行相关义务（如未协助办理相关手续等），受让方可以要求退回转让费，并要求转让方承担违约责任。

4、受让方反悔：

如果双方并未通过书面合同明确各自的权利和义务，但已形成了事实上的合同关系（如已支付款项、接收店铺等），一旦受让方反悔，可能需要承担违约责任。这包括赔偿对方因此遭受的损失和支付违约金（如果双方有口头或书面约定）。

三、考虑具体事实和证据

在没有书面合同的情况下，要求退回转让费需要依赖其他形式的证据。这些证据应当能够证明双方的转让意愿及相关事宜，如转账记录、聊天记录、证人证言等。如果证据不足，要求退回转让费可能会面临法律风险。

在进行店铺转让时，为了避免后续纠纷，双方应当尽可能签订书面合同，并明确各自的权利和义务。如果确实无法签订书面合同，也应当保留好相关的证据，以便在必要时维护自己的合法权益。