humm... c'est cuit... La HD5770 n'est pas compatible METAL, donc tu ne pourras pas installer le firmware et le système avec elle et la GTX660 n'aura pas les web drivers de disponible sous MOJAVE et pas dit qu'elle soit compatible METAL.
Avec le matériel dont tu disposes, tu n'as pas d'autre choix que de rester sur High Sierra. Si malgré tout tu voulais vraiment aller sous MOJAVE, il te faudra changer de GPU et dans ce cas, je te conseillerais de passer chez AMD, non pas que le matériel est mieux mais beaucoup de cartes sont reconnues nativement par le système (Mac Edition ou issues du monde PC).
J'ai une AMD RX 580 8go qui fonctionne parfaitement, mais peut-être que tu pourrais trouver d'occasion un HD 7950 Mac édition, mais souvent les prix sont hallucinant vu l'âge de la carte. Peu-être que les web drivers seront disponible, mais j'y crois de moins en moins vu le temps que ça prend...