Lorsque j'étais sous Sierra, à cette époque, il n'y avait pas grand choix sur les cartes AMD, les web-drivers étaient interessant car on pouvait utiliser un GPU Nvidia de type GTX 9xx (puis après la série des 1000) d'origine PC sur le Mac.
Ces cartes étaient plus performantes que les AMD et on en trouvait à des tarifs corrects.
Perso, ce que je trouvais chiant à la longue c'est qu'à chaque mise à jour de système, il te fallait attendre que Nvidia sorte les drivers pour pouvoir les installers avec une manip ou il fallait rebooter avec le gpu d'origine, faire la maj et remettre la GTX.
Vu que ce n'était pas officiellement fournis par Apple, j'avais souvent des bug d'affichage, ce n'était pas la mort non plus car il y avait un réel gain par rapport au GPU Mac.
Puis Apple à sorti des iMac qui embarquaient une RX 580 sur base de la Sapphire Pulse. Il ont intégré à Mac OS les driver de cette dernière dans 10.12.6. A cette époque la carte était assez cher, je me souvient avoir attendu quelques mois pour la changer, et pour avoir une parfaite compatibilité il fallait opter pour la même carte disponible sur PC: la fameuse Sapphire Pulse RX 580 8 go.
On pouvait avec plus ou moins de succès installer un autre modèle de carte sur base de RX580 (NITRO ou autres), mais souvent les autres étaient overclockées.
Puis avec High Sierra, les drivers natif de la RX 580 ont commencés à évoluer (moins de bugs), je me souvient qu'au début il n'était pas sûr qu'il y ai les webdriver de Nvidia, Nvidia et Apple n'étant pas copain copain, c'était au bon vouloir de Nvidia et donc y'avait toujours un doute à savoir si Nvidia les sortiraient. J'ai commencé sérieusement à scruter les promo sur la Sapphire et puis j'ai sauté le pas.
Mojave à été le top au niveau des drivers pour la RX 580, franchement, hormis la pomme qui est absente au démarrage (et encore que le début), on dirait que c'est un GPU d'origine Mac. Les drivers sont super stables, je pense qu'à présent on peu élargir sur le choix du modèle de RX 580.
Au final, à l'utilisation que j'en ai, la GTX 980 et la RX 580 ont quasi les mêmes perf, mais la RX 580 est devenue au fil des mises à jour Plug and Play, plus besoin de se prendre la tête avec le bon drivers en fonction du système ou autre.
Se faisant vielle dans le monde du PC, elle a baissé en tarif ce qui fait pour moi un excellent rapport prix/performance pour les Mac Pro, peu-être que les VEGA, plus puissantes, ont baissés aussi depuis, je n'ai pas regardé.
Pour CUDA, il me semble que Photoshop et Illustrator en tirent partie et du coup ça serait mieux de l'installer. Idem quand j'étais avec les GTX 980, n'utilisant aussi que ces deux logiciel, je l'avais installé.
Un GPU même si c'est un Nvidia n'ont prise en charge par les drivers natif de MacOS, peu être compatible Métal, tu vas pouvoir l'installer mais Nvidia n'ayant pas fournis de drivers Mojave elle ne devrait pas fournir d'accélération (un affichage peu-être ??), SAUF peut-être la tienne car elle est reconnue nativement par Mac OS car proche d'une GTX 680.
Ca vaudrait le coup d'éssayer pour voir. A partir du moment que ton firmware est bien à jour pour recevoir Mojave, tu peut tenter une installation test sur un autre disque et voir ce que ça donne