Bonsoir, chez moi, le bouton jaune, "cmd + m" et le menu Fenêtre/réduire placent la fenêtre dans le dock. C'est donc un bug chez toi, ou plutôt un défaut de ton installation.
Pour la réduction de la fenêtre, le curseur placé en bas, à droite (comme dans les anciennes versions et comme dans la majorité des applications) permet de mettre la fenêtre à la dimension voulue. Ensuite, l'utilisation du bouton vert permet de passer alternativement du plein écran à la fenêtre personnalisée et inversement.