La règle est que, dans un nom composé formé d’un verbe et d’un complément, le verbe ne varie pas.
On considère artificiellement que garde servant à désigner une personne, est traité comme un nom et il est alors variable (des gardes-chasse) et que garde servant à désigner une chose, est traité comme un verbe et il est alors invariable (des garde-meubles).
Cependant, le Conseil supérieur de la langue française, l’Académie française, Grevisse proposent de toujours considérer garde comme un élément verbal et de le traiter comme étant invariable.
Grevisse est très net sur ce point.
L’Académie française a la position suivante :
« Pour former le pluriel de ces mots [les noms composés avec garde], dans un souci de simplification et d’unification, l’Académie française propose de toujours considérer Garde comme élément verbal et de le laisser invariable. Seul le second élément, qui est un substantif, pourrait porter la marque du pluriel. » (Dictionnaire de l’Académie française. Article garde).
Cependant, elle a, néanmoins, une position plus souple : « Toutefois, l’Académie française n’entend pas condamner la distinction traditionnellement établie selon que Garde y est traité comme élément verbal ou comme substantif, et que le deuxième élément est lui-même perçu comme invariable. Elle ne saurait considérer comme fautives les orthographes qui sont fondées sur cette distinction […] ». (Dictionnaire de l’Académie française. Article garde).
Le Trésor de la langue française adopte le pluriel « des garde-frontières », mais cite des auteurs qui emploient « des gardes-frontières ».
Enfin, voici la position du Conseil supérieur de la langue française lors de la proposition des « rectifications de l’orthographe » en 1990 : « Bien que le mot composé ne soit pas une simple suite de mots, les grammairiens de naguère ont essayé de maintenir les règles de variation comme s’il s’agissait de mots autonomes, notamment :
– en établissant des distinctions subtiles : entre des gardes-meubles  (hommes) et des garde-meubles (lieux), selon une analyse erronée déjà dénoncée par Littré.
– en se contredisant l’un l’autre, voire eux-mêmes, tantôt à propos des singuliers, tantôt à propos des pluriels (un cure-dent, mais un cure-ongles […] ». Il préconise « des gxarde-meubles », dans tous les cas.
Si l’on veut être puriste ou si l’on veut être « moderne » (réforme de 1990), on laissera garde invariable : « des garde-frontière  » ou « des garde-frontières », selon qu’il y a une ou plusieurs frontières à garder.
En revanche, on rencontre souvent des gardes-frontières,  notamment dans la définition du Robert. En outre, l’Académie française, sans l’adopter, ne considère pas comme fautif l’emploi de garde au pluriel.
On peut donc accepter (avec beaucoup de réserves, pour ma part), puisque l’Académie française l’admet, puisque certains dictionnaires l’adoptent (le Robert), des gardes-frontière ou des gardes-frontières, mais alors on ne suit pas la règle.
En ce qui me concerne, j’écris  « des garde-frontière » ou « des garde-frontières », considérant que garde est un élément verbal.

Selon les règles de l’orthographe traditionnelle, on doit écrire « Des gardes-barrières« , ou « Des gardes-barrière« .
Ici, garde  est synonyme de gardien (de la barrière  ou des barrières), et non pas le verbe garder.
En revanche, l’orthographe rectifiée de 1990 (encore elle !!!) suggère « Des garde-barrières« … Le substantif s’est sans doute subitement transformé en verbe, lorsque ces messieurs se sont penchés sur ce cas !
Je vous laisse seul juge…mais n’en pense pas moins…

Merci pour cette éclairage.
Oui alors sans doute ai-je  toujours à l’esprit cette orthographe rectifiée en 1990. C’est certainement celle-là que j’ai appliquée. Car au même titre j’ai toujours vu   » des garde-malades » comme ceci.

Oui en fait après quelques recherches je viens de comprendre de quoi il s’agit:
Je pense que le découpage entre les deux graphies possibles  » garde-frontières » et « gardes-frontières » se fonde ainsi
gardes pris comme substantif signifierait des fonctionnaires qui restent à un  point fixe de la frontière pour la surveiller alors que garde pris comme verbe aurait plutôt la signification d’un garde qui se déplace sur la frontière afin d’en surveiller une étendue plus large

Merci pour cette explication pertinente.