« doit-on dire « toute chose égale par ailleurs » ou bien « toutes choses égales par ailleurs »? »: En quoi cette question n’est-elle « pas claire du tout »? C’est en français intelligible pourtant.

Ensuite, justement, dans un modèle explicatif, il peut y avoir une seule autre variable explicative (modèle bivarié)  comme il peut y en avoir plusieurs autres. Et dans les  deux cas on exprime le souhait que cette autre variable/ces autres variables explicative(s) ne bouge(nt) pas quand on indique TCEPA.
Ce qui me laisse encore plus penser que « toute chose égale par ailleurs » est l’expression générique correcte.

En tout cas* vous ne m’avez pas convaincu avec votre argument (cf l’exemple « tout individu » vs « tous individus »).

(*)D’ailleurs, le problème est peut-être analogue à « en tout cas »?
http://www.lefigaro.fr/langue-francaise/expressions-francaises/2017/07/23/37003-20170723ARTFIG00002-en-tout-cas-ne-faites-plus-la-faute.php