Ο Μπέην γεννήθηκε στο Νιούτονμορ των Χάιλαντς της Σκωτίας και σε εφηβική ηλικία μετακόμισε με την οικογένεια του στο Βανκούβερ του Καναδά.
Στις αρχές της δεκαετίας του '70 εντάχθηκε στους Street Noise και τον Ιανουάριο του 1974 ξεκίνησε να παίζει στους Harlot. Με αυτούς συνέχισε μέχρι τον Ιούλιο του 1975, όταν και δέχτηκε ένα τηλεφώνημα από τον Ρίτσι Μπλάκμορ, ο οποίος τον καλούσε να ενταχθεί στους Rainbow. Ταυτόχρονα είχε δεχθεί πρόταση για να ενταχθεί στους The Babys, την οποία αρνήθηκε.
Στους Rainbow, ο Μπέην αντικατέστησε τον Γκρεγκ Γκρούμπερ, ενώ λίγο αργότερα ο ντράμερ Κόζι Πάουελ ήλθε στη θέση του Γκάρι Ντρίσκολ.
Το Φεβρουάριο του 1977, ο Μπέην αποχώρησε από το συγκρότημα και αντικαταστάθηκε από τον Μπομπ Ντέισλι.
Μέσα στο 1977, ο Μπέην συμμετείχε στο συγκρότημα του Τζον Κέηλ ηχογραφώντας το 12" σινγκλ "Animal Justice" και περιόδευσε στην Ευρώπη, ενώ εμφανίστηκε και στο "Overnight Angels" του Ίαν Χάντερ. Στις αρχές της επόμενης χρονιάς, ηχογράφησε κάποια ντέμο σε παραγωγή του Μάθιου Φίσερ, τα οποία δεν κυκλοφόρησαν ποτέ. Τον Φεβρουάριο του 1978, συνέχισε με το συγκρότημα Greety Bastards, το οποίο συναποτελούσαν μέλη των Thin Lizzy.
Το καλοκαίρι του 1978, ο Μπέην δημιούργησε τους Wild Horses μαζί με τους κιθαρίστες Μπράιαν Ρόμπερτσον (Thin Lizzy) και Νιλ Κάρτερ (μετέπειτα μέλος των UFO και του Γκάρι Μουρ) και τον ντράμερ Κλάιβ Έντουαρτς (Πατ Τράβερς, Electric Sun). Οι Wild Horses υπέγραψαν συμβόλαιο με την δισκογραφική εταιρεία "ΕΜΙ" και κυκλοφόρησαν τον Απρίλιο του 1980, το ομώνυμο ντεμπούτο τους, το οποίο ανέβηκε στο # 38 των βρετανικών τσαρτ και παρέμεινε στους καταλόγους επιτυχιών για τέσσερις εβδομάδες.
Τον Αύγουστο του 1981, κυκλοφόρησε ο δεύτερος δίσκος τους με τίτλο "Stand Your Ground", χωρίς εμπορική επιτυχία. Τα υπόλοιπα μέλη των Wild Horses πλην του Μπέην, αποχώρησαν μετά την κυκλοφορία του δίσκου και αυτός ξαναδημιούργησε το συγκρότημα με νέα μέλη, για ένα μικρό χρονικό διάστημα, πριν διαλυθούν οριστικά.
Ο Μπέην συμμετείχε στο δίσκο "Dirty Fingers" του Γκάρι Μουρ, ο οποίος ηχογραφήθηκε το 1981 και κυκλοφόρησε το 1983. Τον Δεκέμβριο του 1982, περιόδευσε με το προσωπικό σχήμα του Φιλ Λάινοτ ως κιμπορντίστας του συγκροτήματος και το 1983 εντάχθηκε στο νεοσυσταθέν συγκρότημα του πρώην τραγουδιστή των Rainbow, Ρόνι Τζέιμς Ντίο.
Με τους Dio, ο Μπέην ηχογράφησε το άλμπουμ "Holy Diver", το οποίο κυκλοφόρησε τον Μάιο του 1983, ανεβαίνοντας στο # 13 των βρετανικών τσαρτ, ενώ έγινε πλατινένιο στις Ηνωμένες Πολιτείες. Ο δίσκος περιείχε τις επιτυχίες "Holy Diver" και "Rainbow in the Dark". Την επόμενη χρονιά, οι Dio κυκλοφόρησαν το, επίσης, πλατινένιο, "The Last in Line", το οποίο ανέβηκε στο # 4 στη Μεγάλη Βρετανία και περιείχε τα σινγκλ "We Rock" και "Mystery".
Ο Μπέην παρέμεινε ως βασικό στέλεχος του συγκροτήματος και συνέγραψε όλα τα άλμπουμ των Dio μέχρι και το "Dream Evil" του 1987. Σε αυτό το διάστημα, κυκλοφόρησαν τέσσερις στούντιο δίσκους, τρεις εκ των οποίων ανέβηκαν στο βρετανικό Top-10 με τους δύο να βραβεύονται ως ασημένιοι, ενώ στις Ηνωμένες Πολιτείες δύο έγιναν πλατινένιοι και ένας χρυσός. Στα τέλη του 1988, αποχώρησε από τους Dio λόγω των συνεχών αλλαγών προσωπικού.
Τον Ιούλιο του 1988, ο Μπέην αντικατέστησε προσωρινά τον μπασίστα των Cinderella, ενώ ήταν ακόμη μέλος των Dio. Το 1991, κυκλοφόρησε το ομώνυμο και μόνο άλμπουμ του πρότζεκτ που έκανε με τον πρώην ντράμερ των Black Sabbath, Βίνι Άπις και τον τραγουδιστή Μάντι Λάιον, με την ονομασία WWIII. Το 1992, ο Ρόνι Τζέιμς Ντίο αποχώρησε για δεύτερη φορά από τους Black Sabbath και σχημάτισε ξανά το προσωπικό του σχήμα, καλώντας τον Τζίμι Μπέην να συμμετάσχει, κάτι που αρχικά έγινε αλλά ο Μπέην αποχώρησε πριν ηχογραφήσουν, τον Μάρτιο του 1993.
Το 1999, επέστρεψε στους Dio για να ηχογραφήσουν τους δίσκους "Magica" και "Killing the Dragon" το 2000 και 2002, αντίστοιχα. Την επόμενη χρονιά αποχώρησε, ενώ τα επόμενα πρότζεκτ του ήταν και πάλι με τον Βίνι Άπις και ήταν οι The Hollywood All Starz και οι 3 Legged Dogg. Με τους δεύτερους, ηχογράφησε το δίσκο "Frozen Summer" το 2006. Μετά τη διάλυση των 3 Legged Dogg ο Μπέην συμμετείχε σε περιοδεία των Heaven and Hell αντικαθιστώντας τον μπασίστα Γκίζερ Μπάτλερ.
Μετά το θάνατο του Ντίο, συνέχισε να περιοδεύει με τους Hollywood Allstarz.