Il debutto ufficiale dell'attore sul grande schermo avviene con la commedia canadese Polpette (1979) di Ivan Reitman. Dopo alcuni ruoli in film mediocri seguono tre successi di botteghino in America: Palla da golf (1980), Stripes (1981) e Tootsie (1982). Soltanto in Stripes (diretto sempre da Reitman) Murray ha un ruolo di rilievo assieme al collega e amico Harold Ramis.

Nel 1983 è il protagonista del film Il filo del rasoio, di cui scrive la sceneggiatura e che esce nel novembre dell'anno successivo. In accordo con la Columbia avrebbe ottenuto il finanziamento per questa pellicola solo se subito dopo avesse accettato di girare il nuovo film ideato e scritto dall'ex collega del SNL Dan Aykroyd: Ghostbusters - Acchiappafantasmi. Il ruolo previsto per Murray è quello di Peter Venkman, un bizzarro e sarcastico dottore in parapsicologia, che in origine doveva essere interpretato da John Belushi, scomparso prematuramente due anni prima. Nel 1984 Ghostbusters si rivela la pellicola che ha incassato maggiormente in tutto il mondo, diventando una delle commedie americane più amate degli anni ottanta. L'attore viene particolarmente apprezzato per le sue improvvisazioni, tanto da aggiudicarsi una candidatura ai Golden Globe. Il filo del rasoio è invece un flop, poiché il pubblico non viene convinto dal suo primo ruolo di personaggio serio.

Non del tutto soddisfatto della sua carriera professionale, Murray decide di stare quattro anni lontano da Hollywood, facendo solo un cameo nel film La piccola bottega degli orrori (1986). Nel frattempo va a Parigi, dove frequenta il Cinematique e dei corsi universitari alla Sorbonne. Ritornato negli Stati Uniti alloggia con la famiglia nella sua casa in Hudson River Valley, lavorando anche a New York in alcuni show di letture pubbliche organizzate da Timothy Mayer.

Nel 1988 torna al mondo del cinema con la commedia fantasy S.O.S. fantasmi, rivisitazione in chiave anni ottanta della celebre opera di Charles Dickens A Christmas Carol. L'anno dopo esce Ghostbusters II, questa volta accolto più tiepidamente rispetto al primo, ma in genere apprezzato dai fan del franchise. Seguono altre commedie di successo dei primi anni novanta: Tutte le manie di Bob e Ricomincio da capo (diretto e sceneggiato da Ramis), in cui dimostra ancora una volta il suo talento comico.

Anche se la maggior parte dei suoi ruoli riguardano personaggi comici, Murray ha dimostrato di essere un attore completo, interpretando anche diversi ruoli in film seri o semi-seri come: Scappiamo col malloppo (1990), unico film da lui diretto e interpretato, Lo sbirro, il boss e la bionda (1993), Ed Wood (1994), Kingpin (1996), Space Jam (1996), dove recita accanto ai Looney Tunes e al giocatore di pallacanestro Michael Jordan, e in Rushmore (1998), iniziando il lungo sodalizio artistico con il regista Wes Anderson. Nel 2000 Drew Barrymore lo sceglie personalmente per la parte di Bosley nel blockbuster Charlie's Angels.

Nel nuovo millennio, Murray diventa un attore molto richiesto nell'ambito del cinema d'autore. Tra le sue interpretazioni vanno ricordate quelle in I Tenenbaum (2001), Coffee and Cigarettes (2003), Le avventure acquatiche di Steve Zissou (2004) e Broken Flowers (2005), senza dimenticare il ruolo che gli ha valso un considerevole successo di critica e pubblico, con una candidatura agli Oscar e la vittoria ai Golden Globe e ai BAFTA, ovvero quello del protagonista di Lost in Translation - L'amore tradotto (2003). Seguiranno anche Il treno per il Darjeeling, (2007), Ember (2008), The Funeral Party (2009) che lo vede co-protagonista con Robert Duvall, assieme al quale vince il "Premio per la migliore interpretazione maschile" al Torino Film Festival, e Passion Play (2010). Nel 2012 interpreta l'ex presidente Franklin Delano Roosevelt in A Royal Weekend, diretto questa volta dal regista britannico Roger Michell. Sempre nel 2012 recita in Moonrise Kingdom - Una fuga d'amore di Wes Anderson, suo regista feticcio. Nel 2014 è nel cast di Monuments Men con George Clooney. Sempre nello stesso anno torna a collaborare con Wes Anderson nel film Grand Budapest Hotel. Nel 2015 ottiene una candidatura ai Golden Globe come migliore attore protagonista in un film commedia o musicale per il film St. Vincent, diretto dal regista Theodore Melfi. Nel 2015 è nel film Sotto il cielo delle Hawaii di Cameron Crowe, affiancando Bradley Cooper ed Emma Stone. Nel 2016 partecipa in veste di doppiatore al remake in live-action del celeberrimo Classico Disney, Il libro della giungla, diretto da Jon Favreau, dove presta la voce dell'orso Baloo.

Nel 2021 riprende il suo ruolo di Peter Venkman nel sequel diretto dei primi due film di Ghostbusters, intitolato Ghostbusters: Legacy, diretto da Jason Reitman (figlio del regista originale Ivan Reitman). Nel 2023 ha ottenuto il ruolo del villain Lord Krylar nel film del Marvel Cinematic Universe Ant-Man and the Wasp: Quantumania, diretto da Peyton Reed.