Nasce il 28 novembre del 1950 a Englewood nel New Jersey; secondo di tre figli, il padre era cantante nel coro di Fred Guering e comincia a lavorare poco più che ventenne in alcuni commercial per National Geographic in televisione, sostenendo anche dei piccoli ruoli in telefilm come Barnaby Jones, The Rockford Files e nelle serie CHiPs e Lou Grant tra il 1979 e il 1981.
I primi passi nel cinema sono dello stesso periodo: fa una particina in Coma profondo del 1978 di Michael Crichton, una più consistente nell'action Borderline (1980) di Jerrold Freedman con Charles Bronson ma per essere pienamente rivelato come attore Harris dovrà attendere l'incontro con George A. Romero, che l'anno successivo lo sceglie affinché sia una sorta di Re Artù su due ruote quale interprete principale di Knightriders - I cavalieri, una trasposizione in chiave moderna della leggenda di Camelot con una banda di artisti motociclisti invece dei cavalieri. Harris è perfetto nella parte: algido e malinconico come si conviene alla sua natura ombratile.
Romero lo riprende anche per Creepshow dove è uno degli ospiti nella casa, nel segmento Father's Day, che vengono massacrati dagli zombie di John Lormer. Dal 1982 l'attore comincia a macinare film su film, buona parte dei quali di ottimo livello. In particolare il 1983 è per lui un anno di grazia: interpreta uno dei sette valorosi astronauti di Uomini veri di Philip Kaufman, un eroe positivo e dalla faccia pulita che si oppone al mercenario duro come l'acciaio di Sotto tiro di Roger Spottiswoode e gli capiterà spesso di rivestire personaggi del genere, ad esempio in Walker del 1987 di Alex Cox.
Sul set di Le stagioni del cuore conosce l'attrice Amy Madigan che sposa il 21 novembre 1983. La coppia avrà una figlia, Lily, nata nel 1993. Le tappe fondamentali di questa parte della sua carriera si possono riconoscere in Alamo Bay di Louis Malle del 1985 in cui è un texano reazionario, in Jacknife del 1989 di David Hugh Jones dove è un disilluso reduce del Vietnam insieme a Robert De Niro, nel film di James Cameron The Abyss che gli affida un ruolo da protagonista a tutto tondo mettendolo faccia a faccia con inquietanti presenze extraterrestri nascoste sul fondo dell'oceano e in Stato di grazia del 1991 di Phil Joanou in cui appare nei panni di un boss della malavita.
Con gli anni novanta il suo prestigio si accresce: un ruolo che gli dà molta popolarità è quello in Americani (Glengarry Glen Ross) del 1992 di James Foley, un film con Jack Lemmon, Al Pacino, Kevin Spacey, Alan Arkin tratto da un dramma di David Mamet.
E lo seguono quelli in Apollo 13 nel 1995 di Ron Howard, The Rock del 1996 di Michael Bay, Potere assoluto del 1997 di Clint Eastwood, The Truman Show del 1998 di Peter Weir, A Beautiful Mind del 2001 di Ron Howard. Nel 2002 Harris si è cimentato per la prima volta nella regia con il lungometraggio Pollock che ricostruisce la vita e la carriera del pittore statunitense Jackson Pollock, da lui stesso interpretato accanto a Marcia Gay Harden e Jennifer Connelly.