Rođen u Peći, Albahari je prvu knjigu objavio 1973. godine. Bila je to zbirka pripovijedaka "Porodično vrijeme". Pet godina kasnije, objavio je i prvi roman - "Sudija Dimitrijević".
U njegovoj bibliografiji su i romani Cink, 1988; Kratka knjiga, 1993; Snežni čovek, 1995; Mamac, 1996; Mrak, 1997, 2008; Gec i Majer, 1998; Svetski putnik, 2001; Pijavice, 2006; Ludvig, 2007; Brat, 2008; Ćerka, 2010; Kontrolni punkt, 2011, Životinjsko carstvo, 2013; zbirke priča Obične priče, 1978; Opis smrti, 1982; Fras u šupi, 1984; Jednostavnost, 1988; Pelerina, 1993; Izabrane priče, 1994; Neobične priče, 1999; Drugi jezik, 2003; Senke, 2006; Svake noći u drugom gradu, 2008; Male priče, 2013; Propuštena prilika, 2013; 21 priča o sreći, 2017, kao i knjige eseja Prepisivanje sveta (1997), Teret (2004), Dijaspora i druge stvari (2008) i Ljudi, gradovi i štošta drugo (2011).
Dobitnik je Ninove nagrade, i to 1996. godine, za roman "Mamac". Sa druge strane, zbirka "Opis smrti" zavrijedila je Andrićevu nagradu.
Bavio se i prevodilaštvom, pri čemu je od 1994. do 2012. godine živio u Kanadi.