Nació en el Bronx y pasó su niñez en Peekskill, Nueva York.

Empezó como director con films amateurs en Super 8, cortos que serían la base de su primera película The Driller Killer (1979), una violenta explotación de un artista que sufre un colapso mental. El film fue protagonizado por el propio Ferrara, además de escribir las canciones con el seudónimo de Jimmie Laine.

El principio de la década de los 90, es considerada por todos como la época dórada de la filmografía de Abel Ferrera. En 1990 triunfó con otra obra violenta, El Rey de Nueva York (King of New York).  Le siguió El Teniente Corrupto en 1992, considerada la mejor película del director neoyorkino.