Varje samuraj har en herre som han är totalt lojal emot. I Ghost Dogs fall är det Louie, en underhuggare i den italienska maffian, som en gång räddat livet på honom.

Sedan dess har Ghost Dog utfört ett antal framgångsrika torpedjobb åt Louie. Men de ses aldrig, utan håller kontakt genom brevduvor. Ingen vet något om Ghost Dog, vem han är, var han bor eller hur han utför sina uppdrag. Ghost Dog bär sitt namn tack vare sin förmåga att komma och gå utan att lämna några spår.

När Ghost Dog ska utföra sitt senaste jobb åt Louie, går något snett och Louie får i uppdrag att göra sig av med Ghost Dog. Hans enda utväg ät att döda maffiafamiljen istället.