《野良犬》将故事置于一个酷热难耐的夏天。身心俱疲的青年刑警村上（三船敏郎 饰）结束射击训练后，挤上闷热拥挤的公共汽车回家，却在途中惊觉自己的配枪遭人偷走。他立即追赶窃贼，但最终还是让对方逃脱。满怀沮丧的村上找到佐藤课长（志村乔 饰），甚至请求解除自己的职务。善良的佐藤没有责备他，而是建议他向扒手课经验丰富的刑警市川（河村黎吉 饰）求助。
在市川的提醒下，村上回忆起车上曾有一名女子紧贴自己站着，那人正是惯于行窃的女犯阿银（岸辉子 饰）。面对村上执着不懈的追问，阿银终于透露出手枪贩子的线索。顺着这条线索，村上闯入城市阴暗而复杂的角落，四处追查失枪的下落。然而，他的配枪已经被人用于犯罪，案件不断升级，留给他的时间也越来越少。影片借由村上如野狗般敏锐而紧迫的视线，交错展现二战后日本都市中形形色色的众生相。
