日本人饲养柴犬已经有好几个世纪的历史了，他们被认为是个体最小并且又最古老的日本犬。这些犬能够应付陡峭的丘陵和山脉的斜坡，再加上它们灵敏的感宫，使得柴犬屡次成为上乘的猎猝犬。今天的柴犬的祖先是日本山区那些健壮的幸存者，而这些幸存者对人们来说要洞察它十分困难。尽管他们最初是用来持猎大型猎物，但是现在他们用于猝猎较小的动物。它们是优秀的看门犬并且在日本也是一流的伴侣犬。在日本的城市、郊区和乡村都可看到柴犬。有许多关于柴犬名字来源的故事。

    一些认为之所以取柴犬此名是因为它能在灌木丛林里穿梭自如。你也许会听到人们把柴犬称为小灌木丛犬（柴犬）。另外一个故事，认为日本话"Shiba"的意思是"小"，因此这个单词也和这些犬有关联。然而这些故事没有一个得到证实。得到证实的是这种小犬第一次命名为柴犬是大约在20世纪20年代。在1936年12月，通过文化遗产法案，柴犬被确立为日本民族一个珍贵的自然产物。这样这个品种得正式的认可。在２０世纪３０年代参加展示赛的大多数柴犬来自日本的Yamanashi和san。人们把这些犬从山区带到人口更加稠密的地区。由于它们过去一直主要被用来捕猎，它们的外表和今天的柴犬有些差别。

    它们骨架粗大，外表粗矿不像今天的柴犬那样优雅。在二次大战中，柴犬近乎灭绝。这些现存的柴犬来自的不同的血统有San柴犬、Mino柴犬和Shibalnu柴犬（这种柴犬是日本过去和现在最普遍的一种）。正是从这三个血统，柴犬才进化成今天所见的品系。柴犬在1992年4月在AKC注册登记，并于1992年6月1日在一个有各类犬参加的展示赛上展出。1993年6月1日常规分类属于非狩猎犬。