Долгое время считалось, что японское государство периода Хэйан не имело сколько-нибудь определенной военной организации. Однако исследования последних лет показывают, что формирование новой социальной группы — военного служилого дворянства, или самураев — началось задолго до второй половины XI века, когда они выдвинулись на общественную авансцену.
Роды, «специальностью» которых стало военное дело, обозначились довольно рано. В VIII в. потомственными воинами были Отомо, Саэки, Саканоуэ, а в IX в. — Оно, Окура.
К началу IX в. северо-восточная часть о-ва Хонсю оставалась вне контроля государства Ямато. Население этого района в хрониках носило общее название эмиси вне зависимости от этнической принадлежности. В результате военных походов 801 и 811 годов в состав японского государства были включены провинции Муцу и Дэва, где были установлены пограничные посты. Те эмиси, которые выказали лояльность по отношению к ноной власти, получили должности в провинциальной администрации и были привлечены к охране территории. Войска эмиси представляли собой хорошо организованные боевые кавалерийские отряды, превосходившие дружины Ямато по выездке и боеспособности. В X-XII вв., вплоть до северного похода Минамото-но Ёритомо в 1189 г., наиболее крупные роды, происходившие из эмиси (Абэ, Киёхара), и породнившаяся с ними северная ветвь рода Фудзивара создали практически самостоятельные владения и этих провинциях. И, вероятно, истоки воинского, самурайского искусства, во многом следует искать на северо-востоке.
Вторая половина IX и начало X вв. отмечены постоянными восстаниями на северо-востоке (в 848, 875, 883 и 90-х годах). В целом, конец IX в. был неспокойным временем. Провинциальные чиновники в сообщениях в столицу часто жаловались на бесчинства сюба-но то («конных банд»), которые грабили и убивали население. Известны факты, что они нападали на усадьбы управителей провинций (в 901 г. — в провинции Этидзэн, в 905 г. — в провинция Хида), грабили провинциальные склады, убивали чиновников.
Правительство принимало ответные меры. В IX в. в центральной и северной Японии были созданы посты кэбииси — своего рода военизированной полиции. В период между 889 и 898 гг. в наиболее беспокойный район, провинцию Кодзуса, управителем был назначен принц Такамоти, которому было даровано имя Тайра, записываемое иероглифом «усмирять, успокаивать». В 901 г. был введен закон, расширивший права управителей провинций, согласно которому они могли самостоятельно, не дожидаясь императорского указа, поднять войска для поимки преступников. Были также сняты ограничения на размеры военных отрядов, находившихся в подчинении провинциальных властей. Можно сказать, что на востоке страны региональные особенности получили и некоторое юридическое оформление.
С конца X в. среди «военных» домов на первый план выдвинулись Тайра и Минамото. В период инсэй у отрекшихся императоров служили хокумэн-но буси — дворцовые стражники, которых возглавляли то̄рё̄. Последние выбирались либо из Гэндзи (Минамото), либо из Хэйси (Тайра) — родов, имевших в то время самые крупные и боеспособные военные отряды. И хотя то̄рё̄ не занимали никаких «военных» государственных должностей, они фактически были командующими «официальной» армией, в которую в случае необходимости преобразовывались их отряды. Кроме того Тайра и Минамото «выказывали почтение» по отношению к таким государственным людям как Фудзивара-но Митинага, за что получали официальные государственные посты и ранги. Многие представители этих домов становились управителями провинций, что способствовало их обогащению и росту их политического влияния.
В IX-X вв. в Японии сложилась двуступенчатая система организации вооруженных сил. На постоянной основе существовали два вида военных формирований: столичная гвардия и провинциальные отряды, подчинявшиеся непосредственно управителям-дзурё̄. Таким образом, военная система была как бы «столичной» и «провинциальной».
Поначалу столичные силы состояли из стражи императорского дворца и городских ворот и столичной гвардии. Согласно «Тайхорё», последняя должна была формироваться рекрутскими наборами в провинциях, а стража дворца и ворот — из представителей столичной и провинциальной знати. Вероятно, данная система изначально функционировала плохо, и в 792 г. столичную гвардию ликвидировали. Главным военным ведомством в столице стало «полицейское управление» (кэбииситё̄), созданное в начале IX в., а к X в. превратившееся в крупное учреждение, организованное по типу других государственных ведомств и имевшее в своем штате как чиновников, так и воинов. Однако собственно военные отряды «полицейского управления» в X-XI вв. были небольшими, вероятно менее 500 чел.
Кроме «официальных» сил имелись еще и военные отряды аристократических домов (сёка-но хэйси). Их существование не было предусмотрено законодательством, но, видимо, именно они были наиболее боеспособны. В дневниках аристократов того времени встречается много упоминаний о схватках между такими отрядами, происходивших на улицах столицы. Императорский двор время от времени издавал малоэффективные указы, запрещавшие частным лицам пользоваться оружием. Вообще, в X-XI вв уже просматриваются тесные связи между «официальными» и «частными» военными отрядами; предположительно, в них даже могли служить одни и те же люди.
Среди столичных жителей — как аристократии, так и ее окружения — было много первоклассных стрелков из лука и людей, искусно владевших мечом. Популярным развлечением тех лет были состязания в стрельбе из лука на скаку — ябусамэ. Аристократы-обладатели высоких рангов сами, как правило, не принимали участия в подобных состязаниях, но охотно обеспечивали своих лучших стрелков «конем и луком».
Провинциальные военные отряды были двух типов: отряды управителей и отряды местных знатных домов. Первые, в, свою очередь, состояли из частей непосредственного подчинения и «воинов провинции», так называемых куни-но цувамонодомо. В непосредственном подчинении находились приближенные к управителю представители провинциальной знати, которых, наверное, можно уже назвать вассалами. Кроме них, в отряды включались чиновники провинциальных управлений (дзайтё̄-но каннин), в обязанности которых входил контроль над изготовлением оружия в данной провинции. Самыми крупными отрядами обладали главы приграничных провинций севера и юга страны, а также побережья Внутреннего Японского моря.
«Воины провинции», видимо, были связаны с провинциальным управлением длительными отношениями: либо службой в пограничной страже, либо организацией охоты, либо участием в храмовых церемониях.
Что касается военных отрядов местных знатных домов, то их «частный» характер (как и в столице) проявлялся только в источнике содержания их воинов. Для государственные и «частных» военные формирований существовало строгое общее правило: они могли выступить только после получения письменного указа-разрешения императорского двора. Если это правило не выполнялось, то нарушитель объявлялся бунтовщиком, и государство направляло своего представителя для наведения порядка.
Отряды кэбииситё и отряды управителей провинций содержались на налоги, собираемые центральной властью. По мере того как сумма поступавших в столицу налогов уменьшалась, воин переходили служить в отряды то̄рё̄ или служили в двух отрядах одновременно, поскольку то̄рё̄ стабильно обеспечивал своих воинов, а государственное ведомство давало им должность и ранг, определявшие их социальный статус.
Военные конфликты периода Хэйан были затяжными и кровопролитными. Оружие, которое использовали японские воины, оставалось практически неизменным: лук, стрелы, меч и копье. Во второй половине XI в. меняется техника ведения боя — все чаще упоминаются факты единоборств, т. е. форма присущая самурайским боям последующих эпох.
Вскоре после смерти Фудзивара-но Митинага произошло восстание Тайра-но Тадацунэ. Оно началось в 1028 г. в провинциях Кадзуса и Симоса и по характеру было борьбой между Тадацунэ и Наоката за главенство в кантосской ветви дома Тайра.
