日本海上自卫队的水面舰艇种类相当齐全，除了航空母舰，装备有直升机驱逐舰、导弹驱逐舰、通用驱逐舰、护航驱逐舰、两栖舰艇、导弹艇及辅助舰艇。
（一）直升机驱逐舰
直升机驱逐舰的特点是搭载较多的直升机作为反潜作战的核心舰艇和指挥舰。日本海自现役的直升机驱逐舰分别是：日向级“日向”号(DDH-181）、“伊势”号（DDH-182）；出云级“出云”号（DDH-183）、“加贺”号(DDH-184)。
1.日向级
日向级采用全通甲板、封闭式舰首，在舰体右舷布置有一个全长约70米，宽约9米的大型舰岛。舰上重要舱室，如军官住舱、战术情报中心、舰长室和司令部作战室等都布置在舰岛02甲板。此外，02甲板上还新设了一个多功能区，其在海陆空联合作战时作为联合部队司令部使用，在救灾时可作为救灾指挥部使用。如果有需要，该功能区还可用隔板隔开或拆掉隔板连成一个大会议厅，地板上备有电源和网线插座。军官餐厅布置在05甲板，水兵住舱布置在03~06甲板。03甲板前部是舰桥，后部是航空控制室，直升机飞行员待命室设在01甲板。04甲板的外壁各装有2组FCS-3火控系统的相控阵雷达天线面板。舰桥顶部有一座主桅，其前部布置有一个大型X波段宽带卫星通信装置天线罩，后部是2座有间隔的烟囱。舰岛前后两个甲板室顶部安装了X波段宽带卫星通信系统的大型天线罩和略小的USC-42卫星通信天线罩。飞行甲板右舷前部和舰尾左舷外飘舷台上分别安装1座“密集阵”近防武器系统。
日向级很重视隐身性能。为降低雷达反射面积，主舰体横截面呈“V”字形；舰首具有较大的前倾斜度，两舷外飘；舰岛各壁面均放弃了传统的垂直面，改为外倾和内倾组合设计的倾斜面，各面转角都采用圆弧过渡；舰上的11米长作业艇和7.5米长综合作业艇、三联装鱼雷发射装置、舷梯等设备都被布置在舰体舷侧所开的凹槽内，并在航行时用百叶窗式折叠门遮蔽；舰桥顶部的主桅基座为四棱台形，主桅后倾。在日向级舰尾左侧靠近水线的地方并排布置有2个圆孔，用于收放4型拖曳式鱼雷诱饵的拖缆。
日向级的全通飞行甲板全长195米，几乎与舰长相同，最宽处与舰宽相同，最窄处为23米(舰岛左侧飞行甲板）。为保证飞行甲板面积，该舰还在飞行甲板左舷前部增设了一个类似斜角甲板的外飘。而为了让直升机安全起降，整个飞行甲板都进行了防滑处理。
日向级的飞行甲板共设有4个直升机起降点，其中舰岛左侧2个，舰岛前后各1个。按照设计要求，飞行甲板各处的强度都能承受SH-60K直升机的起降，舰岛前后的2个起降点更能承受海上自卫队的MH-53E重型直升机以及陆上自卫队、航空自卫队的CH-47J“支努干”运输直升机起降。飞行甲板上共设有2部升降机，其中前部升降机长约20米、宽10米，后部升降机长约20米、宽13米。两部升降机的承重量都能满足运送MH-53E直升机的要求。此外，飞行甲板前后部靠右的位置还分别布置有2部长4米、宽2米的弹药/物资升降机，承重能力均为1.5吨。在飞行甲板左舷侧布置有航空燃油补给和甲板消防用的软管绞盘，飞行甲板后部右舷侧布置有两座8单元MK41垂直发射装置，稍远的前方是国际海事卫星通信天线罩，舰岛上方两座烟囱间的凹陷部位布置有洋上补给装置。
在日向级舰内中部布置有两座相邻的直升机库，分别与前后两部升降机相连。每个机库长约30米、宽19米，中间由防火门隔开。日本防卫省称2座机库总共可容纳11架SH-60K反潜直升机，加上甲板4架，最多可搭载15架。但通常只搭载3架SH-60K反潜直升机和1架MCH-101扫雷/运输直升机。
除机库外，在日向级尾部升降机后面还设有一个很大的直升机维修间，长度为20米，最宽处为20米，高约3层甲板，天井上装有吊车。由于维修间的空间充裕，所以像MCH-101大小的直升机不用折叠螺旋桨就可在里面进行维修，这种强大的航空维修能力对于保持舰载直升机长期在海上作战具有重要意义，由此也反映了日向级的建造初衷就是远洋作战。
日向级采用全燃动力，主机为4台LM2500燃气轮机，功率10万马力。此外，在该舰的中部前方还并排安装有2台功率为8476马力的应急动力装置，以备在主机损坏的情况下，保证航母在4级海况情况下以4.5节航速航行。为解决全舰供电问题，该舰装有4台2400千瓦主发电机。推进装置方面，该舰采用了2具5叶可变螺距螺旋桨（桨叶上开有降噪孔）。
日向级的舰载武备包括2座旋转式三联装HOS-303型鱼雷发射管、2座8单元MK41垂直发射装置和2座“密集阵”近防武器系统。其中HOS-303型鱼雷发射管布置在舰尾两侧，内埋式设计，通过舰内遥控操作发射97式或美制MK46Mod5轻型反潜鱼雷。MK41垂直发射装置中有4个单元装填“改进型海麻雀”(ESSM)防空导弹，每个单元装4枚；另外12个单元装填垂直发射的“阿斯洛克”反潜导弹。
“改进型海麻雀”导弹有效射程达50千米。新型预制破片战斗部采用钝感装药，在增大杀伤力的同时还增加了装舰的安全性。该导弹采用中段惯性制导+末端半主动雷达制导，并装有数据链，具有很高的命中率。
垂直发射型“阿斯洛克”反潜导弹的战斗部为一枚MK46Mod5型反潜鱼雷，在对付先进的深水高速潜艇目标时，还可换为性能更好的日本国产97式反潜鱼雷。“阿斯洛克”导弹飞行速度可达到1.1马赫，可攻击航速35节、潜深700米的潜艇目标。
舰上所装的“密集阵”系统是MK-15Block1B型，最大特点是加装了光电系统及采用新型炮管，不但拦截反舰导弹的能力更强，而且还首次具备了对付小型高速水面目标的能力。
日向级的雷达、电子设备采用的都是日本新研制的产品，其中包括FCS-3型多功能相控阵雷达、新型OPS-20C对海搜索雷达和新型OQQ-21低频舰壳声呐。
在日向级上共有4组FCS-3相控阵雷达阵面，每组包括一大一小2个固定阵面，4组可覆盖以本舰为圆心的360度半球范围，具有探测能力强、抗干扰性好、结构紧凑、重量轻、可靠性高等特点，并应用了“雷达低截获概率技术”，整体技术性能比美国“宙斯盾”系统的AN/SPY-l无源相控阵雷达先进，可同时搜索、跟踪多个空中和海上目标，并照射舰载导弹实施拦截。在每组的两个雷达天线阵面中，面积较大的阵面含1800个发射/接收(T/R)单元，应用了日本领先全球的砷化镓半导体技术。其主要任务是用于对空、对海搜索，最大对空搜索距离210千米，可同时搜索、跟踪300个空中和海上目标，对低空高速小型目标具有较高的探测跟踪能力（甚至可以跟踪127毫米炮弹）；面积较小的雷达阵面主要为“改进型海麻雀”导弹提供末制导所需的照射波束，另外也可控制舰炮或反舰导弹。其集成了泰利斯荷兰公司开发的间断连续波照射技术，可在多个目标间极快的转移照射波束，或者直接发射多条照射波束同时照射多个目标。据称，FCS-3的4个小雷达阵面总共可同时制导12枚以上“改进型海麻雀”舰空导弹拦截多个空中目标，具有很强的抗饱和攻击能力。
日向级上的OPS-20C新型对海搜索雷达的探测距离虽然比不上以前的OPS-28对海搜索雷达，但通过将雷达波由脉冲波束变为连续波束，在很大程度上降低了被敌方电子支援系统探测的概率。
日向级舰首水线以下长约40米的新型声呐罩里装有新型0QQ-21低频主/被动舰壳声呐，罩内前部是圆柱形数字声呐阵列，后面是平面阵列。为了对付周边国家静音性能不断提升的各种先进潜艇，0QQ-21采用了比现役OQS-102舰首低频声呐（美制SQS-53B/C的日本仿制型）更低的工作频率，探测距离比现役的声呐系统有了飞跃性的提高，在浅水海域使用的性能也有较大提高，实现了从远程到近程、从深海到浅海的更大范围的探测能力。
作为日本海上自卫队护卫队群的新旗舰，日向级在设计时非常重视C4I系统，要求该舰必须能很好地适应未来的“网络战”环境。为此，该舰装备了完全由日本自主开发的水面舰艇用战术情报处理系统（ATECS)。这也是日本海上自卫队首次将以往分散在舰上各处的战术情报处理装置、反潜情报处理装置以及电子战装置集成在一个系统中，可对舰上各种雷达、声呐、火控系统、电子战系统以及各种武器系统等子系统进行统一控制。
2.出云级
继两艘日向级之后，日本防卫省继续规划建造后续的大型直升机驱逐舰，来取代两艘白根级直升机驱逐舰。2015年3月25日，“出云”号正式加入日本海自服役，取代第1护卫队群的“日向”号担任旗舰，而“日向”号则编入第3护卫队群取代“白根”号担任旗舰。二号舰24DDH计划在2017年3月服役，届时将取代白根级二号舰“鞍马”号。
出云级是日向级的放大改良版，仍沿用全通式飞行甲板、右舷舰岛等标准的航母布局，全舰长增至248米（比日向级长51米），飞行甲板宽38米（比日向级宽6米），标准排水量达19500吨（日向级为13950吨），满载排水量更是达到了27000吨。出云级的机库可容纳14架SH-60K直升机，可同时起降5架直升机。为了适应舰体尺寸和吨位的增加，舰上4台LM-2500+燃气轮机的单机功率可达33600马力，使最大航速维持在30节的水平。出云级上的电力由LM-500燃气涡轮发电机提供，每个机组功率约6000马力；LM-2500燃气轮机与LM-500燃气发电机都由美国通用电气公司授权日本IHI生产。
环顾世界海军，可以发现“出云”号无论是外形、整体结构、舰体尺寸还是排水量、甲板上的起降点，都与意大利海军现役的“加富尔”号轻型航母十分接近或者完全相同。而在隐身性能上，“出云”号还优于“加富尔”号。两者的区别仅仅是“出云”号少了一块舰首滑跃甲板，再就是“出云”号以搭载直升机为主，缺少“加富尔”号搭载的短距起飞、垂直降落的固定翼舰载机，这也是“出云”号被外界称为“准航母”而非正规航母的主要原因。由此可见，“出云”号与正规航母之间实际上只是一层窗户纸的关系，并不存在什么难以逾越的技术障碍。至于“出云”号的甲板强度和耐烧蚀能力能否满足F-35B的起降需求，尽管日本官方一直讳莫如深，但外界认为日本已经解决了这些问题，一个很重要的证据就是“出云”号所设置的大型舷侧升降机。因为如果只是使用直升机或MV-22倾转翼飞机，基本没必要采用舷侧升降机，只有在考虑使用固定翼舰载机的情况下才会设置。再加上飞行甲板前部左侧取消了日向级的内削构型，增大可用面积，飞行甲板长度似乎足以让F-35B垂直/短距起降战斗机不靠滑跳甲板进行短距起飞，因此有推测出云级已经纳入了F-35B战机的起降操作能力。
作战装备方面，由于日本希望出云级的预算能控制在只比日向级增加11%，但出云级排水量却比日向级足足增加40%左右，所以出云级势必得简化作战装备来降低成本。为此，出云级取消了MK41垂直发射系统与舰载的HOS-303型324毫米鱼雷发射管；上层结构保留四块FCS-3相控阵雷达的主阵面天线，去掉了用来控制导弹的X波段照射雷达阵面，主要担负对空搜索/监视以及航空管制，称为OPS-50对空雷达。不过，OPS-50虽然结构简化，但最大搜索距离却增加到360千米以上。
出云级配备4座防御武器系统，分别位于前段舰岛底部右侧的舷外平台、舰体前部左舷外平台以及舰尾两侧的两个舷外平台。其中两座为“海拉姆”11联装近程防空导弹系统，两座为MK-15Block 1B“密集阵”近防武器系统。除简化武器系统外，出云级的0QQ-21舰首声呐罩也比日向级短，显然只保留前端的主/被动声呐，而没有后端的低频被动声呐。
从“出云”号的设计特点来看，日本海上自卫队显然是将其作为一艘大型多用途舰艇来对待，可以充当直升机母舰、联合特遣舰队旗舰、两栖运输舰、油水补给舰以及医院船等多种角色。其中直升机母舰是“出云”号的基本角色，在进行反潜作战时，利用舰首大型主动声呐、舰上搭载的7架以上SH-60K中型多用途直升机和舰载作战指挥中心，该舰具备强大的反潜战能力，能够有效对付低噪声的先进潜艇。在进行扫雷作战时，该舰可利用舰载的MCH-101扫雷/运输直升机从事海上扫雷任务。一般情况下，该舰搭载2架MCH-101。如果有必要，该舰可增加MCH-101的数量。
“出云”号在2014年1月开始修改了设计，增强了旗舰能力，其上可搭载100名联合特遣舰队司令部人员，能够统一指挥整个战区内诸军兵种的联合作战行动。
“出云”号有两套舰载指挥系统，一套是战术级别的“先进战术情报处理系统”，另一套是战区级别的“海上作战部队指挥控制系统”，也就是担当旗舰角色的指挥系统。此外，“出云”号还引人了美军近年来新发展的“海军全球指挥控制系统”（GCCS-M），是集指挥部、指挥所、通信系统、自动化和其他专业技术系统的综合体，包括通过军用网络连接的、能在局部乃至全球计算机网络框架内协同工作的大量工作站，具备从全球任何地点查询信息的能力，能够探测、识别和跟踪数千个空中、海上和地面目标，自动引导武器打击数百个目标。不仅如此，“海军全球作战指挥系统”还能实现指挥员定下决心过程的自动化，并确保信息不会被非法访问。
在装备“海军全球指挥控制系统”之后，美日之间的联合作战将不存在任何障碍，日本的作战力量将完全纳人美军的指挥体系。
（二）导弹驱逐舰
导弹驱逐舰的特点是装备中远程舰空导弹系统，主要担负水面舰艇编队的区域防空任务。日本海自的现役导弹驱逐舰分别是：旗风级“旗风”号（DDG-171）、“岛风”号（DDG-172）；金刚级“金刚”号（DDG-173）、“雾岛”号（DDG-174）、“妙高”号（DDG-175）、“鸟海”号（DDG-176）；爱宕级“爱宕”号（DDG-177）、“足柄”号（DDG-178）。
1.旗风级
旗风级是日本在20世纪80年代发展的导弹驱逐舰，主要作战使命是舰队防空，同时兼顾反潜、反舰，也可作为指挥舰。旗风级采用平甲板舰型，舰全长150米，舰宽16.4米，型深9.8米，吃水4.8米，标准排水量4450吨，满载排水量5500吨。
舰首设有约18米长、1米高的防浪舷墙，可以防止舰首上浪，同时给人的视觉效果也显得高大威武。在舰面布置上，旗风级由前向后依次是：“标准”1舰空导弹发射装置、一座73式127毫米54倍径舰炮、一座74式反潜导弹发射架、舰桥及其上的照射雷达、主桅上的三坐标雷达和对海搜索雷达、舰桥两侧舷部有两座6联装干扰弹发射装置、烟囱、烟囱后部有两座4联装“鱼叉”反舰导弹发射架、后甲板室的副桅上装有对空搜索雷达、其后是尾炮的火控雷达、后甲板室两侧舷部有两座“密集阵”近防系统、再后是1座73式127毫米炮、最后是直升机甲板。此外，在舰中部两舷处各设1座68式三联装鱼雷发射管。
旗风级是日本海自继“初雪”级之后第二种采用全燃动力的驱逐舰，共四台燃气轮机，从启动到全加速只需30秒。旗风级采用双轴推进，每根轴装有一个可调螺距的大直径螺旋桨，其主要功能是具有倒车性能，噪音也比较低，但推进效率比定距桨低。旗风级上的电子设备基本上代表了20世纪80年代的先进水平。由于其在必要时候要担任指挥舰的角色，所以还装备了一套0YQ-4-1型作战指挥系统，它配有大容量、高速的计算机，能够进行复杂的信息处理。而且该系统装有11号和14号数据链，可以和P-3C反潜机、E-2C预警机、E-767指挥/预警机等进行数据联系，进行一体化作战。
目前，日本正在建造2艘改进型爱宕级“宙斯盾”驱逐舰，分别是“摩耶”号（DDG-179）、“羽黑”号（DDG-180），服役后将取代2艘旗风级。
2.金刚级
为了弥补海上区域防空能力的不足，日本海上自卫队在20世纪80年代中后期向美国求助，得到了伯克级的相关设计，随后以伯克级为基础，并根据自己的实际需求设计出了金刚级“宙斯盾”导弹驱逐舰。日本海自原计划建造8艘金刚级，以给每个“八八舰队”配备2艘，但在建造中发现其费用远远超过原来计划的7亿美元，竞达11亿美元，因此日本海自最终由于承受不了这么高的建造费用而只建造了4艘。
金刚级全长161米，舰宽21米，型深12米，吃水6.2米，标准排水量7250吨，满载排水量9485吨，动力装置为4台石川岛播磨重工业（现称IHI）生产的LM2500燃气轮机，功率100000马力，双轴双桨驱动，最大航速30节以上，舰内燃油1785吨，续航力6000海里/20节。
金刚级采用高干舷、平甲板舰型，舰体的上层建筑向内倾斜，舰体外型比较简洁，有较好的隐身性能。金刚级的舰桥很高大，好处是驾驶室的视野更为开阔，并且把AN/SPY-1D多功能相控阵雷达的4个阵面的布置提高了一层；缺点是使全舰的受风面积增大。
金刚级舰体内共分为4层甲板结构，上甲板与舱底相互是联通的。两侧各有一条贯穿全舰的封闭式通道，这样设计不仅方便了内部舰员的行走，同时还提高了舰体的防护能力。舰体中部布置了2座烟囱，上部装有红外抑制装置，用以降低烟囱的红外辐射。舰上的主桅杆采用了日本舰艇最喜欢的四角格子桅杆。
金刚级的动力舱内装有4台LM2500燃气轮机，最大输出总功率10万马力，可以使金刚级的最高航速达到30节。4台发动机每2台一组布置在2个独立的机舱内，分别驱动左右两个传动轴。第一机舱位于舰体中部左侧，二舱位于舰体后部右侧，两舱相距近10米，从而保证了即使动力舱被命中也不会同时将两个机舱全部瘫痪，极大地提高了动力舱的生存力，同时也进一步提高了金刚级整体的防护力。
金刚级的舰桅和烟囱采用了铝合金材料，但在舰体及上层建筑部分全部采用了高碳镍铬钼钢，具有很强的抗打击能力。而对于作战指挥中心、弹药舱等重要部位，更是加装了凯夫拉装甲以进一步增强防护力。此外，舰上还加强了损管系统，将舰上的三个发电机舱分隔设置，中间有两个机舱隔开，并使用了无毒、耐火电缆相连。金刚级的舰体甲板上还装有大功率喷水装置，既可在受到核、生、化污染时进行洗消作业，也可用于灭火。由于采取了种种措施，金刚级的防护能力可以说达到了世界一流水平。
金刚级基本上全盘引进了伯克级上装备的“宙斯盾”系统，核心是安装在舰桥上的四块AN/SPY-ID多功能相控阵雷达天线，可覆盖全舰360度半球空域。其对高空目标的探测距离达400千米（高度9000米），对低空目标的探测距离为80千米（高度1000米），超低空目标的探测距离为47千米（高度300米）。可同时监视400批目标，自动跟踪其中的200批次。
舰上装备有3部AN/SPG-62照射雷达，它根据武器控制系统的指令为“标准”-2MR舰空导弹提供末制导照射。其主要特点是无须全程对导弹进行跟踪、照射，只在导弹接近目标时，才对准目标进行一下照射，这样一部SPG-62照射雷达就能通过作战系统的威胁程度进行先后排序，依次照射多个目标，从而解决了对付多目标的难题。舰上所装备的SPG-62目标照射雷达一次可跟踪4个目标并依此进行照射，这样全舰共3部就可同时拦截12个空中目标，具备前所未有的多目标拦截能力。
金刚级上还装备有OPS-20导航雷达、OPS-28D对海搜索雷达。其中OPS-28D是金刚级上最主要的对海探测设备，对海上目标的搜索距离在80千米以上，可有效抑制海浪的干扰，能发现低空进行掠海飞行的小型反舰导弹的能力，可为舰上的“鱼叉”反舰导弹提供目标运动要素，并对攻击视距内的反舰导弹进行引导。
金刚级虽是以防空作战为主，但也配备了先进的声呐探测设备，这也与日本一向重视反潜作战有关。包括舰首底部的0QS-102低频舰首声呐，舰尾左侧的OQR-2拖曳式阵列低频声呐。前者是一种全数字式低频主被动声呐，理想水文条件下的探测距离可达到15海里。后者则是仿制美国的SQR-19A，主要用于远距离探测及预警，作用距离最远可达60海里。这些声呐设备的探测数据可以汇集到舰上的OYQ-102+反潜情报处理系统后，再由0QA-201攻击指挥系统下达攻击命令。舰尾部右侧还装有拖曳式4型拖曳式鱼雷诱饵，用来保护金刚级免受反舰鱼雷的攻击。此外，舰上还装有海军战术数据系统、WSC-3/OE-82C卫星通信终端、SQQ-28舰载直升机数据链等。
金刚级上最亮眼的武器系统就是MK41垂直发射系统，其中舰首4个8单元发射模块，舰尾8个8单元发射模块。但由于两组发射模块中各有一个为装填模块，模块中的3个发射单元专用于装补给装弹机，而不装导弹，所以全舰实际有导弹发射单元90个(其中舰首为29个，舰尾为61个）。金刚级的MK41垂发系统主要装填“标准”-2MR Block IⅢA/B区域舰空导弹，最大射程可达167千米，最大射高为20千米，飞行速度3.5马赫，采用惯性+无线电指令+半主动雷达制导。
金刚级舰首装有一座54倍口径的单管奥托127毫米自动舰炮，最大射程可达23千米，最大射速40发/分。炮塔为玻璃钢材料制成的全密封式，全重只有34吨，炮塔下方设有大容量弹舱，内装有600发炮弹，弹舱采用了双层装甲结构，以提高舰体本身的抗毁能力。炮弹弹丸重达31千克，对水面舰艇的杀伤力很大，并具有很强的对地攻击能力。
金刚级前后各装有一座“密集阵”Block 1A型近防武器系统，与MK36干扰弹发射装置构成了金刚级的最后一道防线。金刚级在舰中部两个烟囱之间共设有两座四联装“鱼叉”反舰导弹，但一般情况下不带这么多反舰导弹，而是采用两座双联或两座三联装。
反潜武器方面，“阿斯洛克”反潜导弹由位于舰首的MK41垂直发射系统发射，最多可装填16枚。此外，在金刚级舰后部两侧还装有2座HOS-302型三联装鱼雷发射管，发射美制MK46或日本自研的97式反潜鱼雷。
2000年12月，日本的新中期防卫计划中称，必须要加强对日本周边的弹道导弹威胁所做出的反应(明指朝鲜，暗指中国)，日本有必要建立弹道导弹防御体系加以应对。其中起关键作用的就是以金刚级驱逐舰为主的海基导弹防御系统，它主要用于承担在大气层外拦截来袭弹道导弹的重任。实际上早在80年代末，日本就已开始参与美国的导弹防御计划，并开始研究将刚服役不久的金刚级导弹驱逐舰进行BMD(弹道导弹防御）改装的可能性。只是当时日本的态度并不明朗，进展十分缓慢。但是到了1988年8月31日，日本声称朝鲜成功试射了射程达1000千米的“大浦洞”弹道导弹后，相关计划得以加速进行，并用了4年多的时间完成了对“金刚”级驱逐舰进行改装问题的论证工作。
2003年12月，日本正式确定引进弹道导弹防御系统，并逐步对4艘现役金刚级导弹驱逐舰进行了改装，包括装备引进“标准”-3BlocklA反导导弹、升级的“宙斯盾”系统、改进的指挥通信系统等。2007年12月18日，“金刚”号首次进行了“标准”-3导弹的发射试验。此后，“金刚”号以及其他3艘金刚级又进行了多次“标准”-3导弹发射试验，标志着该级舰具备了实战反导能力。
