柴油机冷却方式分为风冷和水冷两大类，风冷多用于小型发动机上，船用柴油机多采用水冷却系统，它可分为两种：
开式冲却系统：用海水泵将海水从舷外吸入送至柴油机冷却空腔，冷却后又排至舷外。
闭式冷却系统：用淡水循环冷却柴油机，而受热的淡水再用海水来冷却。
一、开式冷却系统
舷外海水经通海阀进入机舱水管，再由进水阀、海水滤清器、单向阀进入离心式冷却水泵加压。加压后的海水经三通阀进入滑油冷却器对滑油进行冷却。三通阀也可使海水的一部分或全部经旁通管流往滑油冷却器的出水口处。此后面水分为两路：
一路海水沿直管向上进入柴油机的进水总管后，分别进入机体内各缸的冷却水腔。在对气缸套、气缸盖等零件进行冷却后，再由出水支管、调节旋塞汇集到排气总管的冷却水腔中，最后由出水总管排至舷外。
另一路海水经调节阀进入推力轴承底部的滑油冷却器，在对滑油进行冷却后，由推力轴承出水管排至舷外。
当冷却水泵因故不能供水时，可打开截止阀由机外水泵临时供水。这时，单向阀4将自行关闭，防止海水倒流。
系统中其它部件的作用如下：
调压阀用以限制冷却水的压力，当水压超过规定范围(0.08MPa)时，它将顶开调压阀分流，使海水压力自动降低到规定值。通过改变调压阀弹簧的预紧力，可以对冷却水的压力进行调整。
调节旋塞用以控制各自气缸冷却水的流量。温度计则用于对该气缸冷却水的出水温度进行监测。
出水观察器用来观察出机冷却水的工作情况。当气泡过多时，应检查冷却水泵的吸入端是否漏气；而杂质过多时，则应检查过滤器的滤芯是否破坏。
在这种用海水直接冷却的开式系统中，出水温度必须控制在55℃以下。因为海水含有大量的盐类，当温度超过55℃时，就会沉淀出来，积聚在气缸盖处的水腔内，形成水垢，影响传热。
二、闭式冷却系统
柴油机的气缸套、气缸盖、排气管等都是由淡水冷却，淡水则通过其冷却器由海水冷却。淡水在系统内循环，下面的所示为轻12V180柴油机的冷却系统。
淡水由淡水泵出来，通过两根进水管和进入两排气缸体。首先冷却气缸套周围，然后向上流，通过每个气缸的4个导水管进入气缸盖，冷却燃烧室顶部，进、排气道等处以后，从气缸盖的后端出来，经水管进入排气管和排气弯管。淡水出排气管后，进入淡水冷却器，经冷却后再回到淡水泵的进口。
在闭式冷却系统中有一个膨胀箱其用途为：
(1)系统中的空气和蒸气经管路从这里推出；
(2)给以淡水受热后膨胀的余地；
(3)当系统内淡水因蒸发或泄漏而减少时，可通过管路向系统内自行补充淡水。
进柴曲机的淡水温度，由手动开关调节，并用遥测温度表测量。淡水进口温度不低于55℃，出水温度不高于85℃。
装在气缸体进水管上的旋塞，供柴油机冷却系统充水时排出空气之用。
装在气缸盖输水管上的旋塞，用来起动前将热水注入柴油机冷却系统。
淡水冷却器外壳为桶形，其内装有铜制冷却管，淡水通过管内，作冷却用的海水则在管外流动。
海水由海水泵从海底门吸入，经过滤器进入冷却器后，再经船舷的一段排气管水套或消声器而排出舷外。
当柴油机长期不使用时，冷却系统内的淡水，可由气缸体、排气管、排气弯管、冷却器、淡水泵和输水管上的放水旋塞放出。
淡水闭式冷却系统与海水开式冷却系统比较有以下优点：
(1)淡水的温度可以比海水温度高，这样在保证受热机件可靠工作的温度下，热应能力降低，使气缸盖、气缸套等机件产生裂纹的可能性减少。
(2)由于淡水进、出口温度差的降低，被水带走的热量减少，柴油机的经济性就提高。
(3)与淡水相接触的机件的腐蚀会大大减轻。
(4)用淡水冷却时，其水套不易结水垢。
由于上述优点，所以现代船用高速柴油机大多数采用闭式冷却系统。
三、防止腐蚀的方法
在与海水和淡水直接接触的零件，如气缸套、气缸盖冷却水腔和冷却器中，均可发生腐蚀。为防上其腐蚀可采取下列方法：
(1)锌保护法：因为当钾与铁、铜等金属同时存在时，锌首先被腐蚀，从而使气缸套、冷却器等零件不被腐蚀。所以在柴油机的海水冷却系统中，常常转有—些锌板、锌棒或锌带用来保护系统中主要零件。
(2)表面镀层保护法：其实质是使金属材料与水隔离，如在缸套和水接触的一面涂一层镉或镍，以保护缸套。
(3)在闭式冷却系统中加缓冲剂：如NL乳化油等。