平衡机构的作用主要有两个方面。首先，平衡机构可以减少振动，提高发动机的稳定性。柴油机工作时，活塞的上下运动和连杆的旋转会产生很大的振动力，如果不进行平衡处理，会导致发动机工作时振动过大，严重影响机器的可靠性和使用寿命。
平衡机杄还可以减小不平衡力，提高发动机的平衡度。柴油机在工作时，由于各个部件的质量和惯性分布不均匀，会产生不平衡力，导致发动机的运行不平稳。平衡机构通过增加适当的质量和调整位置，使得整个发动机系统的质量分布更加均匀，减小不平衡力，提高发动机的平衡度，从而降低机器的振动和噪声。
常见的平衡机构形式有配重轴和平衡轴。配重轴是通过加装一定质量的配重重量，来抵消活塞与连杆的振动力。平衡轴通过设计一个特殊的轴，安装在发动机的正、负曲轴之间，通过旋转来抵消不平衡力，提高发动机的平衡性。