SD38型柴油机车是干线货运用的六轴柴油机车，采用单司机室、底架承载结构、双侧外走廊的罩式车体，车体上部自前向后由电气室、司机室、动力室、冷却室四部分组成，其中电气室一端称为短罩端，动力室和冷却室一端称为长罩端。机车走行部采用两台"Flexicoil"三轴转向架，二系悬挂采用扰度较大的螺旋圆[[弹簧]]，可改善机车的运行品质和线路适应性。动力装置为一台16气缸、二冲程、机械增压的16-645E型柴油机。传动系统采用直-直流电传动，柴油机直接驱动一台D32型[[直流发电机]]，发出的直流电供给六台D77型直流牵引[[电动机]]。牵引电动机采用轴悬式驱动方式，牵引[[齿轮]]传动比为3.93（59：15）。