中国空军组建之初,由于沿海岛屿还未解放,因此空军将对地支援能力放在重要的位置上面,组建了强击航空兵,配备了引进至前苏联的伊尔-10强击机,该机在解放一江山岛的战斗中发挥了重要的作用。考虑到当时作战飞机的喷气化,空军认为有必要装备喷气式强击机,但当时前苏联更加重视能够远程突防的歼击轰炸机,取消了强击航空兵,取而代之的是歼击轰炸航空兵,因此新型喷气式强击机只能由中国自行研制。
1958年该机由南昌飞机厂开始研制,陆孝彭任总设计师,考虑到飞机主要执行对地攻击任务,因此需要飞行员有较好的下视视野,所以其在中国作战飞机中首次采用了尖削机头,飞机员下视角超过13度,同时为提高飞机的低空突防能力,其采用了蜂腰机身,不过由于中国技术基础薄弱,该机的机翼及尾翼参考了前苏联制米格-19的大后掠机翼和尾翼,虽然这种设计确保了强-5具备较好的高速性能,但也衍生了飞机投弹后重心变化较大的缺点,飞行员操纵飞机较为困难。
强-5沿用米格-19的另外一个主要系统是发动机,其采用了歼-6的涡喷-6发动机,该机是轴流式涡喷发动机单台静推力最大状态25.5千牛(2600千克),加力推力31.87千牛(3250千克)。由于该发动机属于第一代喷气式发动机,因此存在着推力小、耗油量高的缺点,并且至今仍旧是限制强-5性能升级的主要障碍。