常义林1970年8月从西安交通大学工程物理系毕业，在陕西安康电影公司从事技术管理工作。1978年11月以优异成绩考取西安电子科技大学通信专业研究生。

1982年1月获硕士学位并留校任讲师、副教授、教授、博士生导师。

1985年10月至1987年1月，在英国伯明罕大学作访问学者。

1997年5月至1997年11月，在美国（西雅图）华盛顿大学作高级访问学者。

其硕士论文《非正弦正交函式的产生、发射及接收》是我国开展时域电磁学研究最早的工作之一。他研製成功的大功率毫微秒级窄脉冲发生器，达到了当时世界同行研究水平，在国内处于领先地位。开展通信中的自适应信号处理等多项研究工作，《矢量量化技术》是我国最早一批国家自然科学基金项目之一。

主持研究国家自然科学基金项目《ATM网路中变速率视频编码及其统计特性研究》和国家教委博士点基金项目《数学信号处理在ISDN中的套用》。特别是在视频编码领域，取得了创造性成果。

先后共负责和参加了20项科研项目。有10多篇学术论文被列入国际三大权威检索。

中国通信学会六届五次常务理事会审议了组织工作委员会提交的关于2010年度会士遴选工作情况的说明，批准常义林等20位同志为中国通信学会会士。

获得部级科技进步一等奖。

获得省部级科技进步一等奖2项，二等奖1项，三等奖2项。