1999年，于小伟考入中央戏剧学院。2000年，参演徐帆主演的电视剧《永远有多远》，这是他的首部电视作品。

2003年4月，参演陆毅、林心如主演的电视剧《男才女貌》，饰演高富帅“刘浩东”。2005年，在顾长卫导演的电影《孔雀》中扮演张静初的暗恋对象、解放军伞兵；参演蒋雯丽，那英，罗海琼主演的都市爱情片《好想好想谈恋爱》；12月，在陈凯歌导演的东方奇幻史诗电影《无极》中饰演也力一角。

2008年3月，参演的范冰冰、霍建华、刘雪华主演的电视剧《胭脂雪》播出，出演软弱在感情上左右摇摆的辜少棠，被香港媒体评为2008年度香港最具人气的大陆男演员。

2012年3月，与韩雪、丁子峻主演电视剧《偏偏爱上你》，饰演林重光；6月，于小伟与邬君梅、罗家英等主演惊悚片《查无此人》，荣获第四届英国万象国际华语电影节“优秀新人演员奖”。

2013年5月，与萨日娜、闫学晶领衔主演的电视剧《闯关东前传》播出，饰演管家大哥管粮；5月29日，与佟大为、于明加、丁嘉丽、周晓欧等联合主演的反应现代门第观念下婚恋矛盾的电视剧《门第》在安徽卫视、河南卫视、深圳卫视、四川卫视黄金档播出，于小伟在剧中饰演玩世不恭、冷漠孤傲、自私自利的“冷面贵公子”罗胜利。

2014年3月，主演《食来孕转》播出，于小伟与刘涛在剧中分别饰演杜一鸣和沈谷雨。同年在《烽火英雄传》饰演“甘愿”。

2015年，主演电视剧《灵与肉》，在剧中饰演主人公许灵均。

2016年，主演电视剧《最美是你》，在剧中饰演主人公李思进。6月24日，于小伟同革命题材电影《勇士》剧组共同亮相第16届中国电影华表奖。主演恐怖惊悚电影《魔都凶音》，7月22日上映。

2017年，主演电视剧《大唐荣耀》，在剧中饰演回纥王“默言啜”；同年12月，搭档景甜、李治廷主演由金琛执导的都市励志爱情剧《极客江湖》，在剧中饰演池峰。