1882年与弟徐世光同中举人，与袁世凯结为终生好友，先后任商部左丞、兵部左侍郎、东山省总督、军机大臣、体仁阁大学士、太傅，1911年为内阁协理大臣，成为清政府第二号人物。
辛亥革命后，1912年与弟有光同来青岛，初居旅馆，由周学熙经办，为其筑宅于曲阜路，用款达40万元，在青岛的清旧臣中，其宅仅次于周馥、周学熙父子。青岛的德国当局奉威廉皇帝之命，对他分外优待，总督亲自接见、宴请，请他观看当时世界上刚发明的电影。
他表面上与遗老们聚会、饮酒、赋诗、唱和（作品后收入《晚晴诗集》）。在三江会馆观看京剧名伶演出。但无论“复辟派”还是袁世凯都与他保持着联繫。由于他府城很深，别人不知道他内心到底倾向于哪一派。
徐世昌同吴郁生等去游崂山，回来后写了“记”，镌于去太清宫途中一块浑圆石上，是他手书上石的，今保护完好。文中写道：
癸丑四月辛丑约苏州吴郁生（清军机大臣），广州李家驹（清广西巡抚）游崂山，同游者黄县于式枚（清侍郎）、合肥李经迈（李鸿章子，清侍郎）、张士珩（李鸿章甥，清山东学台），宿于华岩庵。明日至太清宫，负峡函海，松石奇古，极雄深幽静之致……道士韩太初善琴，马贤静善谈玄，皆此游可记者。
这年，清隆裕太后逝世，他专程去京奔丧，溥仪在《我的前半生》中写道：“……感到兴奋的是徐世昌也从青岛赶到，接受了清室赏戴的双眼花翎。这位清室太傅在颁布退位以后，拖着辫子跑到德国人盘踞的青岛当了寓公，起了一个语含双关的别号‘东海’。”
庆亲王载振到青岛，住于他宅中密谈。袁世凯组阁，派吴笈荪到青岛敦请他出山，他称“不做二臣”。袁世凯当总统，颁授勋令，“勛一位”仅一人就是徐世昌。1914年2月又派徐世昌的门生王揖唐到青岛第三次敦请，他终于重回北京当了国务卿（相当于总理）。
袁世凯死后，1918年徐世昌当上了民国大总统。这一年将青岛宅邸出卖，为当时青岛“四大家族”之首的刘子山买下。
徐世昌在青岛期间写了不少诗，“徜徉于山阻水筮之间，自适其意”、“优游而闲肆，简淡而清远”。