* 大业三年（607年），杨广调杨义臣任宗正卿。不久，转任太仆卿。* 大业五年（609年），杨义臣随杨广征讨吐谷浑。杨广令义臣驻军于琵琶峡，军营相连达八十里，南接元寿，北连段文振，把吐谷浑国主包围在覆袁州。* 大业八年（612年），又随杨广征讨辽东，杨义臣率军直指肃慎道。到了鸭绿江，与乙支文德交战，义臣每次都当先锋，一天打了七次胜仗。后与各路军马都打了败仗，竟坐罪免职。不久复职。* 大业九年（613年），杨广以杨义臣为副将，与大将军宇文述去进攻平壤。到了鸭绿江，碰上杨玄感作乱，班师回朝，代理赵郡太守。妖贼向海公聚众作乱，寇掠于扶风、安定两地之间，杨义臣奉圣旨扫平了他们。继而在大业十年（614年），随杨广再征讨辽东，杨义臣迁为左光禄大夫。* 当时渤海人高士达、清河人张金称，都相聚为盗，已有几万之众，攻陷郡县。杨广派将军段达进讨，不能取胜。有诏让杨义臣率领从辽东回来的兵马几万去进剿。杨义臣大破高士达，斩了张金称。又收拾降兵，进入豆子赹，讨伐格谦，活捉了他。* 此后，杨义臣游弋河北一带，随把战况和河北群贼蜂起的情况上书朝廷。朝中内史侍郎虞世基负责把各地上奏的表文呈送杨广，他知道杨广不愿听到各地盗乱情况的奏报，每当有这样的奏报，他总是掩饰真情，不实事求是地报告，只是对杨广说：“盗贼成不了气候，地方的官吏正在全力追剿，很快就会彻底剿除的。”并劝说皇帝不必忧心介意。当杨广接到杨义臣在河北收降数十万叛军的捷报后，不禁叹息说：“我原来没有听到盗贼发展到如此地步？贼势发展得这样快，杨义臣降贼这么多？”虞世基却仍然对杨广说：“盗贼都是小股势力，虽多但终不能成气候，不必担忧；杨义臣几尽剿除盗贼，长期在京城之外拥有重兵，很不合适，不得不防。”杨广竟以为然，随即下令追回杨义臣，并遣散他的士兵。杨义臣为此报憾忧愤，不得不回朝听命。