杨一清祖籍云南安宁，以父丧徙丹徒观音楼巷圆通庵北。父亲是化州同知杨景，致仕后，居住于巴陵。杨一清少年时代，被称为神童，14岁便参加乡试，并且被推荐翰林秀才。明宪宗命内阁择师教之。成化八年（1472年）壬辰科进士，授中书舍人[1]。
多年后，升任山西按察使司佥事，改陕西副使督学，在陕西任职八年，平时空闲时考察边疆战事。此后入朝，任太常寺少卿，进南京太常寺卿。弘治十五年（1502年），因刘大夏举荐，升任都察院左副都御史，担任陕西巡抚，负责督理陕西马政，期间平定边疆进犯、弹劾贪庸总兵武安侯郑英[2]，并裁减镇守中官费用，使得军纪严明。明武宗即位后，蒙古数万入寇固原，总兵官曹雄拒绝援助。杨一清则帅轻骑自平凉昼夜行，抵御入侵并发动奇袭，击退进犯。此后，杨一清以延绥、宁夏、甘肃三地有警不相援，请求率领大臣兼任。刘大夏于是请求杨一清总制三镇军务（陕甘总督），此后晋升为右都御史[3]。杨一清在任期间因修建边疆防御，武宗赞同并发帑金数十万使其完成防御工事。太监刘瑾因杨一清不依附自己，而弹劾杨一清，他被迫借病辞职。之后刘瑾诬陷其冒领浪费边疆费用，而被逮捕入诏狱。大学士李东阳、王鏊论救后方才救出。之后仍然致仕，先后罚米六百石[4]。