“胥”指的是一種基層的辦事人員，即政府將平民按戶口加以控制，並從中選拔出“有才智者”加以管理。“吏”本是指替天子管理臣民、處理政務的人，即“官”。一般認為，漢代以後“吏”逐漸專指小吏和差役，即沒有官位的官府工作人員。有人這樣形容它與“官”的區別：“官如大魚吏小魚，完糧之民且沮洳，官如虎，吏如貓，具體而微舐人膏”。由於兩者都是指代官府的各類辦事人員和差役，後世遂有人將胥、吏並稱。