簡單的說吧，在美國，總統不是各州州長的上司，州長不是市長的上司，市長不是鎮長的上司，鎮長也不是各家各戶的上司——上下級，只存在于“本府”之內，州長領導的只是州政府內各級官員，超出州政府就不歸他管了，所以紐約州州長只能管紐約州的事務，制定紐約州的各項政策，但屬于紐約市內的行政也罷、法律也罷，州長都無權插手。同樣，紐約市長也就管管純屬紐約市的事務，他跑到紐約郊外的小鎮去，也得尊重那個鎮長，因爲人家根本也不歸他管。
同時，每一級行政區域，除了行政長官外，還都有議會——國家有國家議會，即參議院和衆議院，州有州的議會，有一級議會的，大多數也是參衆兩院制；市有市議會，縣有縣議會，鎮也有鎮議會。不過據我所知，市縣鎮三級議會一般都是只有議會，即一級，不分參衆兩院了——對行政長官最直接、最正面的權力制約者是各級議會，而任何一級的議會議員也都是本地區選民選出來的。
對行政長官，選舉不選舉的權力在選民，但要撤職，只能靠彈劾，彈劾的權力在議會。
說明一下，上述關于美國各級政府所轄警察的權屬關系問題的分析，懶得查閱資料了，我的依據都來自好萊塢影視劇，有錯請指正。
美國總統、州長、市長沒有什麽上下級關系。都是本選區選民選出來的，對選民負責。州長不是總統任命的，州長不需要聽命總統，即使州長出處反對總統，總統也不能對州長怎麽樣。所以，你做你的總統，我做我的州長，誰也不用看誰面子，聽誰的。
而美國聯邦政府是由總統領導的，所以由總統任命的，聽命于總統。總統覺得誰幹得不行，幹得不對，那就讓誰滾蛋。所以，他們是上下級關系。同理，市長與市政府各部門也是上下級關系，可以任命警察局長、財政局長、衛生局長等。總統也沒有權力去提拔和任命一個州官員或者市官員。但是總統可以說服某個州政府官員從州政府辭職，然後到任命他爲聯邦政府官員，甚至提名爲部長和國務卿。