大臣って行政の長なの？

素朴な疑問なんだけど、大臣って行政の長なの？
妊婦が病院に受け入れられなくて死んだけど、あれって厚生大臣に責任あるの？
予算配分などの責任を負うから、司法の厚生省担当として責任があるってことなのかな。現実的に問題があるから法律を変えないといかん、ということなのかな。
行政の長は事務次官なのかな。まったくわからん。