슬로언은 코네티컷(Conneticut)주 뉴 헤이번(New Haven)에서 태어났고 어릴 때는 공부벌레였다. 헨리 포드와는 반대로 손에 때를 묻히기 싫어하는 깔끔한 성품이었다. MIT를 3년만에 졸업하고, 1896년 몰락하던 하이야트 베어링 회사(Hyatt Roller Bearing Company)에 들어갔다.  그는 미래를 내다보는 통찰력과 집안에서 거둔 5천 달러를 밑천으로 하이야트를 번창하는 기업으로 살려냈다. 17년 사이에 종업원은 17명에서 3천800명으로 늘어났다. 미국 제2의 메이커였던 GM이 하이야트 롤러 베어링 회사를 합병했을 때 알프레드 P. 슬로언은 하이야트의 사장이었다. 그때 나이 41세. 슬로언은 GM에서 남김없이 실력을 발휘해 두각을 나타냈다. 3년 뒤 하이야트를 삼켰던 GM 회장 윌리엄 듀란트가 쫓겨나자(1923년), 슬로언은 사장으로 올라갔다. 그 뒤 1937년까지 사장직을, 1956년까지 회장직에 있으면서 듀란트의 휘하에서 흐트러진 GM을 바로잡았다. GM 공장은 40개 도시에 75개로 늘어났다.
아울러 슬로언은 인재를 찾아내는 빼어난 눈을 갖고 있었다. 찰스 F. 케터링을 GM의 개발연구소에 배치해 각 디비전의 제품을 차별화했다. 고객의 계층, 나이, 기호를 크게 나누어 그에 알맞은 모델을 만들고, 값도 달리했다. 1928년에는 할리 얼을 스타일부문의 초대 책임자로 임명했다. 1929년에 GM은 판매대수에서 포드를 앞질렀다. 나아가 30년대의 대공황을 비교적 수월하게 넘겼다. 그러나 엉뚱하게도 슬로언의 경영전략이 오랫동안 성공을 거둔 것이 도리어 족쇄가 되었다. 지난날의 성공에 도취해 세계의 변화에 맞서기 어렵게 된 것이다.
은퇴후에는 슬로언-케터링 재단을 설립하여 기술교육, 암연구등 각종 학술활동을 하기도 하였다. 그는 1966년 2월17일 사망하였다.