Originaire d'une petite ville de Bavière, Markbreit, il fait ses études médicales à Berlin, Wurtzburg et Francfort-sur-le-Main. Il passe sa thèse en 1887 et est nommé médecin dans l'hôpital psychiatrique de Francfort. Il se marie en 1895 et a trois enfants, mais sa femme meurt en 1901. Un tournant évident qui va l'inciter à se consacrer corps et âmes à ses recherches. .

L'année suivante, il passe cinq mois auprès de femmes malades mentales avant d'ouvrir son cabinet dans l'hôpital psychiatrique de la ville de Francfort-sur-le-Main : « Städtische Anstalt für Irre und Epileptische » (Asile pour fous et épileptiques). Les recherches du docteur Alzheimer sur les maladies mentales ont recours à la méthode de coloration des corps de Nissl (une partie des neurones). Alzheimer participe à la création et à l'édition du journal « Zeitschrift für die gesamte Neurologie und Psychiatrie ». Il n'a jamais écrit de livre de son propre chef.

Il rejoint Munich en 1903 et fonde l'école de neuropathologie de Munich. Il est aussi nommé professeur de psychiatrie à Breslau en 1912.
Cette même année, Alzheimer suit Mme Auguste D., une patiente de l'hôpital de Francfort. La femme de 51 ans présente d'étranges symptômes comportementaux, dont une démence. Elle va devenir une véritable obsession pour le Dr. Alzheimer qui passera des années à étudier son cas. En avril 1906, Mme D. meurt : Alzheimer récupère ses dossiers et son cerveau est envoyé au laboratoire de Kraepelin à Munich où il fait ses recherches. Il se sert des techniques de coloration pour identifier les plaques d'amylose et les fibrilles endommagées caractéristiques de la maladie d'Alzheimer. Le 3 novembre 1906, il fait pour la première fois un exposé sur la maladie du cerveau et les symptômes cliniques de la dégénérescence à l'occasion de la 37ème Conférence des psychiatres allemands. D'autres médecins conforteront ses hypothèses par la suite.
En 1911, Alzheimer fait part d'un deuxième cas de dégénérescence mentale. Etant donné que l'allemand est la langue de base utilisée en science et particulièrement en psychologie à l'époque, le célèbre psychiatre Emil Kraepelin, responsable de la chaire de la psychiatrie de Munich, décide d'employer le terme « maladie d'Alzheimer » pour désigner la maladie découverte par son collègue. En 1911, les physiciens européens utilisent le terme maladie d'Alzheimer pour diagnostiquer des patients américains. Vers le 15 décembre 1915, Alzheimer tombe malade alors qu'il se rend à l'Université de Breslau en train, où il a été nommé professeur en psychiatrie en 1912. On pense qu'il a été frappé par une infection au streptocoque et qu'il est décédé suite à une insuffisance cardiaque. Alois Alzheimer meurt à l'âge de 51 ans à Breslau.

C'est Emil Kraepelin qui proposera plus tard d'appeler maladie d'Alzheimer, cette pathologie particulière découverte par son confrère et ami.