Sauron se sentiu atraído por Melkor, ou Morgoth, tornando-se seu tentente mais fiel e sendo o segundo depois dele, mesmo quando o Vala foi derrotado e aprisionado nos confins do mundo.
Na Primeira Era, ele aparece como antagonista de Beren e Lúthien na Balada de Leithian. Após a derrota de Morgoth, os Valar intimaram Sauron a comparecer em julgamento, onde seria tratada a sua pena. Depois que ela fosse cumprida, ele seria liberto e voltaria a viver em paz. Mas, com medo, Sauron fugiu da presença deles. Em pouco tempo Sauron, talvez pela ausência de seu senhor, tornou-se razoavelmente bom. Mas na solidão e numa espécie de exílio, começou a maquinar o mal.
Então conseguiu a amizade de alguns na Terra-Média (usando a identidade de Annatar, que significa o Senhor dos Presentes), adotou uma bela aparência, e simulou amizade com os Elfos, sendo uma destas amizades o grande artífice élfico da época, Celebrimbor (Filho de Curufin que por sua vez era filho de Fëanor), de Azevim (em élfico Eregion). (Foi este quem desenhou os portões de Moria). A este, Sauron deu a ideia de fazer-se anéis muito belos, mas que tinham como característica principal um determinado poder, e com eles consertar os danos causados pela disputas dos Valar e tornar a Terra-média tão bonita quanto Valinor. O elfo aceitou. Celebrimbor forjou, sem a ajuda de Sauron os Três Anéis: Narya, o Anel de Fogo, Nenya, o Anel da Água, e Vilya, o Anel do Ar. Mas, secretamente, Sauron forjou em Orodruin (Montanha da Perdição), o Um Anel, mais forte e mais poderoso que qualquer um, e com um laço, um encantamento que dava-lhe o poder de controlar todos os outros, assim como aqueles que os usasse. Com ele, Sauron planejava controlar os demais anéis e assim ostentar todos seus poderes. Então, invadiu Eregion e tomou os Anéis, distribuindo Nove aos Homens e Sete aos anões. Mas Celebrimbor descobriu os seus planos, e por isso conseguiu esconder os Três. Assim, uma nova guerra começava, onde Sauron buscaria os Anéis até onde conseguisse.
Os Nove, Sauron tomou para sí facilmente, e os homens que os detinham tornaram-se seus mais poderosos servos e escravos de sua vontade, os Espectros do Anel (na língua negra, Nazgûl (Nazg = anel)). Em pouco tempo, Sauron estava quase dominando a Terra-Média, chegando a aparecer perto dos Portos Cinzentos. Mas Gil-galad, o senhor daquele lugar, chamou os Númenorianos, os habitantes da ilha Númenor. Estes eram espantosamente fortes e muito hábeis, detendo longas espadas e arcos de aço, descendentes daqueles das Três Casas Amigas dos Elfos. Atravessaram a Terra-média para confrontar Sauron com um exército tão grande que muitos julgaram ser os Exércitos dos Valar. Mas Sauron, contrariando as expectativas, simulou medo e rendeu-se sem opor resistência, e foi levado cativo pelo rei Ar-Pharazôn. Foi então levado prisioneiro para a ilha de Númenor, e a Terra-Média conheceu um pouco de paz.
Nessa época os númenoreanos estavam insatisfeitos com sua nova terra e suas limitadas viagens pelos mares liberados pelos Valar e invejavam a imortalidade dos elfos em Aman, e como Sauron era astuto, e em pouco tempo tornou-se conselheiro do rei, conseguiu com isso que Númenor declarasse guerra contra os Valar, pois assim "teriam" suas imortalidades. A minoria tentou evitar (os Fiéis, depois chamados de Dúnedain), mas a maioria já estava envenenada por Sauron (e por sua própria vontade). Então o rei enviou uma poderosa frota para invadir Valinor e conquistar Aman (As Terras Imortais), pois lá ninguém morria. Os Valar, que haviam proibido os númenoreanos de ir ao lado oeste (Aman), só os permitindo ir a leste (Terra-Média), como pagamento por aquele ato, invocaram Ilúvatar, que afundou não só a frota, mas toda a ilha de Númenor, assim como modificou o formato da Terra-média. Uma fenda enorme foi aberta sob o mar, entre Númenor e Aman. Houve grande tormenta em Arda. Sauron, enquanto ria do povo númenoriano no topo de Meneltarma, afogou-se na queda de Númenor, e seu corpo ficou desfigurado. Assim, ele voltou em forma sinistra para Mordor, e lá criou uma armadura smilar a de melkor (para prender seu espírito ao corpo) e lá ficou escondido. Mas eis que nem todos os númenorianos morreram.
Elendil, o Alto, e parte do povo, juntamente com seus filhos Isildur e Anárion, que eram chamados de "amigos-dos-elfos", ou Fiéis, escaparam e foram para a Terra-média. Lá fundaram o reino de Gondor e Arnor, e estabeleceram um curto reinado de paz, onde Sauron começou a atacar, pois descobriu que um dos novos reinos dos numenoreanos Fiéis (Gondor) ficava em suas fronteiras, achando aquilo uma ousadia grande. Construiu Barad-dûr (fazendo uma cópia a grande torre do conselho de Elendil- Orthanc) e fez exércitos enormes de orcs. Houve várias guerras onde Sauron dizimou muitos elfos e homens.
Quando os elfos já não suportavam mais, uniram-se aos homens e a alguns anões formaram a Última Aliança, na qual todos os exércitos disponíveis marchariam contra Mordor e destruiriam por vez Sauron. Assim o fizeram, e estavam vencendo. Mas depois de sete anos sitiando a Torre de Sauron, o exército estava cansado e morrendo de fome naquela terra infértil. ]
Então o próprio Sauron se apresentou e lutou contra Gil-galad e Elendil. Jogou Elendil, que caiu com tanto impacto sobre sua espada Narsil, que a quebrou; Gil-Galad então perfurou Sauron com sua Aeglos, mas Sauron caiu por cima de Gil-Galad e o matou. Assim Isildur pegou o toco da Narsil e arrancou o Anel Governante do dedo de Sauron. Ele enfraqueceu-se e fugiu para Dol Guldur, ao sul da Floresta das Trevas por três milênios, não mais atormenando. Como havia prometido há muito tempo, Isildur destrói então pedra por pedra em Barad-dûr. Gondor então construiu torres de vigia em Mordor no caso de um remoto retorno de Sauron.
Enquanto Sauron desaparecera, o Anel passou a Isildur, que se recusou a destruí-lo, alegando herança de seu reino. Deixou o reino de Gondor para os herdeiros de seu irmão Anárion, pois ele ficaria com Arnor ao norte. Mas quando retornava, foi emboscado por orcs. Pôs o Anel, ficando invisível, e quando tentava atravessar o Anduin, o Anel o traiu, saindo de seu dedo e fazendo-o ser visto. Foi então morto.
Muito tempo depois, um pescador ribeirinho chamado Déagol pescava com seu primo Sméagol, então caiu na água e encontrou o Anel. Sméagol cobiçou o Anel e matou Déagol enforcado. Então Bilbo, numa aventura com os anões, se perdeu, indo parar na caverna de Sméagol (Gollum). Assim encontra o Anel e o guarda. Após vários infortúnios, Bilbo conseguiu escapar da perseguição de Gollum, até que o Anel foi parar no Condado, chegando às mãos de Frodo. Alguns anos antes, a vigilância das torres plantadas em Mordor perdeu sua eficácia. Então Sauron retorna a Mordor, domina o Portão Negro e as torres, reconstrói Barad-dûr, recruta os Nazgûl, e a Montanha da Perdição torna e explodir em chamas. Sauron recomeça a atacar a Terra-Média, agora com o objetivo de simplesmente dominá-la.
Na Guerra do Anel, onde descreve-se este final da Terceira Era, Frodo, no Conselho de Elrond, em Valfenda (Rivendell), é designado a levar O Um até a Montanha da Perdição, em Mordor, para lá jogá-lo e acabar definitivamente com o poder de Sauron. Pois somente lá, onde o Anel foi feito, poderia ser destruído. Mas Gollum, quando luta com Frodo no túnel que leva ao centro de Orodruim (a Montanha da Perdição), sem querer cai na lava e o anel se desfaz. Assim, Sauron perdeu todo o seu poder e fugiu definitivamente para nunca mais voltar, dando início à Quarta Era, a Era dos homens.
Como podemos ver, o fim de Sauron foi diferente daquele que Melkor, seu mestre, recebeu, pois este foi lançado do planeta e nunca mais poderá ser livre (até o juízo final, quando diz-se que ele voltará e confrontará os outros Valar e destruirá a Arda). Já Sauron fora ferido a tal ponto ao final da Terceira Era, que não tinha poder para voltar a não ser que o próprio Melkor o cure e ele possa voltar a lutar.