Představy o tom, že se látky skládají z malých, dále už nedělitelných částic, vznikly už ve starověku u řeckého filozofa Demokrita. Když Demokritos v Abdéře vysvětloval svým žákům, že všechno na světě se skládá z nejmenších zrníček hmoty, názorně jim tuto myšlenku předvedl při krájení sýra. Začal ho dělit na stále menší kousky až přišel ke kousku, který se rozdělit nedal. Tam také vznikl pro tyto částice název atomy (z řec. atomos = nedělitelný). Vlastnosti různých objektů našeho světa pak Demokritos zdůvodňoval různým tvarem, velikostí, pohybem a spojováním vnitřně nestrukturovaných atomů.
V 17. století se začaly tyto představy dále rozvíjet v myšlenkách a pracích Pierra Gassendiho, Roberta Boyla, Daniela Bernoulliho nebo Michaila Lomonosova. Boyle zavedl pojem chemického prvku jako látky, kterou není možné dále rozložit. Odlišil chemické sloučeniny od směsí a byl přesvědčen, že proces slučování prvků se děje na atomární úrovni. Boyla můžeme považovat za zakladatele moderní chemie. První ověřená tvrzení o atomech vznikla v chemii, to chemici začali rozlišovat pojmy atom a molekula. Důležitým poznatkem byly stálé hmotnostní poměry látek vstupující do chemických reakcí. Tyto údaje poskytly informace o relativních hmotnostech atomů. Bylo známo, že atom kyslíku je zhruba 16krát a atom uhlíku 12krát těžší než atom vodíku.
Na konci 18. století John Dalton stále o struktře atomů neuvažoval. Představoval si, že základními jednotkami hmoty jsou neměnné, nezničitelné a nestvořitelné atomy, které jsou v chemických reakcích jako celky spojovány a rozlušovány.
Dalton a Joseph Louis Proust formulovali zákon stálých poměrů slučovacích: Váhová množství dvou prvků, jež se spolu bezezbytku sloučí na danou sloučeninu, jsou k sobě vždy v témže poměru, bez ohledu na to, jak velká množství to jsou. Podobnou problematikou se ve stejnou dobu zabýval i Joseph Guy–Lussac, Amedeo Avogadro. V roce 1860 na mezinárodním kongresu chemiků v Karlsruhe Stanislao Canizzaro rozvinul Avogadrovy do té doby neznámé myšlenky o složení látek z molekul a atomů. Na kongresu byl přítomný i Dmitrij Ivanovič Mendělejev. V té době už chemici izolovali okolo 60 prvků a určili se značnou přesností jejich atomové hmotnosti. Mendělejev se stal zastáncem Avogadrových a Canizzarových myšlenek a svoji pozornost soustředil na závislost mezi vlastnostmi chemických prvků a jejich atomovými hmotnostmi. V druhé polovině 19. století se touto problematikou zabývalo více chemiků. Mendělejev byl však první, který našel solidní řešení. Není bez zajímavosti, že mu v tom pomohla pedagogická praxe. V roce 1869 byl řádným profesorem anorganické chemie na univerzitě v Peterburgu. Uvažoval o tom, jak by svým posluchačům co nejlépe vysvětlil souvislost mezi vlastnostmi chemických prvků a jejich atomovými hmotnostmi. V květnu 1869 na toto téma uveřejnil článek Vztah vlastností prvků k atomovým vahám, kde psal už o nutnosti objevu nových neznámých prvků, což se během další let potvrdilo. Sám Mendělejev v roce 1891 napsal: „Dosud nám chybí prostředky, abychom pochopili povahu a příčiny tohoto zákona. Podle všeho příčina tkví ve vnitřní mechanice atomů a molekul.“
První náznak, že se uvnitř atomů něco děje a že by tedy měly být strukturovanými objekty přineslo ztotožnění optických spekter zahřátých zředěných plynů se spektry atomovými a objev přirozené radioaktivity.