Za prvý zostrojený programovateľný počítač sa považuje počítač (predchodca Z1), ktorý zostrojil Konrad Zuse vo svojej spálni v roku 1936. Stroj sa stal takým veľkým ako mu dovolili múry jeho spálne. Po dokončení predviedol počítač vláde, ktorá uvoľnila prostriedky na stavbu ďalších troch vylepšených modelov: Z2, Z3 a Z4.
V roku 1936 Alan M. Turing publikoval článok, v ktorom vysvetľuje svoju myšlienku o univerzálnej elektronickej kalkulačke s názvom Turingov stroj. Stroj mal byť schopný vyriešiť ľubovoľnú výpočtovú a logickú operáciu. Napriek tomu, že stroj nebol nikdy zostrojený jeho myšlienka sa použila na zostrojenie neskorších počítačov.
V roku 1937 Howard Aiken navrhol elektromechanické zariadenie nazvané automaticko-sekvenčná kalkulačka (angl. Automatic Sequence Controlled Calculator). Prínosom jeho návrhu bol presun informácii elektrickou cestou miesto mechanickej, čím sa mal podstatne skrátiť čas a zvýšiť presnosť výpočtu. Svoj návrh neskôr predložil predsedovi firmy IBM, ktorá financovala zostrojenie počítača, ktorý bol neskôr nazvaný MARK 1.
V roku 1937 Claude Shannon demonštroval, že Boolova algebra sa dá riešiť použitím elektromagnetického relé.
V roku 1938 Konrad Zuse dokončil prvý experimentálny model počítača V1, ktorý bol neskôr premenovaný na Z1. Počítač pracoval s číslami v dvojkovej sústave s pohyblivou rádovou čiarkou (16 bitov mantisa a 7 bitov exponent a jeden znamienkový bit). Dáta mohli byť vložené pomocou diernych pások alebo numerickou klávesnicou. Výsledok bol zobrazovaný pomocou elektrických lámp.
V roku 1941 Konrad Zuse skombinoval svoju mechanickú pamäť s novou aritmetickou jednotkou na báze elektromagnetického relé. Na jej konštrukciu bolo použitých 200 kusov. Tento experimentálny projekt bol nazvaný Z2. Ešte v ten istý rok však zostrojil ďalší model svojho počítač Z3, ktorý bol prvým plne funkčným digitálnym počítačom. Tvorilo ho až 2 600 elektromagnetických relé. Jedna polovica týchto relé tvorila výpočtovú jednotku a druhá polovica slúžila ako pamäť. Počítač dokázal vykonať až 50 aritmetických operácií za minútu.
V roku 1942 Konrad Zuse zostrojil posledný model svojho počítača Z4, ktorý bol použitý na výpočet aerodynamických charakteristík smerového krídla lietadiel. Tento model bol iba malým vylepšením oproti Z3, pretože Zuse kvôli druhej svetovej vojne už nemal dostatok finančných prostriedkov.
V roku 1943 Howard Aiken a Grace Hopperová dokončili počítač MARK 1. Počítač mal dĺžku 10,6 metra a výšku 2,6 metra, vážil 5 ton, bol zhotovený z 800 000 súčiastok a obsahoval 497 míľ drôtu. Mark 1 pri svojich výpočtoch používa 23 pozícii, mal 72 aritmetických pamäťových registrov (operačnú pamäť) na sčítanie a ukladanie čísel a 60 ručných kľúčov (statická pamäť) na vkladanie konštánt. Vstup sa uskutočňoval nastavovaním ručných kľúčov alebo zo štandardných diernych štítkov, výstup pomocou elektrického písacieho stroja alebo dierovaním do štítkov. Počítač pracoval v desiatkovej sústave s pevnou rádovou čiarkou. Mark 1 dokázal sčítať dve čísla za 0,3 s, vynásobiť ich za 6 s a vypočítať hodnotu sínusu daného uhla do jednej minúty. Stroj pracoval plných 15 rokov na Harvardovej univerzite a mal mnohostranný význam. Bol teda prvým operačným počítačom.
V roku 1947 Howard Aiken zostrojil ďalší počítač Mark 2, ktorý bol už čisto reléový (13 000 relé). Počítač pracoval v dvojkovej sústave s číslami s pohyblivou desatinnou čiarkou. Mal operačnú pamäť na 100 čísel s desiatimi platnými číslicami. Sčítanie trvalo už iba 0,125 s a násobenie priemerne 0,25 s.
Nevýhodou reléových počítačov boli veľké rozmery, veľká hlučnosť. Nevýhodou bolo tiež to, že sa mechanické časti elektromagnetického relé opotrebovávali trením. Na chladenie bolo potrebných niekoľko ton ľadu denne. Príkladom nevýhod reléových počítačov je i prvý počítač vyrobený v Česko-Slovensku profesorom Svobodom z Výskumného ústavu matematických strojov. SAPO (SAmočinný POčítač), ktorý bol uvedený do prevádzky v roku 1957. Tento počítač 3 roky po jeho zhotovení, v roku 1960 zhorel kvôli iskre z reléového kontaktu, ktorá zapálila kaluž mazacieho oleja, s ktorým sa relé mastilo. Kvôli spomínaným nevýhodám sa vo väčšej miere začali konštruovať počítače na báze elektrónok.
Počítač SAPO obsahoval 7 000 relé a 400 elektrónok. Mal magnetickú bubnovú pamäť s kapacitou 1 024 32-bitových slov (to zodpovedá dnešným 4 096 bajtom) a pracoval v dvojkovej sústave s pohyblivou desatinnou čiarkou. Tento počítač mal dve zvláštnosti. Prvou bolo to, že každá inštrukcia mala päť adries (2 operandy, výsledok a adresy skokov pre kladný a záporný výsledok). Druhá zvláštnosť bola tá, že vlastne išlo o tri rovnaké počítače, ktoré pracovali naraz. Výsledok každej operácie sa medzi sebou porovnal a v prípade že bol zhodný aspoň na dvoch počítačoch tak sa považoval za správny. Ak sa ale všetky tri výsledky odlišovali, operácia sa opakovala.
