В 1890 году в США была перепись населения, при которой впервые был использован электронный табулятор, разработанный Германом Холлеритом. Благодаря данному устройству, результаты переписи были обработаны всего за год, в то время, как написанные о руки, они обрабатывались бы 8 лет. Окрыленный успехом, Герман решил создать компанию по производству таких табуляторов и назвал ее Tabulating Machine Company.
В годы Великой депрессии, за счет многомиллионных доходов удалось выжить. Несмотря на кризис, директор компании – Томас Уотсон не перестаёт выплачивать зарплату рабочим. Компания вышла из кризиса благодаря крупным заказам правительства США в 1935-1936 годах. С 1941 по 1945 годы корпорация занималась производством стрелкового оружия для США.
В 1950 – е годы IBM разработала большую компьютерную систему проиворакетного нападения SAGE, в возможности которой входило в реальном времени анализировать данные, приходящие с радаров и направляла на цель перехватчиков. Система стояла на вооружении с 50-х по 80-е годы. В последних версиях программы, она могла автоматически направлять самолеты на перехват, передавая данные в их системы автопилота.
С 1943 года у компании начинается эра компьютерных технологий, потому что в этом году начинается производство первого компьютера компании IBM – Марк 1, массой 4,5 тонны. В 1952 году создается IBM 701 – один из первых больших компьютеров на лампах.
В 1956 году, сын директора компании - Томас Уотсон младший заменил своего отца в должности генерального директора компании IBM. При его управлении доходы компании поднялись до 8 млрд. $, а число работников увеличилось до 270 000 человек.
В 1957 году программисты IBM создали первый в мире язык программирования высокого класса – FORTRAN, который имел транслятор. Этот язык программирования стал одной из причин Проблемы 2000 года. Через 2 года, в 1959, корпорации был создан компьютер на транзисторах, которые достигли очень высокой отметки прочности и скорости работы, что ВВС США посчитали возможным реализовать его в системе раннего оповещения ПВО.
В 1964 году было создано поколение компьютеров IBM System/360, которые были первыми универсальными компьютерами, и первыми компьютерами, использовавшие байтовую адресацию памяти.
В 1971 году IBM представила гибкий диск, ставший стандартным хранения данных.
В 1972 году обновился дизайн логотипа компании IBM.
1981 год вошел в историю, как год, когда был представлен компьютер IBM PC, 64 килобайта оперативной памяти которого хватало для того, что «носить» операционную систему DOS, представленную в то врем еще маленькой корпорацией Microsoft.
Очень странно, что корпорация не уделяла практически никакого внимания этому персональному компьютеру. Его разрабатывало лишь 4 человека. Выпустив на рынок IBM PC, компания допустила несколько фатальных ошибок: она не запатентовала DOS (с языком BASIC), компания не запатентовала главное изобретение – BIOS. Благодаря этому, более назойливые разработчики создали клонов IDM PC, которые взорвали рынок электроники. Естественно, самую крупную часть от этой махинации IBM потеряла.
В 1986 году компания уступила первое место на рынке компьютеров, который сама же и создала.
В 1990 году компания предприняла попытку восстановиться на рынке выпуская компьютеры из серии PS/2 на операционной системе OS/2 На этих машинах использовались самые последние технологии, такие как гнезда PS/2 для мыши и клавиатуры, однако из-за малой продаваемостью, компании пришлось свернуть проект. Однако несмотря на это, разъемы PS/2 применяются до сих пор на современных компьютерах.
Позже, IBM предприняла еще одну попытку подчинения рынка. На этот раз компания выпустила операционную систему PS/2 Varp 3.0, в надежде, что она «переплюнет» Microsoft – Windows 95. Но несмотря на красноречивую рекламу и довольно неплохие характеристики, проект провалился.
С 1990 года в компании замечалось желание сместиться на поставку услуг, в особенности заниматься консалтингом. Очень ярко это стало заметно в 2002 году, когда IBM выкупила крупную консалтинговую компаниюза 3,5 млрд. $. На данный момент этот бизнес является самым прибыльным для компании и приносит ей половину дохода.