Родился в семье прибалтийских немцев в имении Пип (нем. Piep; по-эстонски Пийбе (эст. Piibe)) на территории прихода Мариен-Магдаленен (нем. St. Marien-Magdalenen; в эстонском варианте — приход Коэру (эст. Koeru kihelkond)) Вейсенштейнского уезда Эстляндской губернии (ныне на территории волости Ракке Ляэне-Вирумааского уезда Эстонии).
Отец Бэра, Магнус фон Бэр, принадлежал к эстляндскому дворянству и был женат на своей двоюродной сестре Юлии фон Бэр. С Карлом занимались домашние учителя. Он обучался математике, географии, латинскому и французскому языкам и прочим предметам. Одиннадцатилетний Карл уже ознакомился с алгеброй, геометрией и тригонометрией.
В августе 1807 года мальчика отвезли в дворянскую школу при городском соборе (Домской церкви) в Ревеле (ныне Таллинн). В первой половине 1810 года Карл окончил курс школы. Он поступает в Дерптский университет. В Дерпте (ныне Тарту) Бэр решил избрать медицинскую карьеру.
В 1814 году Бэр выдержал экзамен на степень доктора медицины. Им была представлена и защищена диссертация «Об эндемических болезнях в Эстляндии» (Dissertatio inaugurales medica de morbis inter esthonos endemicis. Auctor Carolus Ernestus Baer. Dorpat, litteris Schummanni. 1814. 88 c.). Бэр отправился за границу, избрав для продолжения своего медицинского образования Вену.
Профессор Бурдах предложил Бэру поступить к нему прозектором на кафедру физиологии в Кёнигсбергском университете. В качестве прозектора Бэр открыл курс сравнительной анатомии беспозвоночных животных, носивший прикладной характер, так как он состоял преимущественно из показа и объяснения анатомических препаратов и рисунков.
Две его наиболее известные работы — это ансамбль Смольного монастыря (1748 — 1754) и Зимний дворец с его знаменитой Иорданской лестницей (1754 — 1762))