Jego ojciec posiadał fabrykę sukna w Niemczech, a Karol uczył się zawodu w Anglii, a następnie praktykował w Belgii, Francji, Szkocji, Holandii i Austrii.
W 1838 r. został dyrektorem przędzalni w fabryce swojego wuja w Verviers, a rok później został zatrudniony w Liège. W 1848 r. przyjechał do Królestwa Polskiego i został dyrektorem przędzalni u swego wuja Fryderyka Schloessera w Ozorkowie.
W 1853 roku przybył do Łodzi i rok później wziął ślub z Anną Werner, córką właściciela fabryk sukna w Zgierzu i Ozorkowie oraz cukrowni w Leśmierzu. Dzięki jej posagowi mógł otworzyć fabrykę.
Jego pierwsza przędzalnia, nazywana Centralą powstała przy Wodnym Rynku. W następnych latach założył kompleks na Księżym Młynie. Powstała tu wielka fabryka, osiedle dla robotników, szpital, siedziba straży pożarnej, szkoła i pałac. Dzięki Scheiblerowi w latach 1850–1860 Łódź stała się głównym centrum produkcji przędzy bawełnianej w skali europejskiej. Był twórcą wielkiego imperium przemysłowego, na które składał się zespół tzw. Centrali przy Wodnym Rynku (obecnie plac Zwycięstwa), kompleks Księżego Młyna oraz zabudowa wzdłuż obecnej ul. Tymienieckiego aż do ul. Piotrkowskiej o łącznej pow. około 500 ha (to była 1/7 obszaru Łodzi). Karol Scheibler z małżeństwa z Anną miał siedmioro dzieci: Matyldę Zofię, Adelę Marię, Emmę Paulinę, Karola Wilhelma, Leopolda, Emila Eugeniusza oraz Feliksa Emila Karola.
Zmarł w Łodzi 13 kwietnia 1881 r. i pochowany został w części ewangelickiej Starego Cmentarza w neogotyckiej kaplicy Scheiblerów, ufundowanej przez żonę.