1840. augusztus 1-jén született Blatnán, Csehországban. Apja szegény sorsú muzsikus volt. Simandl a prágai konzervatóriumban végzett 1861-ben Hrabénál. A prágai nagybőgőtanszak abban az időben hat évfolyamból állt, amely magába foglalta az alsó, közép- és felsőfokú oktatást. Ennek sikeres elvégzése után a hallgatók oklevelet kaptak.Simandl a konzervatórium elvégzése után nyolc évig katonai szolgálatra kötelezték, de ez idő alatt is elsősorban zenei tevékenységet folytatott, mint kórusvezető, komponista és nagybőgős. 1869-ben, a bécsi Operaházban a hetedik nagybőgős állását szerezte meg, de még ugyanezen évben, a Bécsi Konzervatóriumban elnyerte a tanári állást.Ettől kezdve hatalmas és sokoldalú zenei tevékenységbe kezdett. Az Operaházban hamarosan szólamvezetővé nevezték ki, és nemsokára a Hofkapelle zenekarának is tagja lett. Évekig szerepelt a Bécsi Filharmonikusok zenekarában is. A Concordia Verein énekkarának pedig az 1869 és 1910 közötti években karvezetője volt. Wagner működése idején, 1876 és 1882 között első nagybőgősként volt állandó vendége a Bayreuthi Ünnepi Játékoknak. Huszonöt éven keresztül a bécsi Slawischer Sangerbundot is vezette. Cseh származása okán széles körű tevékenységet fejtett ki a Bécsben élő csehek kulturális életében. Ő írta például a cseh nemzeti himnuszt is 1886-ban. Mindezeken túl, mint nagybőgős szólista is jelentős volt, és több hang-versenykörutat tett.Életművének hatalmas területéből pedagógiai és zeneszerzői tevékenysége a legjelentősebb. Negyven évig tartó tanári működése alatt nagy számban képezte ki a jobbnál jobb muzsikusokat, akik Budapesttől Bostonig mindenütt megtalálhatók voltak, ahol csak jó nagybőgősökre volt szükség. (Jellemző, hogy 1913-ban a bécsi Operaház mind a tíz nagybőgőse egykori Simandl-tanítvány volt.) Simandl jelentősége a nagybőgőjáték történetében csak Houséval mérhető össze. Eredményekben gazdag, szorgalmas élete kétévi betegeskedés után 1912. december 13-án ért véget.