Базовая поддержка SVG есть во всех браузерах (кроме IE8 и старых андроид-браузеров для мобилок). Однако инлайн-svg, то есть вставка непосредственно в html код не работает в старых браузерах:
http://caniuse.com/#search=svg
Поэтому нужно вставлять через тег <object>