yanVolskiy, сначала импортируйте нужные компоненты...
import { ReactComponent as ArrowUp } from "../../../media/icons/arrow-up.svg";
import { ReactComponent as ArrowDown } from "../../../media/icons/arrow-down.svg";
...а затем используйте их в зависимости от значения
open...
<Button className={classes.reportBtn} onClick={ handleClick }>
{ React.createElement(open ? ArrowUp : ArrowDown, { className: classes.groupIcon }) }
{ open ? 'Hide report' : 'Show report' }
</Button>