A mi madre su compañero le deja su herencia

La parte de la herencia correspondiente a quien la repudia se reparte entre los demás herederos, es decir, si tu madre en este caso es la única heredera si pasaría para sus hijos toda la herencia.

En el caso de que en esa herencia tu madre no fuera la única heredera, su parte no pasaría a sus hijos, si no que se repartiría entre los demás herederos existentes.
En caso de renunciar de todos los herederos situados en la primera línea de la sucesión, concurrirían las sucesivas líneas de herederos, según lo establecido por ley para la sucesión intestada.

Esta aplicación sigue la misma linea, en el caso propuesto si tu dos hermanos renuncian, se repartirá su parte en el resto de herederos que no renunciaran (es decir te correspondería a ti y no a tus sobrinos)