Das Problem ist, dass `\onslide` auch auf den anderen Folien, den Inhalt unsichtbar setzt. Leider ist die schließende Klammer bei `gmatrix` Teil dieses unsichtbaren Inhalts, wenn `\rowops` oder `\colops` verwendet werden, weil die Klammer dann nicht erst von `\end{gmatrix}`, sondern bereits von diesen Anweisungen ausgegeben werden muss.
Die Lösung ist in diesem Fall recht einfach: Man verwendet nicht `\onslide`, sondern `\only` für die Spalten- und Zeilenoperationen. Diese werden dann tatsächlich nur auf den angegebenen *slides* ausgegeben und auf den anderen auch nicht als unsichtbares Material gesetzt. Da damit auf den entsprechenden Seiten gar keine `\rowops` vorhanden sind, wird die Klammer wieder von `\end{gmatrix}` ausgegeben und ist damit sichtbar.
    \documentclass{beamer}
    \usepackage{amsmath}
    \usepackage{gauss}
    
    \begin{document}
    
    \begin{frame}{Zeilenoperation auf einer Matrix}
    
    \begin{align*}
    & \onslide<2->{%
      	\begin{gmatrix}[p]%
      	1 & 5 & 3 & 2 \\ -1 & 6 & 8 & -4
      	\only<3->{\rowops\add{0}{1}}%<-- Änderung
        \end{gmatrix}%
      }%
    \\[1ex]
    & \onslide<4->{%
    	\begin{gmatrix}[p]
    	1 & 5 & 3 & 2 \\ 0 & 11 & 11 & -2
    	\only<5->{\rowops \mult{1}{:11}}%<-- Änderung
    	\end{gmatrix}%
      }
    \end{align*}
    \end{frame}
    
    \end{document}
Als Beispiel Seite 4, da sie die meiste Aussagekraft für das Beispiel hat:
![Beispielausgabe Seite 4][1]
Wenn der Hintergrund weiß ist, kann man sich mit etwas bedingter Farbe behelfen:
    \documentclass{beamer}
    \usepackage{amsmath}
    \usepackage{gauss}
    
    \begin{document}
    
    \begin{frame}{Zeilenoperation auf einer Matrix}
    
    \begin{align*}
    & \onslide<2->{%
        \begin{gmatrix}[p]%
        1 & 5 & 3 & 2 \\ -1 & 6 & 8 & -4
        \rowops\only<-2>{\color{white}}\add{0}{1}%<-- Änderung
        \end{gmatrix}%
      }%
    \\[1ex]
    & \onslide<4->{%
        \begin{gmatrix}[p]
        1 & 5 & 3 & 2 \\ 0 & 11 & 11 & -2
        \rowops\only<-4>{\color{white}}\mult{1}{:11}%<-- Änderung
        \only<5>{}<-- \only<5>{}%<-- Damit auch noch eine 5. Seite produziert wird.
        \end{gmatrix}%
      }
    \end{align*}
    \end{frame}
    
    \end{document}
Für Seiten mit nicht weißem Hintergrund scheint auch folgendes zu funktionieren:
    \documentclass{beamer}
    \usepackage{amsmath}
    \usepackage{gauss}
    
    \begin{document}
    
    \begin{frame}{Zeilenoperation auf einer Matrix}
    
    \begin{align*}
    & \onslide<2->{%
        \begin{gmatrix}[p]%
        1 & 5 & 3 & 2 \\ -1 & 6 & 8 & -4
        \rowops\only<-2>\phantom{\add{0}{1}}%<-- Änderung
        \end{gmatrix}%
      }%
    \\[1ex]
    & \onslide<4->{%
        \begin{gmatrix}[p]
        1 & 5 & 3 & 2 \\ 0 & 11 & 11 & -2
        \rowops\only<-4>\phantom{\mult{1}{:11}}%<-- Änderung
        \only<5>{}%<-- Damit auch noch eine 5. Seite produziert wird.
        \end{gmatrix}%
      }
    \end{align*}
    \end{frame}
    
    \end{document}
Auch dabei treten weder horizontale noch vertikale Sprünge auf. Ob das allerdings für alle Operationen funktioniert, kann ich nicht garantieren. Der Trick hierbei ist, dass `\only<…>` sich nur auf die Anweisung `\phantom` und nicht auf deren Argument, also die Zeilenoperationen bezieht. Also werden die Zeilenoperationen nur auf den Seiten 2 bzw. 4 *phantomisiert*.
  [1]: http://texwelt.de/wissen/upfiles/test24_2.png