Die Ursache ist schlicht die Randnotiz (`\marginpar`-Anweisung) in der Überschrift. Das führt theoretisch dazu, dass eine solche Randnotiz auch im Kolumnentitel und im Inhaltsverzeichnis landet. Beides ist vermutlich nicht erwünscht und außerdem funktionieren Randnotizen mit `\marginpar` nicht im Kolumnentitel – auch nicht, wenn man wie LyX ein `\protect` davor setzt.
Lösung: Der Kapitelüberschrift einen zusätzlichen Text ohne Randnotiz für Inhaltsverzeichnis und Kolumnentitel mit auf den Weg geben. Das geht bei LyX einfach mit Rechtsklick auf die Überschrift und dann `Kurztitel` im Popup-Menü auswählen. Den gewünschten Kurztitel (also vermutlich den gleichen wie den Haupttitel aber ohne die Randnotiz) eingeben. Fertig.Fertig.
Übrigens verwendet LyX bei dem Beispiel auch die `eqnarray*`-Umgebung, obwohl in der Anleitung zum ebenfalls verwendeten Paket `amsmath` steht:
>Although the standard eqnarray environment remains available, it is better to
>use align or equation+split instead.
Auch verwendet LyX nicht `\text`, sondern `\mbox`. Das sind zwar beides nicht unbedingt Fehler, zeigt aber, dass LyX keinen wirklich guten Code erzeugt.