Offenbar hat das Paket `fancyhdr` einen Bug. Bereits
\documentclass{book}
\usepackage[Glenn]{fncychap}
\begin{document}
\tableofcontents
\end{document}
produziert genau denselben Fehler. Da das Problem also auch mit einer Standardklasse auftritt, ist es wohl kein Fehler von KOMA-Script.
Mir scheint, `fncychap` kommt mit `\chapter*{Test\markboth{Test}{Test}}` nicht klar. Es ist wohl eher ein glücklicher Zufall, wenn es mit einer älteren Version von KOMA-Script trotzdem funktioniert. Fast ebenso zufällig scheint das ganze zu finktionieren, funktionieren, wenn man `\protect` vor `\markboth` setzt. Dass das notwendig ist, ist einigermaßen erstaunlich, denn eigentlich sind die Argumente der Sternvariante der Gliederungsbefehle keine *moving arguments* und eigentlich ist `\markboth` auch nicht sooo zerbrechlich. Wie dem auch sei, wenn die Lösung darin besteht, `\markboth` ein `\protect` voran zu stellen, dann funktioniert *derzeit* (also wieder eher zufällig):
\documentclass{scrbook}
\usepackage[Glenn]{fncychap}
\makeatletter
\BeforeTOCHead[toc]{%
\ifx\@mkboth\@gobbletwo\else\def\@mkboth{\protect\markboth}\fi}
\makeatother
\begin{document}
\frontmatter
\tableofcontents
\mainmatter
\chapter{First}
\section{Introduction}
Hello.
\section{Second Section}
Good bye.
\end{document}
Der Trick dabei ist, dass KOMA-Script im Inhaltsverzeichnis nicht wirklich `\markboth`, sondern `\@mkboth` verwendet. Das kann man dann mit Hilfe von `\BeforeTOCHead` im Inhaltsverzeichnis noch vor der Ausgabe der Überschrift so umdefinieren, dass es nicht `\markboth`, sondern `\protect\markboth` verwendet.
Ist natürlich nur ein Hack. Besser wäre, wenn man den Bug in `fncychap` beseitigen würde. Am besten schreibst Du einen Bugreport an den Autor. Du kannst gerne mein 5-Zeilen-Minimalbeispiel vom Anfang dieser Antwort verwenden.verwenden.
Es sei außerdem darauf hingewiesen, dass mit `fncychap` natürlich diverse Features von KOMA-Script bezüglich der Überschriften nicht funktionieren.
