Sieht wie ein einfacher Tippfehler aus: statt `\usepackage[amsmath]` muss es `\usepackage{amsmath}` heißen.
Das folgende Minimalbeispiel
\documentclass{article}
\usepackage[amsmath]
\usepackage{fancyhdr}
\begin{document}
bla
\end{document}
liefert den Fehler
! Argument of \@fileswith@pti@ns has an extra }.
<inserted text>
\par
l.3 \usepackage{
fancyhdr}
Die Fehlermeldung ist hier vielleicht etwas irreführend, da der tatsächliche Fehler ja in Zeile 2 passiert (eckige statt geschweifter Klammern), aber aus LaTeXs Sicht sind die eckigen Klammern völlig in Ordnung. Schließlich hat `\usepackage` ja ein optionales Argument, das in eckigen Klammern angegeben wird. LaTeX vermisst noch nicht einmal das obligatoriche obligatorische Argument – es nimmt einfach den nächsten das nächste Token dafür, in diesem Fall das folgende `\usepackage`. Die genau gleichen Fehlermeldungen erhält man denn auch mit diesem Beispiel, das eher demonstriert, was LaTeX sieht:
\documentclass{article}
\usepackage[amsmath]{\usepackage}
{fancyhdr}
\begin{document}
bla
\end{document}