Wieso soll ich \[ ... \] anstatt $$ ... $$ verwenden?

$$ ist plain TeX Syntax, oder primitive Syntax, d.h. im TeX-Kern verankert. Sie wird offiziell nicht von LaTeX unterstützt! Der sichtbarste Nachteil ist, dass sie nicht der Paketoption fleqn gehorcht: die damit dargestellten Gleichungen bleiben zentriert.

\[ ist eine Kurzschreibweise für \begin{displaymath} oder, wenn man amsmath geladen hat (was man tun sollte, wenn man ernsthaft Mathe setzen möchte), für \begin{equation*}. \] steht für die entsprechenden \end Anweisungen.

In latex.tlx (dem LaTeX-Kernel) ist \[ folgendermaßen definiert:

\def\[{%
   \relax\ifmmode
      \@badmath
   \else
      \ifvmode
         \nointerlineskip
         \makebox[.6\linewidth]{}%
      \fi
      $$
   \fi
}

Das bedeutet, dass abgesehen von Fehlerchecks der Abstand zum umgebenden Absatz besser ist als beim reinen Einsatz von $$. Allerdings sind die Abstandseinstellungen nicht abgestimmt mit denen von {equation}. Das ist in der AMS-version konsistenter -- ein weiterer Grund, amsmath zum Default-Paket zu machen, wenn man Mathe betreiben will.

Das folgende Beispiel zeigt die unterschiedlichen Abstände:

\documentclass{article}
\usepackage{lipsum}% Dummy-Text
\begin{document}

\lipsum[3]
$$
  a^2 + b^2 = c^2
$$
\lipsum[3]
\[
  a^2 + b^2 = c^2
\]
\lipsum[3]

\end{document}

Deutlich zu sehen: fleqn wird nicht unterstützt:

\documentclass[fleqn]{article}
\usepackage{lipsum}% Dummy-Text
\begin{document}

\lipsum[3]
$$
  a^2 + b^2 = c^2
$$
\lipsum[3]
\[
  a^2 + b^2 = c^2
\]
\lipsum[3]

\end{document}

_{Danke an David Carlisle, dessen englische Antwort der entsprechenden Frage auf TeX.sx stark als Vorlage herhalten musste ;)}