Die beiden Bibliotheken sind erst seit der pgf/TikZ Version 3.0 verfügbar. Das ist auch die derzeit aktuelle Version auf CTAN und bei MiKTeX sowie TeX Live. Du musst also in jedem Fall ein Update des Paketes `pgf` machen.
Außerdem werden bei der Angabe von `angle` Nodennamen ohne Klammern erwartet. Explizite Koordinatenangaben sind im Wert für `angle` nicht möglich. Vermutlich stimmte auch die Reihenfolge der Koordinaten bei Dir nicht. Mir ist deshalb nicht klar, welcher Winkel markiert werden soll.
\documentclass[margin=5pt]{standalone}
\usepackage{tikz}
\usetikzlibrary{decorations.markings}
\usetikzlibrary{angles,quotes}% braucht mindestens pgf/TikZ Version 3.0
\begin{document}
\begin{tikzpicture}[scale=2]
\draw[decoration={markings, mark=at position 0.10 with {\arrow[thick]{>}}},
decoration={markings, mark=at position 0.35 with {\arrow[thick]{>}}},
decoration={markings, mark=at position 0.65 with {\arrow[thick]{>}}},
decoration={markings, mark=at position 0.85 with {\arrow[thick]{>}}},
postaction={decorate}] (0,0) circle (1cm);
\draw[thick, ->] (-1.5,0) -- (1.5,0) node[below=1pt,fill=white] {$Re(z)$};
\draw[thick, ->] (0,-1.5) -- (0,1.5) node[above,fill=white] {$Im(z)$};
\coordinate(A)at(-1.5,0);
\coordinate(O)at(0,0);
\coordinate(Z)at(60:1);
\draw [ultra thick, red](A) --(O);
\draw [ultra thick, blue] (O) --
(Z)node[circle,fill=black,inner sep=0.025mm,transform shape,label=above:$Z_0$]{};
%
\pic[draw,fill=yellow,fill opacity=0.3,angle radius=4mm,"$\varphi$" opacity=1]
{angle=Z--O--A};
\pic[draw,fill=orange,fill opacity=0.3,angle radius=4mm,"$\alpha$" opacity=1]
{angle=A--O--Z};
\end{tikzpicture}
\end{document}
![alt text][1]
----------
Da in einem Kommentar jetzt angegeben ist, welcher Winkel markiert werden soll, ist hier noch ein weiterer Vorschlag. Jetzt wird außerdem die `backgrounds` Bibliothek geladen und das Zeichnen des Winkels auf dem `background layer`, damit dessen Füllung nicht Linien teilweise überdeckt. Alternativ könnte man auch den Winkel vor den Linien zeichnen.
\documentclass[margin=5pt]{standalone}
\usepackage{tikz}
\usetikzlibrary{decorations.markings}
\usetikzlibrary{angles,quotes}% braucht mindestens pgf/TikZ Version 3.0
\usetikzlibrary{backgrounds}
\begin{document}
\begin{tikzpicture}[scale=2]
\draw[decoration={markings, mark=at position 0.10 with {\arrow[thick]{>}}},
decoration={markings, mark=at position 0.35 with {\arrow[thick]{>}}},
decoration={markings, mark=at position 0.65 with {\arrow[thick]{>}}},
decoration={markings, mark=at position 0.85 with {\arrow[thick]{>}}},
postaction={decorate}] (0,0) circle (1cm);
\draw[thick, ->] (-1.5,0) -- (1.5,0) coordinate[label=below:$Re(z)$](Re);
\draw[thick, ->] (0,-1.5) -- (0,1.5) coordinate[label=above:$Im(z)$](Im);
\draw [ultra thick, blue] (0,0)coordinate(O) --
(60:1)node(Z0)[circle,fill=black,inner sep=0.025mm,transform shape,label=above:$Z_0$]{};
%
\begin{scope}[on background layer]
\pic[draw,fill=yellow,fill opacity=0.3,angle radius=6mm,"$\varphi$" opacity=1]
{angle=Re--O--Z0};
\end{scope}
\end{tikzpicture}
\end{document}
![alt text][2]
[1]: http://texwelt.de/wissen/upfiles/tw_anglelb.pnghttp://texwelt.de/wissen/upfiles/tw_anglelb.png
[2]: http://texwelt.de/wissen/upfiles/tw_anglelb1_1.png