Nimm `\ldotp` statt `\cdot`:
![alt text][1]
Code:
\documentclass[12pt,margin=10pt]{standalone}
\usepackage[utf8]{inputenc}
\usepackage[ngerman]{babel}
\usepackage{libertine}
\usepackage[libertine, liby]{newtxmath}
\usepackage{tikz}
\usetikzlibrary{angles,quotes,babel}
\begin{document}
\begin{tikzpicture}
\draw (2,-2) coordinate (A) -- (0,0) coordinate (B) -- (2,2) coordinate (C);
\draw[help lines](0,0)--(2,0);
lines](0,0)--(2,0);% Hilfslinie für Winkelmitte
\pic["$\ldotp$",draw] {angle};
\end{tikzpicture}
\end{document}
Zum Hintergrund: Die Box von `\cdot` hat in der Standardschrift eine größere Höhe als in Libertine/NewTXMath. Dadurch befindet sich der Punkt in der Standardschrift halbwegs auf halber Höhe. In der anderen Schrift ist er dagegen weit oberhalb der Boxmitte. Sehen kann man das auch, wenn man die Zeichen in eine `\fbox` setzt.
Standardschrift:
![alt text][3]
Libertine/NewTXMath:
![alt text][4]
Code:
\documentclass[margin=2pt]{standalone}
\usepackage[utf8]{inputenc}
\usepackage[ngerman]{babel}
\usepackage{libertine}
\usepackage[libertine, liby]{newtxmath}
\setlength\fboxsep{0pt}
\begin{document}
\fbox{a}\fbox{g}\fbox{$\cdot$}\fbox{$\ldotp$}
\end{document}
[1]: http://texwelt.de/wissen/upfiles/ldotp.png
[2]: http://texwelt.de/wissen/upfiles/libertine.png
[3]: http://texwelt.de/wissen/upfiles/standardschrift.png
[4]: http://texwelt.de/wissen/upfiles/libertine_1.png