Man kann sicher darüber streiten, ob das ein Bug ist. Da das Komma im Gegensatz zum Punkt nicht als Dezimaltrenner, sondern als Operator definiert ist, wird ein bestimmtes Zeichen aus einem bestimmten Font dafür verwendet. Daran ändert `\mathsf` dann nichts.
Mit Hilfe des ohnehin sehr empfehlenswerten Pakets [`siunitx`](http://www.ctan.org/pkg/siunitx) kann man sich allerdings einen Workaround schaffen:
\documentclass{article}
\usepackage{siunitx}
\begin{document}
\huge\raggedright
normale Textschrift: 5,3 \\
normale Mathematikschrift: $5{,}3$ \\
serifenlose Mathematikschrift: $\num[math-rm=\mathsf,output-decimal-marker={\textsf{,}}]{5,3}$ \\
serifenlose Textschrift: \sffamily 5,3
\end{document}
Wenn man allgemein das Komma als Dezimaltrenner verwenden will, lässt sich das auch noch optimieren:
\documentclass{article}
\usepackage[detect-family,detect-mode,output-decimal-marker={,}]{siunitx}
\newcommand*{\sfnum}[2][]{\num[#1,math-rm=\mathsf,output-decimal-marker={\textsf{,}}]{#2}}
\begin{document}
\huge\raggedright
normale Textschrift: \num{5,3} \\
normale Mathematikschrift: $\num{5,3}$ \\
serifenlose Mathematikschrift: $\sfnum{5,3}$ \\
serifenlose Textschrift: \textsf{\num{5,3}}
\end{document}
![Ergebnis][1]
Eine weitere Alternative besteht darin, die fehlenden serifenlosen Mathefonts per Paket zu aktivieren. Das geht für Computer Modern mit [`sansmathfonts`](http://ctan.org/pkg/sansmathfonts):
\documentclass{article}
\usepackage{sansmathfonts}
\begin{document}
\huge\raggedright
normale Textschrift: 5,3 \\
normale Mathematikschrift: $5{,}3$ \\
serifenlose Mathematikschrift: $\mathsf{5{,}3}$ \\
serifenlose Textschrift: \textsf{5,3}
\end{document}
![Ergebnis mit sansmathfonts][2]
Wie zu sehen ist, ist das nur sinnvoll, wenn man die komplette Mathematik serifenlos haben will.
[1]: http://texwelt.de/wissen/upfiles/test26_1.png
[2]: http://texwelt.de/wissen/upfiles/test27_1.png