Das Paket `mathabx` besteht aus zwei Teilen:
* `mathabx.sty`, dem eigentlichen LaTeX-Paket, das die Mathe-Fontfamilie und die Symbolfonts etc. definiert und ganz am Ende `mathabx.dcl` lädt.
* `mathabx.dcl`, das die Befehle für die Symbole, Operatoren etc. definiert.
Um nur einzelne Zeichen von `mathabx` zu verwenden, bietet sich daher an, zwar die ganzen Grundeinstellungen aus `mathabx.sty` zu verwenden, nicht aber die Definitionen aus `mathabx.dcl` zu laden. Am besten wäre es, dazu die Datei `mathabx.sty` zu laden und abzuändern. Es geht aber auch mit einem üblen Hack. Legt man nämlich im Arbeitsverzeichnis (also dem Verzeichnis aus dem heraus LaTeX aufgerufen wird) selbst eine leere Datei `mathabx.dcl` an, so wird normalerweise von `mathabx.sty` diese statt der Originaldatei geladen. Jetzt muss man nur noch die Definition des gewünschten Zeichens aus der originalen `mathabx.dcl` kopieren.
Hier das ganze als vollständiges Minimalbeispiel:
\documentclass{article}
\usepackage{libertinust1math}
% Überschreiben einer eventuell bereits vorhandenen Datei
% mathabx.dcl ohne Rücksicht auf Verluste, was im schlimmsten
% Fall auch die Originaldatei des Pakets mathabx zerstören kann:
\begin{filecontents}[force]{mathabx.dcl}
\relax
\end{filecontents}
\usepackage{mathabx}
\DeclareMathSymbol{\bigast} {1}{mathb}{"06}
\begin{document}
$\bigast$
\end{document}
Ich würde mir für ein großes Asterisk aber einen weniger komplizierten Weg suchen und beispielsweise das Paket [`pifont`](https://www.ctan.org/pkg/pifont) verwenden:
\documentclass{article}
\usepackage{libertinust1math}
\usepackage{pifont}
\begin{document}
{\large\ding{83}}
\ding{83} {\large\ding{83}} {\Large\ding{83}} {\LARGE\ding{83}}
\end{document}