Du solltest hier immer ein minimales Arbeitsbeispiel formulieren und das beginnt in Deinem Fall mit `\documentclass{scrbook}`. Dann kommt die Präamble. Der Dokumentinhalt wird dann zwischen `\begin{document}` und `\end{document}` gesetzt.
Setze in die Präamble
\usepackage{chemfig}
\setchemfig{atom sep = 2em}
Vielleicht hat's daran gelegen, dass die Aromaten zu groß sind.
Hier doch ein das vollständigees Minimalbeispiel, ohne Berücksichtigung der Seitenränder. Möglicherweise muss der Abstand der Elementsymbole angepasst werden.
\documentclass{scrbook}
\usepackage{chemfig}
\setchemfig{atom sep = 2em} % setzt den Abstand der Elementsymole
\renewcommand*\printatom[1]{\ensuremath{\mathsf{#1}}} % Elementsymb. o. Serifen
\begin{document}
\begin{table}
\begin{tabular}{cccc}
\hline
Eintrag & Substrat & Produkt & Ausbeute (\%) \\
\hline \\
1 & \chemfig{[:-270]*6(-*5(-S-=N-)=-=-(-)=)}
& \chemfig{[:-270]*6(-*5(-S-(-COOMe)=N-)=-=-(-)=)} & 91 \\ \\
2 & \chemfig{[:-270]*6(-*5(-S-=N-)=-=-(-CN)=)}
& \chemfig{[:-270]*6(-*5(-S-(-COOMe)=N-)=-=-(-CN)=)} & 90 \\ \\
3 & \chemfig{[:-270]*6(-*5(-S-=N-)=-=-(-(=[:-70]O)-[::-60]*6(-=-=-=))=)}
& \chemfig{[:-270]*6(-*5(-S-(-COOMe)=N-)=-=-(-(=[:-70]O)
-[::-60]*6(-=-=-=))=)} & 68 \\ \\
4 & \chemfig{[:-270]*6(-*5(-O-=N-)=-=-=)}
& \chemfig{[:-270]*6(-*5(-O-(-COOMe)=N-)=-=-=)} & 91 \\ \\
5 & \chemfig{[:-270]*6(-*5(-O-=N-)=-=(-)-=)}
& \chemfig{[:-270]*6(-*5(-O-(-COOMe)=N-)=-=(-)-=)} & 83 \\ \\
6 & \chemfig{[:-270]*6(-*5(-O-=N-)=-=(-Cl)-=)}
& \chemfig{[:-270]*6(-*5(-O-(-COOMe)=N-)=-=(-Cl)-=)} & 92 \\ \\
7 & X & X & 92 \\
\hline
\end{tabular}
\end{table}
\end{document}\end{document}
