In `scrreprt` sind die Befehle, die die Nummerierung machen äquivalent zu folgendem definiert:
\thepart => \Roman{part}
\thechapter => \arabic{chapter}
\thesection => \thechapter.\arabic{section}
\thesubsection => \thesection.\arabic{subsection}
\thesubsubsection => \thesubsection.\arabic{subsubsection}
\theparagraph => \thesubsubsection.\arabic{paragraph}
\thesubparagraph => \theparagraph.\arabic{subparagraph}
Du hast zwar `\thechapter` umdefiniert, `\thesection` aber gelassen, wo `\thechapter` verwendet wird (und in der Folge auch in allen weiteren). Das heißt
\renewcommand*{\thesection}{\arabic{section}}
sollte ausreichen.
Ich halte das aber grundsätzlich für eine schlechte Idee: sobald Du Querverweise auf Abschnitte machst, weiß man nicht mehr, *welcher* »Abschnitt 1« gemeint ist. Du müsstest dann immer »Abschnitt 1 in Kapitel IV« oder dergleichen daraus machen, damit der/die Leser/in zurecht kommt.
Besser noch (Dank an @Ijon für den Hinweis!): den internen Befehl `\p@section` umdefinieren. Wenn für einen Zähler (z.B. `section`) das Label gespeichert wird (in `\@currentlabel`), dann wird dort die Expansion von `\p@<zähler>\the<zähler>` gespeichert, im Fall von `section` also: `\p@section\thesection`. Das kann man ausnutzen, um bei Querverweisen dennoch die Kapitelnummer zu erhalten:
\renewcommand*{\thechapter}{\Roman{chapter}}
\renewcommand*{\thesection}{\arabic{section}}
\makeatletter
\renewcommand*\p@section{\thechapter.}
\makeatother\makeatother
Als komplettes Beispiel:
\documentclass[12pt]{scrreprt}
\usepackage[utf8]{inputenc}
\usepackage[T1]{fontenc}
\usepackage[ngerman]{babel}
\renewcommand*{\thechapter}{\Roman{chapter}}
\renewcommand*{\thesection}{\arabic{section}}
\makeatletter
\renewcommand*\p@section{\thechapter.}
\makeatother
\begin{document}
\tableofcontents
\chapter{Kapitel I}
\section{Überschrift Eins}\label{sec:foo}
\subsection{Überschrift Eins.Eins}
\chapter{Kapitel II}
\section{Überschrift Eins}
\subsection{Überschrift Eins.Eins}
Siehe Abschnitt~\ref{sec:foo}
\end{document}