Kriminalassistent Harry Peters kommt über Umwege zu einem Schäferhund, den er Greif nennt, und den er als Polizeihund ausgebildet. Bei einer Verfolgung attackiert der Hund plötzlich den Polizisten. Harry versucht nun, die Verbrecher allein zu stellen, doch der Hund Greif folgt ihm heimlich.
Der Film basiert auf der gleichnamigen Operette von Leon Jessel mit einem Libretto von August Neidhart. Der Domkapellmeister Römer, der fast das Pensionsalter erreicht hat, fühlt sich wie im zweiten Frühling. Er hat sich heimlich in seine junge Haushaltshilfe Bärbele verliebt.