Em português, todo tempo composto usa ter: tinha comido, tinha ido, tinha chegado. Em alemão, não: um grupo pequeno — mas muito frequente — de verbos forma o Perfekt com sein:

• movimento de A para B — gehen, fahren, kommen, fliegen, laufen, rennen, wandern: Ich bin nach Hause gegangen. — Eu fui para casa.
• mudança de estado — aufwachen (acordar), einschlafen (pegar no sono), werden (ficar, tornar-se): Sie ist sofort eingeschlafen. — Ela pegou no sono na hora.
• e dois que não são nem uma coisa nem outra — sein e bleiben: Wir sind zu Hause geblieben. — A gente ficou em casa. Ich bin in Wien gewesen. — Eu estive em Viena.

Pronome	sein
ich	bin
du	bist
er / sie / es	ist
wir	sind
ihr	seid
sie / Sie	sind

Regra prática: se o verbo tem objeto direto, haben. Sem objeto, e alguém se desloca de A para B ou muda de estado? Então sein. Ich habe gegangen — calcado no nosso tenho ido — é o erro número um dos brasileiros. Que não seja o seu!